Nhà nghiên cứu tuổi teen rời đi sau khi góp phần tái thiết kế Kimi
Chen Guangyu, nhà nghiên cứu 17 tuổi góp phần phát triển một phương thức mới giúp các mô hình trí tuệ nhân tạo truyền thông tin giữa các tầng, thông báo ngày 15 tháng 10 năm 2026 rằng anh đã rời Moonshot AI, công ty Trung Quốc đứng sau Kimi. Anh gia nhập nhóm nghiên cứu của công ty vào tháng 11 năm 2025, khi mới 16 tuổi.
Nội dung
- Nhà nghiên cứu tuổi teen rời đi sau khi góp phần tái thiết kế Kimi
- Đóng góp của Chen cho nghiên cứu
- Attention Residuals thay đổi mô hình như thế nào
- Kết quả được công bố cho thấy điều gì
- Từ cuộc thi lập trình ở trường đến nhóm nghiên cứu
- Các mốc thời gian trong quá trình thăng tiến nhanh chóng
- Lời mời từ Anthropic và câu chuyện triệu USD
- Vì sao Discovery Loop được nhắc đến
- Việc Chen rời đi để lại điều gì ở Moonshot
- Điểm chính
Được biết đến trên trường quốc tế với tên Nathan Chen, thiếu niên đến từ Thâm Quyến rời đi sau khi có đóng góp nghiên cứu cụ thể: đồng tác giả chính của bài báo Attention Residuals, công bố ngày 16 tháng 3 năm 2026 cùng các nhà nghiên cứu Yu Zhang và Jianlin Su của Moonshot. Theo các thông tin về đợt phát hành mô hình hồi tháng 7, kỹ thuật này sau đó được đưa vào Kimi K3.
Các thí nghiệm được Moonshot công bố cho thấy bức tranh chính xác hơn về công trình này so với sự chú ý xoay quanh tuổi tác của Chen. Trong các thử nghiệm với mô hình Kimi Linear có 48 tỷ tham số, nhóm nghiên cứu ghi nhận mức cải thiện ở tất cả các tác vụ được đánh giá. Phương pháp Block Attention Residuals của họ cũng đạt mức tổn thất huấn luyện tương đương một mô hình thông thường được cấp lượng năng lực tính toán gấp 1,25 lần.
Việc Chen rời đi đã thu hút lời mời công khai từ Anthropic, đồn đoán về một công ty khởi nghiệp do các cựu nhà nghiên cứu Google thành lập, cùng những nỗ lực liên hệ anh với một thiếu niên không được nêu tên, được cho là đang có năm lời mời làm việc trị giá khoảng 1 triệu USD mỗi lời mời hoặc cao hơn.
Tuy nhiên, Chen đã công khai bác bỏ suy đoán rằng anh sẽ gia nhập Anthropic. Nơi làm việc tiếp theo, gói đãi ngộ và việc anh có quay lại đại học hay không vẫn chưa được xác nhận.
Trong lời nhắn chia tay, Chen kể về thời gian làm việc tại Moonshot và cảm ơn những người đã tuyển dụng mình. Thực tập sinh nghiên cứu học máy sắp rời công ty viết:
Năm vừa qua là năm tuyệt vời nhất trong cuộc đời tôi.
Thông điệp của anh khép lại bằng mong muốn tiếp tục khám phá, chứ không nêu một điểm đến cụ thể.
Đóng góp của Chen cho nghiên cứu
Tên Chen xuất hiện cùng Zhang và Su với ghi chú đóng góp ngang nhau trong báo cáo Attention Residuals của nhóm Kimi. Ghi chú này ghi nhận cả ba có đóng góp dẫn dắt trong nỗ lực của một nhóm lớn hơn nhiều.
Su, được biết đến với công trình về phép nhúng vị trí xoay, hay RoPE, đã tiến hành các thí nghiệm ban đầu. RoPE giúp mô hình ngôn ngữ theo dõi vị trí xuất hiện của từ hoặc các phần thông tin khác trong một chuỗi. Zhang là tác giả chính của nghiên cứu kiến trúc Kimi Linear.
Su ghi nhận Zhang và Chen đã góp phần biến ý tưởng Attention Residuals ban đầu thành một phương pháp thực tiễn cho các mô hình lớn. Hai người cùng đề xuất Block AttnRes, phiên bản được thiết kế để duy trì lợi ích của phương pháp đồng thời giảm nhu cầu bộ nhớ và trao đổi dữ liệu khi áp dụng ở quy mô lớn.
Chen cũng tham gia tăng tốc các kernel tính toán cho Kimi Delta Attention, hay KDA. Kernel là một chương trình nhỏ thực hiện một phép tính cụ thể trên bộ xử lý đồ họa. Cải thiện kernel có thể giúp cùng phần cứng hoàn thành một tác vụ nhanh hơn.
Vì vậy, công việc của anh trải rộng trên hai lĩnh vực có liên hệ với nhau: quyết định cách xây dựng mô hình và giúp các phép tính làm nền tảng cho thiết kế đó chạy hiệu quả. Với một phòng thí nghiệm huấn luyện các mô hình lớn, cả hai đều ảnh hưởng đến khối lượng nghiên cứu có thể hoàn thành trong giới hạn ngân sách tính toán.
Attention Residuals thay đổi mô hình như thế nào
Mô hình ngôn ngữ xử lý thông tin qua nhiều tầng liên tiếp. Mỗi tầng biến đổi thông tin nhận được, xây dựng các biểu diễn để những tầng sau dùng nhằm dự đoán câu trả lời.
Các kết nối dư chuẩn giữ cho thông tin từ trước tiếp tục truyền qua quá trình đó bằng cách cộng các đầu ra của tầng lại với nhau. Kho nghiên cứu chính thức của Moonshot mô tả một vấn đề của cách tiếp cận này: khi mô hình sâu hơn, việc tích lũy lặp đi lặp lại có thể làm loãng đóng góp riêng lẻ và khiến độ lớn của các tín hiệu nội bộ tăng lên.
Attention Residuals thay cách tích lũy cố định này bằng một quy trình lựa chọn có thể học được. Tầng sau có thể gán trọng số khác nhau cho thông tin do các tầng trước tạo ra, tùy theo đầu vào hiện tại. Có thể hình dung như một độc giả tham khảo những ghi chú hữu ích nhất từ các chương trước thay vì giữ lại mọi ghi chú với tầm quan trọng như nhau.
Việc thực hiện lựa chọn riêng cho từng tầng trước đó làm phát sinh chi phí riêng. Block AttnRes nhóm các tầng lại, giữ phép cộng thông thường bên trong mỗi nhóm rồi lựa chọn giữa các biểu diễn thu được từ từng nhóm. Theo kho nghiên cứu, khoảng tám nhóm có thể khôi phục phần lớn lợi ích của phương pháp đầy đủ.
Cấu hình Kimi Linear lớn nhất được mô tả trong bài báo có 54 tầng, chia thành các nhóm sáu tầng. Chín nhóm này, cùng với biểu diễn token ban đầu, tạo thành 10 nguồn thông tin để lựa chọn. Đây là bước kỹ thuật thực tiễn giúp đưa ý tưởng từ thử nghiệm đến gần hơn với việc huấn luyện mô hình lớn.
Kết quả được công bố cho thấy điều gì
Bài báo tháng 3 thử nghiệm Attention Residuals trên mô hình Kimi Linear có tổng cộng 48 tỷ tham số, trong đó 3 tỷ tham số được kích hoạt trong quá trình xử lý. Tham số là các giá trị số mà mô hình học được. Chỉ kích hoạt một phần tham số cho phép mô hình tận dụng kho tri thức đã học lớn, đồng thời giới hạn lượng tính toán cần thiết cho mỗi bước.
Quá trình huấn luyện sử dụng 1,4 nghìn tỷ token, tức các mẩu văn bản hoặc dữ liệu khác mà mô hình xử lý. Nhóm nghiên cứu giữ nguyên những thành phần kiến trúc chính khác của mô hình, nhờ đó có thể so sánh việc bổ sung Attention Residuals với thiết kế cơ sở.
Ở GPQA-Diamond, bài kiểm tra các câu hỏi khoa học khó, điểm số tăng từ 36,9 lên 44,4, tức tăng 7,5 điểm. HumanEval, bài kiểm tra khả năng tạo mã, tăng từ 59,1 lên 62,2. MMLU, bộ đo chuẩn kiến thức tổng quát, tăng từ 73,5 lên 74,6.
So sánh về năng lực tính toán cũng đáng chú ý. Đạt kết quả ngang với một mô hình cơ sở sử dụng lượng tính toán gấp 1,25 lần đồng nghĩa đạt cùng mức tổn thất huấn luyện được báo cáo chỉ với bốn phần năm ngân sách của mô hình cơ sở, tức giảm 20% lượng tính toán. Tổn thất huấn luyện đo mức chênh lệch giữa dự đoán của mô hình và câu trả lời mục tiêu trong quá trình huấn luyện.
Moonshot cũng cho biết riêng công nghệ này giúp K3 cải thiện khoảng 25% hiệu suất huấn luyện, với mức chi phí bổ sung dưới 2%. Các thí nghiệm tháng 3 và tuyên bố về K3 sau đó liên quan đến những thiết lập mô hình khác nhau; các số liệu chuẩn chi tiết được công bố ở trên là của Kimi Linear.
Từ cuộc thi lập trình ở trường đến nhóm nghiên cứu
Chen sinh năm 2009 tại Thâm Quyến. Trước khi gia nhập Moonshot, anh tổ chức một cộng đồng mã nguồn mở dành cho thanh thiếu niên, phát triển các bot phần mềm và tìm hiểu những lĩnh vực từ an toàn AI đến vật lý.
Trong thời gian chuẩn bị hồ sơ đại học, anh tạm dừng một số hoạt động mình không yêu thích và bắt đầu đọc về những chủ đề khiến mình hứng thú. Con đường bước vào nghiên cứu sau đó kết hợp việc tự học, viết bài kỹ thuật công khai và kết nối với các nhà nghiên cứu đang làm việc trong ngành.
Tháng 2 năm 2025, anh tham gia cuộc thi hackathon AI dành cho học sinh trung học của Moonshot AI với ThirdArm, dự án hình dung về một cánh tay robot phụ trợ thứ ba. Tại đây, anh gặp Dong Kehan, thành viên nhóm sáng lập MiraclePlus, người khuyến khích anh tập trung vào công nghệ tiên phong.
Sau đó, một bài viết kỹ thuật về DeltaNet thu hút phản hồi từ nhà nghiên cứu Songlin Yang. Cuộc trao đổi này đến với Ben Keigwin của Tilde Research, một công ty khởi nghiệp ở Palo Alto, California, và dẫn đến cuộc trò chuyện về công việc của công ty. Tháng 7 năm 2025, khi mới 16 tuổi, Chen một mình đến đó để thực tập trong bảy tuần.
Phương pháp học của Chen bao gồm dành hàng giờ trao đổi với Gemini về các bài báo, gửi ảnh chụp màn hình những đoạn khó hiểu và đặt câu hỏi tiếp nối. Anh cũng đọc mã nguồn, blog và trang web của các nhà nghiên cứu, đồng thời xin lời khuyên từ nhà nghiên cứu Yuan Jingyang của DeepSeek về những lựa chọn quan trọng.
Trải nghiệm của anh không chỉ đơn thuần là dùng chatbot làm gia sư. Những bài viết công khai giúp người khác thấy được tư duy kỹ thuật của anh, các nhà nghiên cứu phản hồi, còn những kỳ thực tập tạo cơ hội để anh biến tư duy ấy thành công việc hợp tác.
Các mốc thời gian trong quá trình thăng tiến nhanh chóng
Trong chưa đầy hai năm, Chen đi từ một dự án ở trường đến kỳ thực tập quốc tế rồi tham gia nghiên cứu mô hình được công bố. Anh rời đi sau khi Attention Residuals được sử dụng trong một đợt phát hành lớn của Kimi.
- Tháng 2 năm 2025: Chen tham gia cuộc thi hackathon AI dành cho học sinh trung học của Moonshot.
- Tháng 7 năm 2025: Anh bắt đầu kỳ thực tập kéo dài bảy tuần tại Tilde Research ở Palo Alto.
- Tháng 11 năm 2025: Khi 16 tuổi, anh gia nhập nhóm Kimi của Moonshot với vai trò thực tập sinh nghiên cứu học máy.
- Ngày 16 tháng 3 năm 2026: Báo cáo kỹ thuật Attention Residuals được công bố, ghi nhận đóng góp ngang nhau của Chen, Zhang và Su.
- Tháng 6 năm 2026: Chen tốt nghiệp trung học.
- Tháng 7 năm 2026: Kimi K3 ra mắt với Attention Residuals là một trong những công nghệ kiến trúc của mô hình.
- Ngày 15 tháng 10 năm 2026: Chen thông báo đã rời Moonshot.
- Ngày 16 tháng 10 năm 2026: Anh bác bỏ suy đoán rằng mình sẽ gia nhập Anthropic.
- Ngày 20 tháng 10 năm 2026: Một tài khoản ẩn danh tuyên bố anh sẽ gia nhập Discovery Loop.
Thông tin học vấn công khai của anh cũng ghi nhận việc theo học tại Đại học Carnegie Mellon trong tháng 8 và tháng 9 năm 2026. Khoảng thời gian ngắn này trở thành một phần trong những đồn đoán về việc bước tiếp theo của anh sẽ là đi làm hay học tiếp.
Lời mời từ Anthropic và câu chuyện triệu USD
Sholto Douglas, người đứng đầu mảng học tăng cường có khả năng mở rộng tại Anthropic, đã bình luận trên bài đăng chia tay của Chen. Ông hỏi liệu Chen có còn dự định theo học tại Đại học Carnegie Mellon không và mời anh cùng làm việc tại San Francisco.
Chen trả lời rằng anh đang đến khu vực Vịnh San Francisco. Khi cuộc trao đổi làm dấy lên suy đoán rằng anh đã gia nhập Anthropic, anh đáp ngắn gọn:
không :)
Câu chuyện tiền lương bắt đầu từ một nguồn riêng. Nhà đầu tư Deedy Das của Menlo Ventures kể rằng ông gặp một thiếu niên 17 tuổi không được nêu tên, người tự học AI với sự trợ giúp của các mô hình ngôn ngữ, thực tập khoảng một năm tại một công ty AI hàng đầu rồi rời một chương trình đại học có thứ hạng cao ở Mỹ sau hai tuần.
Theo Das, thiếu niên này nhận được năm lời mời từ các phòng thí nghiệm AI hàng đầu tại San Francisco, mỗi lời mời trị giá khoảng 1 triệu USD trở lên. Das cũng thuật lại rằng thiếu niên ấy ưu tiên việc học hỏi hơn tiền bạc.
Người dùng mạng xã hội liên hệ mô tả đó với Chen vì tuổi tác và quá trình nghiên cứu của anh. Das không nêu tên thiếu niên, còn Chen chưa xác nhận những lời mời đó là dành cho mình. Do vậy, cuộc thảo luận xoay quanh các lời mời được cho là của một người không được nêu tên, chứ không phải một thỏa thuận tuyển dụng công khai dành cho Chen.
Lời mời công khai từ Douglas là dấu hiệu cụ thể hơn về sự quan tâm: một nhà nghiên cứu cấp cao đã công khai khuyến khích Chen gia nhập nhóm của ông. Phản hồi bác bỏ sau đó cũng cho độc giả câu trả lời trực tiếp về đồn đoán liên quan đến Anthropic.
Vì sao Discovery Loop được nhắc đến
Discovery Loop trở thành tâm điểm tiếp theo sau khi Arfur Grok, một tài khoản ẩn danh theo dõi biến động nhân sự ngành AI, tuyên bố ngày 20 tháng 10 rằng Chen đã gia nhập công ty. Chen chưa xác nhận việc được tuyển dụng, còn công ty từ chối bình luận về các vấn đề nhân sự.
Công ty được các cựu nhà nghiên cứu Google Jeff Dean, Sanjay Ghemawat, Quoc Le và Oriol Vinyals thành lập vào tháng 8 năm 2026. Mục tiêu được công bố là sử dụng AI để tự động hóa nghiên cứu khoa học và học máy, bao gồm đề xuất ý tưởng, tiến hành thí nghiệm và phân tích kết quả.
Với một nhà nghiên cứu quan tâm đến thiết kế mô hình hiệu quả, sứ mệnh đó sẽ gắn với những vấn đề kỹ thuật quen thuộc. Các hệ thống chạy nhiều thí nghiệm nghiên cứu cần sử dụng tài nguyên tính toán hiệu quả; những cải tiến về thuật toán hoặc kernel có thể giúp thực hiện thêm nhiều thí nghiệm trong cùng một ngân sách cố định.
Hoạt động huy động vốn của Discovery Loop cũng thu hút sự chú ý. Theo thông tin, công ty đã tìm kiếm nguồn vốn vào tháng 9 với mức định giá khoảng 50 tỷ USD, so với các cuộc thảo luận về mức 10 tỷ USD chỉ vài tuần trước đó, tức tăng gấp năm lần. Những con số này là mức định giá doanh nghiệp được đề xuất trong các cuộc đàm phán gọi vốn.
Chen cũng có sẵn mối liên hệ với khu vực Vịnh San Francisco thông qua Tilde Research. Kỳ thực tập trước đây ở đó giúp lý giải vì sao chuyến đi đến California có thể liên quan đến nhiều mối liên hệ nghề nghiệp, thay vì chỉ một điểm đến hiển nhiên.
Việc Chen rời đi để lại điều gì ở Moonshot
Nhà nghiên cứu Du Yulun của Moonshot, người ủng hộ tuyển Chen khi anh 16 tuổi, cho biết hai người đã có nhiều cuộc trò chuyện dài về quyết định rời đi của anh. Du bày tỏ sự tiếc nuối nhưng vẫn ủng hộ mong muốn khám phá những mối quan tâm mới ở độ tuổi này của Chen.
Những đóng góp của Chen vẫn là một phần trong thành quả nghiên cứu của nhóm. Kimi K3, ra mắt vào tháng 7 với 2,8 nghìn tỷ tham số, kết hợp Attention Residuals với Kimi Delta Attention. Hai công nghệ xử lý những khía cạnh khác nhau của quá trình xử lý thông tin: AttnRes thay đổi cách thông tin di chuyển qua chiều sâu mô hình, còn KDA giúp xử lý chuỗi hiệu quả.
Moonshot quy mức cải thiện khoảng 2,5 lần về hiệu suất mở rộng của K3 so với K2 cho sự kết hợp giữa thay đổi kiến trúc, phương pháp huấn luyện và lựa chọn dữ liệu. Điều đó đặt công trình của Chen trong nỗ lực rộng lớn hơn của công ty, với sự tham gia của nhiều nhà nghiên cứu và một số thay đổi kỹ thuật.
Ý nghĩa thực tiễn vượt ra ngoài sự nghiệp của một nhân viên trẻ khác thường. Mô hình học hiệu quả hơn có thể tận dụng tốt hơn các bộ xử lý đắt đỏ và ngân sách nghiên cứu. Một nhà nghiên cứu có thể kết nối thiết kế toán học với cách triển khai nhanh sẽ đóng góp trực tiếp cho mục tiêu đó.
Chen rời Moonshot với công trình đã công bố, kinh nghiệm tại hai môi trường nghiên cứu và sự quan tâm công khai từ một phòng thí nghiệm hàng đầu khác. Câu chuyện đã được xác nhận vốn đã đáng chú ý: một thiếu niên góp phần biến ý tưởng kiến trúc thành phương pháp có thể sử dụng, rồi chọn tiếp tục khám phá trước khi công bố vị trí tiếp theo.
Điểm chính
- Chen Guangyu, còn được biết đến với tên Nathan Chen, thông báo rời Moonshot AI ngày 15 tháng 10 năm 2026, khi 17 tuổi.
- Anh đồng tác giả chính cùng Yu Zhang và Jianlin Su trong bài báo Attention Residuals, công bố ngày 16 tháng 3.
- Các thí nghiệm của Moonshot cho thấy kết quả cải thiện ở tất cả tác vụ được đánh giá và đạt mức ngang với mô hình cơ sở sử dụng lượng tính toán gấp 1,25 lần.
- Chen góp phần phát triển Block AttnRes và tham gia tăng tốc các phép tính của Kimi Delta Attention.
- Anh cho biết đang đến khu vực Vịnh San Francisco và bác bỏ suy đoán rằng mình sẽ gia nhập Anthropic.
- Tuyên bố anh chuyển sang Discovery Loop và những suy đoán liên hệ anh với năm lời mời trị giá khoảng 1 triệu USD mỗi lời mời vẫn chưa được xác nhận.






