Kimi K2 Thinking của Trung Quốc tạo bước tiến mới cho AI mã nguồn mở, vượt GPT 5 trong các bài kiểm tra then chốt

Một mô hình mở mạnh mẽ thách thức nhóm dẫn đầu

Moonshot AI đã phát hành Kimi K2 Thinking, một mô hình có trọng số mở nhắm thẳng tới nhóm cao nhất của các hệ thống suy luận. Công ty cho biết mô hình vượt trội hơn các hệ thống độc quyền hàng đầu trong nhiều bài đánh giá khắt khe, đo lường khả năng suy luận từng bước, tác tử duyệt web và kỹ thuật phần mềm. K2 Thinking hiện có trên nền tảng của Moonshot và Kimi.com; trọng số được đăng tải trên các kho lưu trữ công khai để tự triển khai theo Giấy phép MIT sửa đổi, cho phép sử dụng thương mại với yêu cầu ghi công ở mức tối thiểu đối với các triển khai quy mô rất lớn.

Thiết kế của mô hình kết hợp quy mô lớn với hiệu quả. K2 Thinking sử dụng kiến trúc Mixture of Experts với tổng cộng một nghìn tỷ tham số theo công bố, trong khi chỉ kích hoạt khoảng 32 tỷ tham số cho mỗi token được tạo ra. Mô hình hỗ trợ cửa sổ ngữ cảnh 256.000 token và được huấn luyện để suy luận INT4 nguyên bản bằng phương pháp huấn luyện nhận biết lượng tử hóa. Cấu hình này giảm độ trễ và nhu cầu bộ nhớ, góp phần lý giải mức giá cạnh tranh. Không chỉ tập trung vào điểm số, bản phát hành còn thúc đẩy các mô hình mở tiến gần hơn tới hành vi của tác tử. K2 Thinking thể hiện khả năng lập kế hoạch dài hạn và sử dụng công cụ có cấu trúc qua 200 đến 300 lượt gọi liên tiếp, đồng thời có thể xuất ra các dấu vết suy luận minh bạch để người dùng kiểm tra những bước trung gian. Những khả năng này, kết hợp với chi phí thấp hơn, làm gia tăng sức ép lên các đối thủ đóng.

K2 Thinking là gì và hoạt động ra sao

K2 Thinking được xây dựng dưới dạng mô hình biến áp Mixture of Experts. Một tập hợp lớn các mô-đun chuyên gia chuyên biệt nằm sau bộ định tuyến, bộ phận chọn một nhóm nhỏ cho mỗi token, giúp giảm tải tính toán mà vẫn duy trì năng lực. Moonshot mô tả mô hình gồm 61 lớp, 384 chuyên gia, chọn tám chuyên gia cho mỗi token, 64 đầu chú ý, chiều ẩn 7168 và bộ từ vựng gồm 160.000 mục. Chỉ khoảng 32 tỷ tham số hoạt động tại một thời điểm, giúp việc suy luận nằm trong mức có thể quản lý trong khi tổng năng lực vẫn rất cao. Cơ chế chú ý được mô tả là chú ý tiềm ẩn đa đầu với hàm kích hoạt SwiGLU. Cách tiếp cận này tập trung huấn luyện và suy luận vào những chuyên gia phù hợp nhất với nội dung trong ngữ cảnh, cải thiện cả thông lượng lẫn độ chính xác.

Chuyên gia thưa và hiệu quả

Mixture of Experts cho phép mô hình mở rộng lên một nghìn tỷ tham số mà không cần chạy mọi tham số cho mỗi token. Trên thực tế, điều này có nghĩa mô hình có thể thể hiện khả năng suy luận sâu hơn và kiến thức rộng hơn, trong khi dung lượng bộ nhớ và thời gian xử lý mỗi bước vẫn nằm trong phạm vi của các bộ tăng tốc hiện nay. Cửa sổ ngữ cảnh 256k cho phép mô hình tiếp nhận các kho mã lớn hoặc những tập tài liệu nghiên cứu dài, sau đó lập kế hoạch qua nhiều bước khi gọi công cụ. Thiết kế này rất phù hợp với các tác vụ tác tử, trong đó hệ thống có thể tìm kiếm, đọc, viết và xác minh kết quả qua hàng chục hoặc hàng trăm hành động.

INT4 nguyên bản và huấn luyện nhận biết lượng tử hóa

Moonshot huấn luyện K2 Thinking bằng các phương pháp nhận biết lượng tử hóa để mô hình có thể chạy trực tiếp ở định dạng INT4 cho việc lưu trữ trọng số và suy luận. INT4 dùng hai bit cho mỗi nibble để biểu diễn giá trị tham số, thay vì các định dạng có độ chính xác cao hơn, nhờ đó giảm nhu cầu bộ nhớ và tăng tốc độ tạo nội dung. Công ty cho biết tốc độ tạo nội dung tăng khoảng hai lần với mức suy giảm chất lượng tối thiểu so với độ chính xác cao hơn; mọi điểm số benchmark đều được báo cáo khi chạy ở INT4. Điều này quan trọng đối với chi phí và khả năng tiếp cận. Người dùng trong cộng đồng cho biết họ đã chạy mô hình trên các hệ thống máy tính để bàn cao cấp, còn Moonshot khuyến nghị các công cụ như vLLM, SGLang và KTransformers. Mô hình cũng hỗ trợ các API tương thích với OpenAI và Anthropic, giúp các nhóm vốn đã sử dụng những chuẩn này tích hợp dễ dàng hơn.

Các bài đánh giá K2 Thinking dẫn đầu

Trong các bài kiểm tra công khai, mô hình đạt kết quả đưa nó vào nhóm những hệ thống suy luận tốt nhất hiện có; ở một số bài, mô hình đứng đầu. Các con số được công bố gồm 44,9% ở Humanity’s Last Exam khi bật công cụ, 23,9% trong thiết lập chỉ dùng văn bản và 51,0% trong thiết lập chuyên sâu; 60,2% ở BrowseComp dành cho tác tử duyệt web; 71,3% ở SWE Bench Verified về sửa lỗi phần mềm có dùng công cụ; 83,1% ở LiveCodeBench v6; và 56,3% ở Seal 0. Trong toán học và khoa học, mô hình đạt 94,5% ở AIME25 không dùng công cụ, 99,1% ở AIME25 khi được phép chạy Python, 89,4% ở HMMT25 không dùng công cụ và khoảng 85 đến 86% trong bài kiểm tra kiến thức khoa học GPQA Diamond. Các điểm số khác được công bố gồm 87,0 ở Frames, 47,4 ở FinSearchComp T3 và 61,1 ở SWE Multilingual. Trong nhiều hạng mục này, K2 Thinking ngang bằng hoặc vượt GPT 5; điểm BrowseComp bỏ xa Claude Sonnet 4.5.

Tác vụ tìm kiếm và duyệt web theo hướng tác tử

BrowseComp đánh giá liệu mô hình có thể lập kế hoạch, tìm kiếm trên web, theo dõi liên kết, tổng hợp thông tin và xác minh câu trả lời hay không. Điểm BrowseComp 60,2% của K2 Thinking cao hơn kết quả 54,9% được công bố cho GPT 5 và vượt xa mức 24,1% của Claude Sonnet 4.5. Mô hình cũng đạt điểm cao ở Seal 0 và Frames, các bài đo khả năng thu thập thông tin, lập kế hoạch và duy trì tính nhất quán khi sử dụng công cụ. Những kết quả này phù hợp với mục tiêu thiết kế của mô hình. Cách suy nghĩ đan xen cho phép mô hình tạm dừng, suy luận, gọi công cụ rồi cập nhật kế hoạch. Hỗ trợ 200 đến 300 lượt gọi liên tiếp giúp duy trì trạng thái qua nhiều bước, còn cửa sổ ngữ cảnh lớn giữ toàn bộ dữ liệu đang xử lý trong bộ nhớ.

Lập trình và kỹ thuật phần mềm

SWE Bench Verified đánh giá khả năng đọc các vấn đề trong kho mã, tạo bản vá và vượt qua các bài kiểm thử của mô hình. K2 Thinking đạt 71,3% khi dùng công cụ, một kết quả nổi bật đối với hệ thống có trọng số mở. Ở LiveCodeBench v6, mô hình đạt 83,1%; ở SWE Multilingual, mô hình đạt 61,1%. Các bản trình diễn của cộng đồng cho thấy mô hình có thể tạo dự án hoạt động được chỉ từ một câu lệnh, gồm trò chơi và ứng dụng web hoàn chỉnh, rồi tiếp tục chỉnh sửa bằng các vòng lặp sử dụng công cụ. Ngữ cảnh dài hỗ trợ điều hướng mã, trong khi suy luận INT4 giảm độ trễ trong các phiên phát triển kéo dài.

Giá, quyền truy cập và giấy phép

K2 Thinking được phát hành theo Giấy phép MIT sửa đổi. Giấy phép cho phép sử dụng thương mại, còn các triển khai quy mô rất lớn phải ghi công ở mức tối thiểu. Mô hình đã có mặt trên Kimi.com để trò chuyện và có thể truy cập qua API trên Kimi Open Platform. Để tự triển khai, các nhóm có thể tải trọng số từ những kho mô hình công khai như Hugging Face tại huggingface.co/moonshotai/Kimi-K2-Thinking; tài liệu nền tảng có tại platform.moonshot.ai.

Mức giá được thiết kế thấp hơn các lựa chọn đóng. Moonshot niêm yết mức khoảng 0,15 đô la cho mỗi một triệu token khi bộ nhớ đệm khớp, khoảng 0,60 đô la cho mỗi một triệu token khi bộ nhớ đệm không khớp và khoảng 2,50 đô la cho mỗi một triệu token đầu ra. Để so sánh, giá GPT 5 vào khoảng 1,25 đô la cho mỗi một triệu token đầu vào và 10 đô la cho mỗi một triệu token đầu ra. Hỗ trợ INT4 nguyên bản của K2 Thinking giúp giảm chi phí vận hành, còn cấu hình Mixture of Experts bảo đảm chỉ một phần mạng lưới hoạt động tại một thời điểm. Trên Kimi.com, chế độ trò chuyện tiêu chuẩn dùng bộ công cụ hạn chế để mang lại trải nghiệm nhẹ hơn; vì vậy, kết quả trên trang có thể không khớp với các bài đánh giá tác tử cho đến khi triển khai xong chế độ Agent.

Vì sao điều này quan trọng trong cuộc đua AI

Các mô hình mở đang thu hẹp khoảng cách với những hệ thống đóng tốt nhất. Những chiến thắng của K2 Thinking trong các bài đánh giá cho thấy nghiên cứu mở hiện có thể cạnh tranh ở nhóm đầu về suy luận, lập trình và tác vụ tác tử. Điều này gây sức ép lên các nhà cung cấp độc quyền, buộc họ tạo khác biệt bằng độ tin cậy, công cụ an toàn, hỗ trợ doanh nghiệp và sản phẩm tích hợp thay vì chỉ dựa vào điểm số nổi bật. Với doanh nghiệp, trọng số mở giúp kiểm soát dữ liệu, tuân thủ và quy mô triển khai. Với nhà phát triển, chúng mở ra con đường thử nghiệm hành vi tác tử tiên tiến mà không phải trả mức phí cao cho từng token.

Sự hiện diện ngày càng lớn của AI Trung Quốc

Các phòng thí nghiệm Trung Quốc đang tăng tốc và chiếm nhiều sự chú ý hơn. Những cái tên như DeepSeek, Qwen, MiniMax và Kimi đã xuất hiện với các bản phát hành đều đặn. Mô hình trước đó của MiniMax đã thiết lập nhịp độ benchmark mở và mặt bằng chi phí thấp hơn. K2 Thinking hiện tiến xa hơn về suy luận dài hạn và công cụ tác tử. Các nhà phân tích nhận định các nhóm Trung Quốc đang rút ngắn vòng lặp phản hồi, dựa nhiều vào việc mở rộng năng lực tại thời điểm kiểm thử và tận dụng nhịp độ phát hành làm lợi thế, dù một số tác vụ vẫn có lợi cho những hệ thống đóng tốt nhất. Cuộc cạnh tranh cũng đang chuyển từ trò chuyện sang trí tuệ tác tử, nơi hệ thống có thể lập kế hoạch, dùng công cụ và hoàn thành các mục tiêu phức tạp. K2 Thinking nhắm thẳng vào xu hướng đó.

Năng lực và ví dụ thực tế

Các buổi trình diễn của Moonshot và thử nghiệm của người dùng cho thấy mô hình xử lý những tác vụ kéo dài ra sao. Trong một buổi hướng dẫn, hệ thống giải một câu hỏi toán học trình độ tiến sĩ bằng cách liên tục đọc bài báo, trích xuất công thức, thực thi mã Python và xác minh kết quả qua hơn hai mươi bước suy luận và sử dụng công cụ trước khi đưa ra lời giải cuối cùng. Một bản trình diễn khác cho thấy mô hình thực hiện nhiều lượt tìm kiếm để xác định diễn viên Jimmy Gary Jr. và xác nhận một vai diễn cụ thể, một nhiệm vụ đòi hỏi kiểm tra cẩn thận nguồn tin trên nhiều trang web. Trong các phiên lập trình, người thử nghiệm cho biết K2 Thinking có thể tạo trò chơi kiểu Space Invaders hoạt động được chỉ trong một lượt, rồi hoàn thiện qua các lần gọi công cụ lặp lại. Một số người khác cho thấy mô hình có thể dựng các trang web hoàn chỉnh, xây dựng thành phần giao diện người dùng và thậm chí tái tạo giao diện kiểu máy tính để bàn để xử lý tệp và trình đơn.

Những gì nhà phát triển nhận thấy

Những người thử nghiệm độc lập trên các diễn đàn dành cho nhà phát triển mô tả mô hình có sự cân bằng giữa tốc độ và khả năng kiểm soát. Một người dùng giàu kinh nghiệm chạy mô hình trên phần cứng phổ thông dành cho người tiêu dùng và cho biết mô hình hoạt động ổn định qua các chuỗi công cụ dài cùng những câu lệnh lớn. Người đánh giá nói thêm rằng chế độ INT4 nguyên bản cải thiện tốc độ mà vẫn giữ chất lượng ổn định.

Trong các thử nghiệm của tôi, mô hình xử lý được tới 300 lượt gọi công cụ liên tiếp mà không mất mạch lạc, cải thiện đáng kể so với các mô hình trước.

Người thử nghiệm đó cũng nhắc đến cửa sổ ngữ cảnh 256k có thể xử lý các dự án mã lớn, năng lực lập trình đa ngôn ngữ và những cải thiện thiết thực trong các tác vụ giao diện người dùng. Thông lượng được ghi nhận trên máy tính để bàn cao cấp đạt từ hàng chục đến hàng trăm token mỗi giây, tùy thiết lập, giúp các vòng lặp tác tử đủ phản hồi nhanh cho công việc phát triển.

Góc nhìn chuyên gia

Nathan Lambert, một nhà nghiên cứu AI theo dõi các mô hình mở và hệ thống tác tử, cho rằng K2 Thinking đánh dấu bước ngoặt đối với các mô hình có trọng số mở ở nhóm hiệu năng cao. Ông cũng nhấn mạnh tốc độ phát hành của các phòng thí nghiệm đặt tại Trung Quốc.

Bản phát hành này được xem là lần các mô hình mở tiến gần nhất tới nhóm mô hình đóng dẫn đầu về hiệu năng.

Lambert cũng chỉ ra lợi thế về tốc độ đưa các hệ thống và phiên bản mới ra thị trường của khu vực mô hình mở, dù các mô hình đóng vẫn dẫn đầu ở một số lĩnh vực.

Các mô hình mở được phát hành nhanh hơn. Các phòng thí nghiệm Trung Quốc phát hành mô hình nhanh hơn nhiều so với các phòng thí nghiệm phương Tây.

Những điều K2 Thinking còn cần chứng minh

Dẫn đầu benchmark không đồng nghĩa với vượt trội trong mọi khía cạnh khi đưa vào sản xuất. Một số người dùng báo cáo đôi lúc khả năng nhớ lại thông tin suy giảm trong ngữ cảnh rất dài, một thách thức thường gặp ở các hệ thống có ngữ cảnh lớn. Các bài đánh giá cũng khác nhau về ngân sách công cụ được phép và giới hạn token suy nghĩ, nên kết quả so sánh có thể phụ thuộc vào mức độ mỗi nhóm mở rộng năng lực tại thời điểm kiểm thử. Việc chạy hàng trăm lượt gọi công cụ trong một phiên cũng đặt ra thách thức về hạ tầng lưu trữ, bởi nhà cung cấp cần xử lý nhiều trạng thái hơn, nhiều lệnh gọi mạng hơn và nhật ký lớn hơn.

Doanh nghiệp sẽ theo dõi tính ổn định giữa các phiên bản, khả năng tái lập kết quả trong điều kiện thiết lập cố định và các công cụ an toàn phù hợp với quy trình hiện có. Khả năng xuất dấu vết suy luận là một bước hữu ích vì cho phép các nhóm kiểm tra những bước trung gian, nhưng đồng thời buộc đơn vị vận hành quyết định cần ghi lại bao nhiêu nội dung suy nghĩ và khi nào phải che giấu thông tin nhạy cảm. Cuối cùng, thiết kế mở của mô hình tạo điều kiện cho cộng đồng nhanh chóng phát triển các phiên bản mới, vừa là một thế mạnh vừa khiến nhiều biến thể với những đánh đổi khác nhau về tốc độ, mức sử dụng bộ nhớ và chất lượng xuất hiện. Các kết quả ban đầu rất hứa hẹn; việc tiếp tục thử nghiệm trên nhiều ngôn ngữ, lĩnh vực và phần cứng sẽ giúp nhà phát triển xác định K2 Thinking phát huy thế mạnh nhất ở đâu.

Kết luận

• Moonshot AI phát hành Kimi K2 Thinking dưới dạng mô hình có trọng số mở theo Giấy phép MIT sửa đổi, cho phép sử dụng thương mại.
• Mô hình sử dụng thiết kế Mixture of Experts với tổng cộng một nghìn tỷ tham số và khoảng 32 tỷ tham số hoạt động cho mỗi token.
• Suy luận INT4 nguyên bản nhờ huấn luyện nhận biết lượng tử hóa giúp giảm chi phí và độ trễ mà vẫn duy trì chất lượng.
• K2 Thinking đạt 44,9% ở Humanity’s Last Exam khi dùng công cụ và 60,2% ở BrowseComp, vượt GPT 5 trong bài kiểm tra tác tử này.
• Điểm lập trình gồm 71,3% ở SWE Bench Verified và 83,1% ở LiveCodeBench v6.
• Hệ thống hỗ trợ cửa sổ ngữ cảnh 256k và có thể thực hiện 200 đến 300 lượt gọi công cụ liên tiếp.
• Giá khoảng 0,15 đô la cho mỗi triệu token khi bộ nhớ đệm khớp, 0,60 đô la khi không khớp và 2,50 đô la cho đầu ra, thấp hơn đáng kể so với mức giá của GPT 5.
• Có thể truy cập mô hình trên Kimi.com, qua API của Kimi Open Platform và trên các kho công khai như Hugging Face.
• Các mô hình mở của Trung Quốc, trong đó có Kimi, DeepSeek, Qwen và MiniMax, đang thúc đẩy nhịp độ phát hành nhanh và điểm số benchmark cao hơn.
• Những khía cạnh cần theo dõi gồm độ tin cậy trong ngữ cảnh dài, hỗ trợ hạ tầng cho các vòng lặp công cụ kéo dài và hiệu năng thực tế trong các điều kiện sản xuất.