Moonshot phát hành trọng số Kimi K3.1 Pro, Huawei và Alibaba bổ sung hỗ trợ triển khai

Mô hình 2,8 nghìn tỷ tham số vượt ra ngoài API

Moonshot AI đã phát hành đầy đủ trọng số của Kimi K3.1 Pro trên Hugging Face, giúp các nhà phát triển và doanh nghiệp có thể chạy mô hình đa phương thức chủ lực này trên hạ tầng điện toán của riêng mình. Thông báo được đưa ra vào rạng sáng ngày 5 tháng 11 tại Bắc Kinh, sau khi mô hình được giới thiệu ngày 24 tháng 10 năm 2026 và cung cấp qua các sản phẩm Kimi cùng giao diện lập trình ứng dụng (API).

K3.1 Pro có 2,8 nghìn tỷ tham số, tức các giá trị số lưu trữ những gì mô hình đã học. Thiết kế hỗn hợp chuyên gia chỉ kích hoạt khoảng 104 tỷ tham số ở mỗi bước suy luận, thay vì sử dụng toàn bộ mô hình cùng lúc. Mô hình hỗ trợ ngữ cảnh khoảng một triệu token và có thể hiểu thông tin hình ảnh bên cạnh văn bản.

Huawei Ascend và Alibaba Cloud đều công bố hỗ trợ vào ngày phát hành trọng số. Các phương án triển khai của họ sử dụng hai khung suy luận vLLM và SGLang, là phần mềm quản lý cách mô hình đã huấn luyện xử lý yêu cầu. Với các doanh nghiệp đang cân nhắc triển khai tại chỗ, đợt phát hành này cung cấp cả trọng số có thể tải xuống lẫn những lựa chọn ban đầu để vận hành mô hình trên các hệ thống bộ tăng tốc của Trung Quốc.

Thông báo ra mắt mô hình của Moonshot, được cập nhật ngày 24 tháng 10, cho biết toàn bộ trọng số sẽ được phát hành trước ngày 4 tháng 11; thông báo phát hành công khai được đưa ra ngày 5 tháng 11. Trước đó, công ty đã mở quyền truy cập qua kimi.com, Kimi App, Kimi Work, Kimi Code và Kimi API.

Thay đổi thiết thực nằm ở quyền kiểm soát nơi mô hình được vận hành. Khách hàng dùng API gửi yêu cầu đến dịch vụ của nhà cung cấp. Tổ chức triển khai bộ trọng số có thể vận hành mô hình trong hạ tầng do mình quản lý, tuân theo giấy phép của Moonshot và yêu cầu phần cứng đáng kể để phục vụ mô hình.

Moonshot cũng giới thiệu Kimi Hosted Agents, một dịch vụ được quản lý để duy trì hoạt động của các tác nhân AI trong những tác vụ kéo dài. Hai thông báo mang đến cho doanh nghiệp hai lựa chọn khác nhau: tự quản lý mô hình hoặc giao thêm phần việc vận hành cho Kimi.

Điều gì mới, điều gì được kế thừa từ K3?

Kimi K3.1 Pro phát triển từ nền tảng K3 thông qua huấn luyện bổ sung, thay vì bắt đầu bằng một mô hình nền được huấn luyện mới. Moonshot cho biết công ty đã tăng đáng kể tài nguyên tính toán dành cho học tăng cường, một quy trình thưởng cho các hành động thành công và giúp mô hình cải thiện qua nhiều lần thử.

Moonshot áp dụng quá trình huấn luyện này cho hàng trăm lĩnh vực tác vụ, đặc biệt chú trọng lập trình, sáng tạo 3D, nghiên cứu tài chính và các tác nhân thực hiện nhiều bước. Những thay đổi kỹ thuật của công ty bao gồm phần mềm huấn luyện, xử lý ngữ cảnh dài, lập lịch và môi trường hộp cát để chạy mã do mô hình tạo ra.

Cửa sổ ngữ cảnh khoảng một triệu token được kế thừa từ K3. Token là những đơn vị mà mô hình dùng để chia nhỏ văn bản và các đầu vào khác. Cửa sổ ngữ cảnh lớn hơn cho phép giữ lại nhiều tài liệu, chỉ dẫn và nội dung hội thoại trước đó hơn trong quá trình xử lý yêu cầu.

Trình tự phát hành cho thấy thời điểm có thể sử dụng dịch vụ khác với thời điểm có thể truy cập chính mô hình:

• Ngày 16 tháng 7 năm 2026: Kimi K3 được giới thiệu, theo bảng so sánh mô hình đã công bố.
• Ngày 24 tháng 10 năm 2026: Moonshot giới thiệu K3.1 Pro qua các sản phẩm và API, đồng thời dự kiến phát hành trọng số trước ngày 4 tháng 11.
• Ngày 5 tháng 11: Moonshot thông báo phát hành trọng số và Kimi Hosted Agents; Huawei và Alibaba công bố hỗ trợ triển khai.

Trọng số mở đi kèm điều kiện vận hành và giấy phép

Trọng số cho phép các tổ chức có đủ năng lực điện toán tải xuống và tự vận hành K3.1 Pro. Doanh nghiệp có thể cấu hình hệ thống phục vụ mô hình của riêng mình, kết nối các công cụ nội bộ và phát triển những phiên bản chuyên biệt theo giấy phép áp dụng.

Moonshot sử dụng giấy phép riêng điều chỉnh việc sử dụng cho mục đích thương mại. Đợt phát hành bao gồm trọng số mô hình, trong khi mã huấn luyện và các bộ dữ liệu huấn luyện gốc vẫn chưa được công bố. Vì vậy, nhà phát triển được cung cấp mô hình đã huấn luyện với các quyền sử dụng do điều khoản của Moonshot quy định, chứ không phải gói huấn luyện hoàn chỉnh theo định nghĩa của Sáng kiến Nguồn mở (OSI).

Kích thước mô hình vẫn là một yếu tố vận hành quan trọng. Dù chỉ một phần mạng hỗn hợp chuyên gia hoạt động ở mỗi bước, hệ thống triển khai vẫn cần truy cập toàn bộ tập trọng số. Các yêu cầu dài cũng tạo ra lượng lớn dữ liệu chú ý tạm thời cần được lưu trữ trong lúc mô hình xử lý.

Huawei phân bổ tải bộ nhớ trên các hệ thống Ascend

Huawei cho biết nhóm Ascend đã hoàn tất điều chỉnh trong ngày trọng số K3.1 Pro được phát hành, giúp có thể lập tức xác thực triển khai. Hỗ trợ bao gồm các hệ thống Atlas 800 A3, Atlas 900 A3 SuperPod và Ascend 950 supernode thông qua vLLM Ascend và SGLang.

Việc điều chỉnh xử lý kiến trúc chú ý lai của mô hình, bao gồm chú ý thưa và xử lý đa phương thức. Chú ý là cơ chế giúp mô hình quyết định những phần nào trong đầu vào có ý nghĩa đối với bước tiếp theo. Chú ý thưa giới hạn một số kết nối để giảm khối lượng xử lý cần thiết cho các đầu vào rất dài.

Ascend sử dụng bộ nhớ đệm phân tán để phân bổ dữ liệu mô hình tạm thời trên nhiều bộ xử lý thần kinh (NPU), giảm áp lực bộ nhớ lên từng bộ tăng tốc. Huawei cũng mô tả những thay đổi đối với các phép toán cốt lõi nhằm giảm việc sao chép và tính toán không cần thiết.

Đơn vị triển khai có thể nạp trọng số gốc hoặc dùng độ chính xác bit thấp hơn cho các thành phần mô hình khác nhau, đồng thời lượng tử hóa bộ nhớ đệm chú ý. Lượng tử hóa lưu trữ số bằng ít bit hơn, giảm nhu cầu bộ nhớ. Huawei cho biết bản triển khai vẫn giữ các tính năng bộ nhớ đệm tiền tố, tái sử dụng đầu vào lặp lại; tiền xử lý theo từng đoạn, chia prompt dài thành các phần để xử lý; và suy luận suy đoán, tăng tốc quá trình sinh bằng cách kiểm tra các token được đề xuất theo nhóm.

Alibaba bổ sung lựa chọn triển khai qua nền tảng SuperPoD

Alibaba Cloud cho biết Lingjun Zhenwu M890 SuperPoD đã hoàn tất điều chỉnh và xác thực trên toàn bộ ngăn xếp phần mềm với vLLM và SGLang. Hỗ trợ cũng bao gồm các cấu hình Zhenwu 810E, mở thêm một phương án triển khai mô hình trên bộ tăng tốc của Trung Quốc.

Alibaba Cloud, T-Head và nhóm Kimi đã phối hợp phát triển ngăn xếp phần mềm T-Head SAIL, bao gồm FlashMLA, các phép toán hỗn hợp chuyên gia DeepGEMM, MegaMoE và MoonEP. Những thành phần này xử lý phép tính chú ý và điều phối công việc giữa các chuyên gia cùng bộ tăng tốc. Khách hàng có thể triển khai trên các phiên bản SuperPoD bare metal chuyên dụng hoặc dịch vụ REIN của Alibaba; quyền truy cập API cũng được cung cấp qua nền tảng AI Qwen.

Alibaba mở thử nghiệm theo lời mời cho một khu vực SuperPoD tại Trung Vệ, Ninh Hạ, đồng thời cung cấp các phiên bản tại Trung Vệ và Ulanqab ngay trong ngày ra mắt. Cấu hình Trung Vệ bổ sung card mạng Panmai 920 của T-Head, được Alibaba cho biết hỗ trợ PCIe 5.0, Ethernet PAM4 112G, thông lượng lên đến 400 gigabit/giây và 400 triệu gói tin/giây.

Những thông số mạng này quan trọng vì mô hình lớn như vậy cần truyền thông tin nhanh chóng giữa các bộ xử lý. Alibaba cho biết bộ chuyển mạch PCIe tích hợp trên card có thể giảm chi phí hệ thống khoảng 30%. Công ty cũng cho biết M890 SuperPoD phục vụ hơn 100 khách hàng lớn và dự báo thế hệ kế nhiệm V900 đang được lên kế hoạch sẽ đạt hiệu năng khoảng gấp ba lần thế hệ hiện tại; đây là mức dự kiến của công ty.

Kết quả lập trình cho thấy khả năng thực thi bền bỉ được cải thiện

Moonshot báo cáo K3.1 Pro đạt 65,7% trong Terminal-Bench 4.0, bài kiểm tra các tác nhân thực hiện tác vụ trên terminal trong môi trường điện toán thực tế với giới hạn tài nguyên. Bảng so sánh do công ty công bố ghi GPT-6 Astra đạt 58,2% và Claude Opus 5.5 đạt 66,4%, khiến K3.1 Pro thấp hơn mẫu sau 0,7 điểm phần trăm trong thiết lập này.

Điểm Long-horizon trong bài kiểm tra nội bộ Kimi Code Bench 3.0 của công ty tăng từ 55,95% ở K3 lên 61,2% ở K3.1 Pro, cải thiện 5,25 điểm phần trăm. Bài kiểm tra tập trung vào lập kế hoạch, sử dụng công cụ và giải quyết các vấn đề kỹ thuật qua nhiều bước.

Các đánh giá độc lập cung cấp một góc nhìn khác. Artificial Analysis ghi nhận Intelligence Index tăng từ 44 lên 55 và kết quả Terminal-Bench của K3.1 Pro đạt khoảng 67%, so với 13% của K3. Bài đánh giá terminal này sử dụng một khung tác nhân khác với Moonshot, nên các điểm số phản ánh những thiết lập vận hành khác nhau.

Các phần trình diễn của Moonshot nhấn mạnh sự bền bỉ bên cạnh khả năng tạo mã. Trong một bài thử nghiệm nội bộ, mô hình xử lý mô phỏng đi bộ được xây dựng từ 296 thành phần xương và 402 thành phần cơ. Qua 167 tác vụ và 420 lượt đánh giá độc lập, mô hình cải thiện thời gian đi bộ liên tục của cơ thể mô phỏng lên 11,2 giây và sửa 36 lỗi trong tính toán cơ vai, theo công ty.

Một đánh giá Plotly riêng ghi nhận K3.1 Pro trả lời đúng 42/43 câu, so với 35 câu của K3, đồng thời có chi phí cao hơn và thời gian hoàn thành trung vị dài hơn. Vì vậy, tốc độ sinh token nhanh hơn và câu trả lời tốt hơn vẫn có thể đi kèm thời gian chờ lâu hơn để hoàn tất tác vụ.

Sáng tạo 3D và tài chính được cải thiện có mục tiêu

Theo Moonshot, K3.1 Pro đạt 92,7% khi dùng công cụ trong BenchCAD. Bài đánh giá yêu cầu mô hình tái tạo vật thể 3D từ các góc nhìn bằng cách tạo mã thiết kế có sự hỗ trợ của máy tính. Bảng so sánh của công ty ghi Claude Opus 5.5 đạt 96,2% và GPT-6 Astra đạt 95,9%.

Moonshot cho biết mô hình có thể viết và chạy tập lệnh cho các công cụ tạo mô hình chuyên nghiệp, bao gồm Blender và phần mềm CAD. Các ví dụ của công ty gồm động cơ tuabin phản lực trong FreeCAD có 2.100 vật thể khối và một chiếc đèn được thiết kế thành năm bộ phận để in 3D. Trang web và ứng dụng Kimi cũng cung cấp 3D Make để xem trước, chỉnh sửa và xuất mô hình.

Các tác vụ tài chính cũng là mục tiêu trọng tâm. Moonshot báo cáo điểm 64,4 trong OfficeQA Pro v2, bài đánh giá khả năng phân tích tài liệu tài chính thực tế thông qua truy xuất, đối chiếu giữa các tài liệu và suy luận số liệu. Các đánh giá nội bộ cho thấy khả năng lập mô hình tài chính cải thiện 14%, nghiên cứu tài chính cải thiện 20% và điểm vận hành doanh nghiệp mô phỏng đạt khoảng 4,2 lần K3.

Bảng so sánh đã công bố cung cấp số liệu chi tiết cho hai bài kiểm tra này: điểm Nghiên cứu tài chính tăng từ 58,8 lên 70,4, trong khi Vận hành doanh nghiệp tăng từ 8,9 lên 37,0. Với người dùng doanh nghiệp, lợi ích dự kiến là một mô hình có thể xử lý tác vụ từ khâu tìm thông tin, tính toán đến hoàn thiện bảng tính hoặc sản phẩm nghiên cứu.

Moonshot công bố hai kết quả khác nhau về lỗi dữ kiện

Thông báo ra mắt của Moonshot cho biết tỷ lệ lỗi đối với một khẳng định thực tế trong Kimi Hallu Bench Hard giảm từ 23,4% ở K3 xuống 8,3% ở K3.1 Pro; hướng dẫn API của hãng đưa ra kết quả khác từ một bài kiểm tra áp lực, với tỷ lệ giảm từ 23,35% xuống 6,85% trên các cuộc hội thoại đã ẩn danh mà người dùng đánh dấu có sai sót dữ kiện.

Hai trang cũng đưa ra số liệu khác nhau về tỷ lệ lỗi ở cấp độ câu trả lời. Thông báo ra mắt cho biết tỷ lệ phản hồi có ít nhất một lỗi dữ kiện bằng khoảng 42,4% mức của K3, trong khi hướng dẫn API đưa ra con số khoảng 46,4%. Moonshot chưa giải thích mối liên hệ giữa hai đánh giá này.

Cả hai mô tả đều đề cập đến những ví dụ khó được chọn vì mô hình dễ mắc lỗi. Trong các ứng dụng tài chính và doanh nghiệp, vẫn cần kiểm tra phép tính, trích dẫn và thông tin thực tế dựa trên hồ sơ gốc trước khi hành động theo kết quả.

Đánh giá độc lập cũng ghi nhận mức giảm nhẹ ở một bài kiểm tra ngữ cảnh dài: AA-LCR v1.1 giảm từ 88,7% ở K3 xuống 86,3% ở K3.1 Pro. Các tổ chức xử lý tài liệu dài sẽ cần cân nhắc độ chính xác khi truy xuất bên cạnh dung lượng ngữ cảnh không thay đổi của mô hình.

Tác nhân lưu trữ và quyền truy cập API có những đánh đổi khác nhau

Kimi Hosted Agents cung cấp khung vận hành, thường gọi là harness, bao quanh mô hình AI. Khung này quản lý công cụ, thực thi mã, ngữ cảnh, quyền hạn và khả năng khôi phục khi tác vụ bị gián đoạn. Moonshot cho biết dịch vụ hỗ trợ hoạt động liên tục, xử lý tác vụ kéo dài và phối hợp giữa nhiều tác nhân.

Moonshot nêu giám sát nội bộ và ứng phó vận hành là những ứng dụng tiềm năng, cùng với trợ lý nghiên cứu hướng đến khách hàng và dịch vụ hỗ trợ. Doanh nghiệp dùng dịch vụ được quản lý có thể xác định tác vụ và kết nối công cụ, trong khi Kimi duy trì môi trường chạy bên dưới. Doanh nghiệp tự vận hành bộ trọng số sẽ chịu trách nhiệm về phương án phục vụ và vận hành của mình.

Với khách hàng API, hướng dẫn bắt đầu nhanh API của Moonshot yêu cầu nạp tối thiểu 10 nhân dân tệ để mở khóa K3.1 Pro. Phiếu ưu đãi 15 nhân dân tệ dành cho người dùng mới đăng ký không thể dùng cho mô hình này. Hướng dẫn cung cấp các mức suy luận thấp, cao và tối đa, trong đó tối đa là mặc định, cùng các lựa chọn lưu bộ nhớ đệm trong năm phút hoặc một giờ.

Moonshot cũng cung cấp K3.1 Pro Highspeed, được cho là có cùng mức độ thông minh nhưng tốc độ đầu ra nhanh hơn khoảng hai đến ba lần. Bảng so sánh được công bố liệt kê mức giá tiêu chuẩn cho đầu vào và đầu ra lần lượt là 2 USD và 10 USD mỗi triệu token, giảm từ 3 USD và 15 USD ở K3, tức giảm một phần ba trước phí bộ nhớ đệm và các khoản phí áp dụng khác. Tổng chi phí vẫn phụ thuộc vào số token và lượt tương tác với công cụ mà một tác vụ sử dụng.

Nhà phát triển cần lưu ý một số yêu cầu tích hợp cụ thể: phải giữ nguyên toàn bộ thông điệp của trợ lý qua các lần gọi công cụ; đầu vào hình ảnh cần dữ liệu base64 hoặc mã định danh tệp đã tải lên thay vì URL hình ảnh công khai; và hướng dẫn khuyến cáo không dùng công cụ tìm kiếm web trong môi trường sản xuất khi công cụ này đang được cập nhật.

Điểm chính

• Moonshot thông báo phát hành trọng số Kimi K3.1 Pro ngày 5 tháng 11, sau khi mô hình đã được cung cấp qua sản phẩm và API.
• Mô hình có tổng cộng 2,8 nghìn tỷ tham số, khoảng 104 tỷ tham số hoạt động ở mỗi bước suy luận và ngữ cảnh khoảng một triệu token.
• Huawei Ascend và Alibaba Cloud công bố hỗ trợ triển khai qua vLLM và SGLang.
• Moonshot báo cáo cải thiện trong lập trình, tạo mô hình 3D và tài chính; kết quả thay đổi tùy tác vụ và thiết lập đánh giá.
• Tự triển khai cần nguồn lực điện toán đáng kể và phải tuân thủ giấy phép riêng của Moonshot.
• Kimi Hosted Agents cung cấp lựa chọn dịch vụ được quản lý để chạy các tác vụ kéo dài và điều phối nhiều tác nhân.