MiMo của Xiaomi đạt tốc độ 1.000 token mỗi giây trên GPU phổ thông mà không cần chip tùy chỉnh

Kỷ lục tốc độ mới trong trí tuệ nhân tạo

Ngày 8 tháng 6 năm 2026, Xiaomi ra mắt MiMo V2.5 Pro UltraSpeed, một chế độ suy luận giúp mô hình ngôn ngữ một nghìn tỷ tham số vượt mốc 1.000 token mỗi giây trên các bộ xử lý đồ họa đám mây tiêu chuẩn. Thành tựu này đánh dấu lần đầu tiên một mô hình ở quy mô như vậy vượt ngưỡng đó mà không cần dựa vào silicon tùy chỉnh hoặc phần cứng chuyên dụng. Các bản demo nội bộ cho thấy thông lượng đỉnh gần 1.200 token mỗi giây, duy trì trên một nút phổ thông duy nhất được trang bị tám GPU.

Để hiểu ý nghĩa của thành tựu này, hãy so sánh với các chuẩn đánh giá công khai hiện nay. GPT 5.5 của OpenAI tạo ra khoảng 68 token mỗi giây. Claude Opus 4.6 đạt khoảng 71 token mỗi giây, trong khi Gemini Flash của Google đạt 192. Chế độ UltraSpeed của Xiaomi cho tốc độ xuất văn bản cao gấp khoảng 15 lần trải nghiệm ChatGPT tiêu chuẩn, đồng thời chạy trên một mô hình vốn đã cạnh tranh với các hệ thống hàng đầu trong những bài đánh giá kỹ thuật phần mềm.

Mô hình đứng sau tốc độ này là MiMo V2.5 Pro, một kiến trúc Hỗn hợp Chuyên gia (Mixture of Experts) có 1,02 nghìn tỷ tham số và cửa sổ ngữ cảnh một triệu token. Không giống nhiều đối thủ, hệ thống xử lý nguyên bản văn bản, hình ảnh, âm thanh và video trong cùng một mô hình. Xiaomi phát hành checkpoint nền tảng theo giấy phép mã nguồn mở MIT, cho phép nhà phát triển tự lưu trữ, tinh chỉnh và triển khai hệ thống cho mục đích thương mại mà không mất phí cấp phép.

Bước tiến bất ngờ của Xiaomi trong lĩnh vực trí tuệ nhân tạo

Phần lớn người tiêu dùng gắn Xiaomi với smartphone giá phải chăng, xe scooter điện và ngày càng nhiều là xe điện. Công ty xuất xưởng 33,8 triệu điện thoại trong quý I năm 2026 và giao hơn 30.000 xe điện chỉ riêng trong tháng 5. Tuy nhiên, đằng sau các sản phẩm tiêu dùng này là một bộ phận trí tuệ nhân tạo chuyên trách, đã phát triển các mô hình ngôn ngữ lớn từ tháng 4 năm 2025, thời điểm ra mắt mô hình suy luận nhỏ gọn với 7 tỷ tham số.

Trong 14 tháng kể từ đó, dòng MiMo đã phát triển thành một trong những bộ mô hình trọng số mở có sức cạnh tranh cao hơn trên thị trường. Mẫu flagship hiện tại, MiMo V2.5 Pro, ra mắt ngày 22 tháng 4 năm 2026. Mô hình đạt kết quả gần với Claude Opus 4.6 trong các tác vụ kỹ thuật phần mềm, trong khi chi phí cho mỗi token chỉ bằng khoảng một phần tám. Mức giá tiêu chuẩn của phiên bản cơ sở là 0,025 nhân dân tệ cho mỗi triệu token khi truy xuất bộ nhớ đệm thành công, 3 nhân dân tệ cho mỗi triệu token đầu vào khi không truy xuất được bộ nhớ đệm và 6 nhân dân tệ cho mỗi triệu token đầu ra.

Thông báo ngày 8 tháng 6 bổ sung UltraSpeed như một chế độ phục vụ hiệu năng cao, được tích hợp trực tiếp trên mô hình hiện có. Thay vì thay đổi trọng số hoặc kiến trúc mô hình, tốc độ tăng lên hoàn toàn nhờ tối ưu hóa suy luận, một thành tựu phần mềm thách thức những giả định về khả năng của phần cứng phổ thông.

Cái giá của tốc độ trong AI hiện đại

Tốc độ suy luận đã trở thành mặt trận cạnh tranh then chốt của các mô hình ngôn ngữ lớn. Tốc độ hệ thống tạo token không chỉ quyết định người dùng nhận được câu trả lời nhanh đến đâu, mà còn quyết định những ứng dụng nào khả thi về mặt kinh tế và kỹ thuật. Mô hình tạo 68 token mỗi giây phù hợp với giao diện trò chuyện, nơi người dùng đọc theo tốc độ của mình. Nhưng tốc độ đó không đáp ứng được các tác vụ nhạy cảm với độ trễ, như phát hiện gian lận theo thời gian thực, tín hiệu giao dịch tần suất cao hoặc tác nhân lập trình tự động phải thực hiện nhiều bước suy luận trong vài giây.

Nhận thấy nút thắt này, một số startup đã xây dựng toàn bộ doanh nghiệp quanh chip silicon tùy chỉnh. Cerebras thiết kế một chip có kích thước cỡ chiếc đĩa ăn, phủ toàn bộ tấm wafer, tích hợp 44 gigabyte bộ nhớ trên chip để loại bỏ giới hạn băng thông làm chậm suy luận GPU thông thường. Hệ thống đó đạt khoảng 969 token mỗi giây trên Llama 3.1 405B của Meta, một mô hình có chưa đến một nửa số tham số của MiMo V2.5 Pro. Groq phát triển kiến trúc Bộ xử lý ngôn ngữ (Language Processing Unit) tùy chỉnh, có khả năng đạt 300 đến 750 token mỗi giây tùy mô hình. Không nền tảng nào chạy trên phần cứng có thể thuê qua các dịch vụ đám mây tiêu chuẩn.

Cách tiếp cận của Xiaomi không tham gia cuộc chạy đua phần cứng này. Bằng cách tối ưu hóa đồng thời phần mềm và thiết kế mô hình, công ty đạt tốc độ tương đương trên các GPU phổ thông có thể thuê. Về lý thuyết, bất kỳ nhà phát triển nào có quyền truy cập vào một nút tiêu chuẩn gồm 8 GPU đều có thể tái lập kết quả này. Điều đó có thể chuyển lợi thế cạnh tranh khỏi các nhà sản xuất chip chuyên dụng sang đổi mới thuật toán.

Nén trí tuệ bằng lượng tử hóa FP4

Trụ cột đầu tiên của UltraSpeed là phương pháp nén số mạnh tay mang tên lượng tử hóa FP4. Suy luận mô hình tiêu chuẩn thường lưu trữ trọng số ở độ chính xác 16 bit hoặc 8 bit. Mỗi tham số đòi hỏi một lượng băng thông bộ nhớ nhất định; với quy mô một nghìn tỷ tham số, việc chỉ di chuyển các trọng số đó từ bộ nhớ đến lõi xử lý cũng tạo ra ùn tắc, làm giới hạn tốc độ sinh token.

Giải pháp của Xiaomi áp dụng độ chính xác 4 bit một cách có chọn lọc. Kiến trúc Hỗn hợp Chuyên gia gồm nhiều lớp chuyên gia, chứa phần lớn tham số và có khả năng chịu được việc giảm độ chính xác tốt hơn. Xiaomi chỉ nén các lớp chuyên gia này xuống định dạng MXFP4, trong khi giữ những mô-đun khác của mô hình ở độ chính xác cao hơn, theo thông tin được công bố là FP8. Cách làm có chọn lọc này thu nhỏ dung lượng bộ nhớ mà không làm giảm chất lượng đầu ra, bởi quá trình Huấn luyện có nhận biết lượng tử hóa đã tích hợp việc nén vào quá trình học của mô hình. Các bài đánh giá cho thấy phiên bản lượng tử hóa về cơ bản đạt hiệu năng ngang với phiên bản gốc độ chính xác đầy đủ.

Vì các lớp chuyên gia chiếm phần lớn mô hình, việc nén có chọn lọc giúp giảm đáng kể lượng dữ liệu phải truyền qua bộ nhớ trong mỗi bước tạo token. Phần băng thông tiết kiệm được chuyển trực tiếp thành thông lượng cao hơn.

Dự đoán song song với giải mã suy đoán DFlash

Trụ cột thứ hai giải quyết đặc tính tuần tự của quá trình tạo ngôn ngữ. Thông thường, mô hình tạo từng token một, trong đó mỗi token mới phụ thuộc vào toàn bộ token trước đó. Giải mã suy đoán mở ra một lối tắt: mô hình nháp nhỏ hơn nhanh chóng dự đoán một số token sắp xuất hiện, rồi mô hình đích lớn hơn xác minh tất cả dự đoán song song. Khi dự đoán khớp, hệ thống tiết kiệm thời gian. Tuy nhiên, giải mã suy đoán truyền thống vẫn buộc mô hình nháp tạo dự đoán tuần tự, làm hạn chế lợi ích.

DFlash, một phương pháp do cộng đồng nghiên cứu phát triển và được Xiaomi tinh chỉnh, loại bỏ hoàn toàn ràng buộc tuần tự này. Thay vì dự đoán từng token một, mô hình nháp điền cả một khối vị trí bị che trong một lượt truyền xuôi. Xiaomi tinh chỉnh quy trình này bằng bộ tối ưu bậc hai Muon và phương pháp tự chưng cất mô hình. Mô hình nháp chỉ sử dụng Cơ chế chú ý cửa sổ trượt (Sliding Window Attention), bảo đảm chi phí tính toán cho mỗi dự đoán không đổi bất kể cuộc hội thoại kéo dài bao lâu.

Trong các tình huống lập trình, hệ thống đạt độ dài chấp nhận trung bình 6,3 token mỗi vòng xác minh, với kích thước khối tối đa là 8. Điều đó có nghĩa là mô hình lớn xác nhận sáu hoặc bảy token trong một bước, thay vì tạo từng token riêng lẻ. Vì phương pháp lấy mẫu loại bỏ bảo đảm chỉ các token hợp lệ được giữ lại, đầu ra vẫn giống hệt về mặt toán học với giải mã tiêu chuẩn. Tốc độ tăng lên mà không làm giảm chất lượng.

Loại bỏ độ trễ micro giây với TileRT

Trụ cột thứ ba nhắm đến một nút thắt vô hình chỉ xuất hiện ở tốc độ cực cao. Khi suy luận vượt 1.000 token mỗi giây, mỗi toán tử chỉ hoạt động trong vài micro giây. Các hệ thống phục vụ truyền thống khởi chạy từng toán tử nối tiếp nhau, với những khoảng trống nhỏ giữa mỗi lần khởi chạy. Ở tốc độ thông thường, các khoảng trống này không đáng kể. Nhưng ở mức UltraSpeed, chúng làm gián đoạn luồng thực thi và trở thành nút thắt chính.

TileRT, được đồng phát triển với đối tác suy luận TileRT, giải quyết vấn đề này bằng một nhân xử lý bền vững (Persistent Engine Kernel) luôn thường trú trong GPU. Thay vì khởi động rồi dừng các thao tác, nhân xử lý sử dụng kỹ thuật chuyên biệt hóa luồng (Warp Specialization) để phân công các luồng phần cứng cụ thể cho việc di chuyển dữ liệu, tính toán và giao tiếp theo các vai trò phối hợp. Ngay cả những thao tác nhỏ như RMSNorm, phép nhúng vị trí xoay (rotary position embeddings) và ghi bộ nhớ đệm KV, vốn thường gây ra độ trễ ở cấp micro giây, cũng được thực thi liên tục, không bị gián đoạn.

Hệ thống được thiết kế song song với các lựa chọn FP4 và DFlash thay vì bổ sung sau này. Cách đồng thiết kế mô hình và hệ thống ở mức độ sâu này bảo đảm cả ba lớp phối hợp chặt chẽ. Xiaomi khẳng định rõ rằng không kỹ thuật nào trong ba kỹ thuật riêng lẻ có thể đạt 1.000 token mỗi giây. Chỉ khi kết hợp thực thi, chúng mới tạo ra kết quả kỷ lục.

Tác động thực tế và bối cảnh kinh doanh

Ngưỡng 1.000 token làm thay đổi tính khả thi của các ứng dụng sử dụng mô hình hàng đầu. Suy luận song song trở nên thực tế, cho phép hệ thống chạy hàng chục luồng suy luận Best of N hoặc tìm kiếm cây trong cùng khoảng thời gian mà một mô hình chậm hơn chỉ xử lý được một luồng. Các tác nhân lập trình được hưởng lợi vì tốc độ tạo nhanh hơn giúp giảm thời gian chờ giữa các bước tự động. Các vòng lặp ra quyết định theo thời gian thực trong tạo tín hiệu giao dịch, ngăn chặn gian lận và hệ thống đối thoại trực tiếp trở nên khả thi hơn khi độ trễ giảm xuống dưới ngưỡng con người có thể nhận biết.

Xiaomi minh họa hiệu quả thực tế bằng các bản demo công khai. Một trò chơi Snake hoạt động đầy đủ được tạo trong khoảng 10 giây. Một nguyên mẫu giao diện macOS xuất hiện sau khoảng một phút. Đây là những tác vụ bị giới hạn bởi thông lượng, trong đó tốc độ token thô là yếu tố giới hạn chính.

Người dùng có thể truy cập UltraSpeed qua đợt thử nghiệm API giới hạn, xét duyệt theo đơn đăng ký, từ ngày 9 đến ngày 23 tháng 6 năm 2026. Giá dịch vụ bằng ba lần mức tiêu chuẩn của MiMo V2.5 Pro, tương đương khoảng 1,29 USD cho mỗi triệu token đầu vào và 2,61 USD cho mỗi triệu token đầu ra theo tỷ giá quy đổi hiện tại. Xiaomi cam kết tốc độ tạo cao hơn khoảng 10 lần với mức phí này. Gói thuê bao Token Plan không áp dụng cho UltraSpeed. Người dùng được duyệt sẽ nhận hai tuần truy cập Chat miễn phí với giới hạn hằng ngày: 10 lượt vào hàng đợi cho mỗi tài khoản, phiên tối đa 30 phút và tài nguyên được tự động giải phóng sau 5 phút không hoạt động.

Bất chấp các cột mốc kỹ thuật này, thị trường tài chính vẫn phản ứng thờ ơ. Cổ phiếu Xiaomi đóng cửa ở mức 2,91 euro ngày 11 tháng 6, chỉ cao hơn 1,75% so với mức thấp nhất trong 52 tuần và đánh dấu mức giảm 35% tính từ đầu năm. Công ty tiếp tục đa dạng hóa hoạt động, ra mắt smartphone cao cấp 17T tại Ấn Độ cùng ngày phát hành trợ lý MiMo Code, đồng thời thúc đẩy mở rộng xe điện tại thành phố Trường Xuân. Động lực kinh doanh có thể đảo chiều diễn biến cổ phiếu hay không sẽ phụ thuộc vào dữ liệu lợi nhuận sắp tới.

Mã nguồn mở và vấn đề xác minh

Xiaomi đã phát hành mã nguồn mở checkpoint MiMo V2.5 Pro FP4 DFlash trên Hugging Face, bao gồm trọng số đã lượng tử hóa và tham số DFlash. TileRT đã công bố một số mô-đun chọn lọc trên GitHub. Mức độ minh bạch này tạo điều kiện cho cộng đồng kiểm thử độc lập, điều sẽ rất quan trọng vì mọi tuyên bố về tốc độ hiện nay đều dựa trên các bài đánh giá nội bộ của Xiaomi. Đến nay vẫn chưa có xác minh độc lập từ bên thứ ba được công bố.

Các lần tái lập của cộng đồng sẽ kiểm chứng một số câu hỏi còn bỏ ngỏ. Thứ nhất, con số 1.000 token mỗi giây có được duy trì trên các phiên bản GPU phổ biến bên ngoài môi trường thử nghiệm có kiểm soát của Xiaomi hay không. Thứ hai, liệu chất lượng có suy giảm trong các tác vụ hội thoại mở hay không, khi tỷ lệ chấp nhận của giải mã suy đoán hiện thấp hơn trong các tác vụ lập trình có cấu trúc. Thứ ba, cách tiếp cận dùng nhân xử lý bền vững của TileRT có thể tích hợp với các hệ thống phục vụ tiêu chuẩn đang được triển khai trong môi trường sản xuất hay không.

Nếu các thử nghiệm độc lập xác nhận những tuyên bố này, Xiaomi sẽ đạt được bằng phần mềm điều mà các đối thủ đã đầu tư hàng trăm triệu USD theo đuổi bằng silicon tùy chỉnh. Kết quả đó sẽ cho thấy đồng thiết kế thuật toán có thể mở ra những cấp hiệu năng trước đây được cho là chỉ cần đạt được bằng phần cứng chuyên dụng, qua đó có khả năng định hướng lại dòng vốn đầu tư trong toàn ngành trí tuệ nhân tạo.

Điểm chính

• MiMo V2.5 Pro UltraSpeed của Xiaomi trở thành mô hình một nghìn tỷ tham số đầu tiên vượt 1.000 token mỗi giây trên GPU phổ thông tiêu chuẩn khi ra mắt ngày 8 tháng 6 năm 2026.
• Tốc độ đến từ ba kỹ thuật phối hợp: lượng tử hóa FP4 cho lớp chuyên gia, giải mã suy đoán theo khối DFlash và môi trường chạy GPU bền vững TileRT.
• Mô hình nền tảng MiMo V2.5 Pro đạt kết quả gần Claude Opus 4.6 trong các tác vụ lập trình, trong khi chi phí cho mỗi token chỉ bằng khoảng một phần tám.
• Không giống các đối thủ như Cerebras và Groq, Xiaomi lập kỷ lục mà không cần silicon tùy chỉnh, chỉ sử dụng một nút tiêu chuẩn gồm 8 GPU có thể thuê từ các nhà cung cấp dịch vụ đám mây.
• Checkpoint MiMo V2.5 Pro FP4 DFlash được phát hành theo giấy phép mã nguồn mở MIT trên Hugging Face, cùng các mô-đun TileRT trên GitHub.
• Đợt thử nghiệm API giới hạn diễn ra từ ngày 9 đến ngày 23 tháng 6 năm 2026, với mức giá gấp ba lần giá tiêu chuẩn để đổi lấy tốc độ tạo cao hơn khoảng 10 lần.
• Cổ phiếu Xiaomi vẫn ở gần mức thấp nhất trong 52 tuần bất chấp đột phá kỹ thuật; tính đến giữa tháng 6 năm 2026, cổ phiếu đã giảm 35% từ đầu năm.