Meituan ra mắt LongCat Flash Chat, mô hình Mixture of Experts với 560 tỷ tham số

Đọc trong 15 phút
Meituan ra mắt LongCat Flash Chat, mô hình Mixture of Experts với 560 tỷ tham số

Vì sao đợt ra mắt này đáng chú ý vào thời điểm hiện tại

Meituan, tập đoàn dịch vụ theo yêu cầu của Trung Quốc, đã tham gia làn sóng mô hình ngôn ngữ lớn mã nguồn mở với việc ra mắt LongCat Flash Chat, một hệ thống kết hợp số lượng tham số rất lớn với thiết kế ưu tiên hiệu quả. Được công bố vào đầu tháng 9/2025 và đăng tải cho các nhà phát triển trên GitHub và Hugging Face, mô hình đi kèm báo cáo kỹ thuật định vị nó bên cạnh các hệ thống hàng đầu hiện nay. Meituan cho biết LongCat Flash Chat đạt hiệu năng tương đương DeepSeek V3.1, dòng Qwen3 của Alibaba Cloud và Kimi K2 của Moonshot AI, đồng thời có kết quả tốt khi so sánh với Claude Sonnet của Anthropic và Gemini 2.5 Flash của Google, theo các bài kiểm chuẩn của công ty. Mô hình được cấp phép sử dụng và chỉnh sửa rộng rãi, cho thấy Meituan muốn xây dựng một hệ sinh thái nhà phát triển năng động xoay quanh nền tảng AI của mình.

Nội dung
  1. Vì sao đợt ra mắt này đáng chú ý vào thời điểm hiện tại
  2. Meituan đã ra mắt những gì
  3. Bên trong kiến trúc LongCat
  4. Mixture of Experts nói một cách đơn giản
  5. Tuyên bố về tốc độ và chi phí
  6. Quy trình huấn luyện và độ ổn định
  7. So sánh với các đối thủ
  8. Tác vụ tác tử thể hiện ra sao trong thực tế
  9. Chiến lược, thương vụ mua lại và làn sóng mã nguồn mở tại Trung Quốc
  10. Cấp phép, triển khai và an toàn
  11. Phản ứng của nhà đầu tư và tín hiệu thị trường
  12. Điểm chính

LongCat Flash Chat được giới thiệu là mô hình nền tảng sẵn sàng đưa vào sản xuất, có tốc độ cao, thay vì một hệ thống thiên về suy luận. Trọng tâm này phản ánh một sự đánh đổi rõ ràng: giảm tập trung vào các chuỗi lập luận phức tạp, chậm chạp để ưu tiên khả năng phản hồi nhanh của tác tử, sử dụng công cụ và làm theo chỉ dẫn. Đợt ra mắt diễn ra sau khi Meituan mua lại startup AI Light Year vào năm 2023 với giá 281 triệu USD, đồng thời phù hợp với chiến lược nội bộ gồm ứng dụng AI vào quy trình làm việc, tích hợp tính năng AI vào sản phẩm dành cho người dùng cuối và xây dựng các mô hình nền tảng.

Meituan đã ra mắt những gì

Tài liệu của công ty mô tả LongCat Flash Chat là mô hình Mixture of Experts với 560 tỷ tham số tổng cộng. Chỉ một phần trong số đó được kích hoạt cho mỗi token, thường là 18,6 tỷ đến 31,3 tỷ, trung bình khoảng 27 tỷ. Cơ chế kích hoạt có chọn lọc này đóng vai trò cốt lõi trong tốc độ và chi phí của mô hình. Mô hình hỗ trợ cửa sổ ngữ cảnh dài tới 128k token, cho phép xử lý các cuộc hội thoại, tài liệu dài hoặc tác vụ nhiều bước mà không phải liên tục bắt đầu lại.

Theo Meituan, đây là một mô hình nền tảng không tư duy. Caixin Global đưa tin mô hình không có các năng lực suy luận nâng cao, nhưng vẫn đạt kết quả tốt với nhiều tác vụ làm theo chỉ dẫn và tác vụ của tác tử. Kho mã nguồn nêu bật điểm số cạnh tranh trong các bài kiểm chuẩn tổng quát, làm theo chỉ dẫn, toán học, lập trình, sử dụng công cụ và đánh giá an toàn. Nhà phát triển có thể truy cập trọng số mô hình và tài liệu trên Hugging Face tại trang này và xem thông tin sản phẩm trên trang chính thức tại longcat.ai. Mã nguồn và trọng số được phát hành theo Giấy phép MIT.

Quảng cáo

Bên trong kiến trúc LongCat

Mô hình Mixture of Experts chia một mạng lưới khổng lồ thành nhiều thành phần chuyên biệt gọi là chuyên gia. Bộ định tuyến quyết định cần tham vấn chuyên gia nào cho từng token. Bằng cách chỉ kích hoạt một nhóm nhỏ chuyên gia cho mỗi token, mô hình duy trì năng lực tổng thể lớn trong khi kiểm soát lượng tính toán ở mỗi bước. Phương pháp này ngày càng phổ biến để mở rộng quy mô mô hình mà không làm chi phí suy luận tăng vọt.

Mixture of Experts nói một cách đơn giản

Hãy hình dung hệ thống như một đội ngũ lớn, trong đó chỉ một vài chuyên gia được gọi vào xử lý mỗi thông điệp. Bộ định tuyến chọn chuyên gia dựa trên nội dung, giúp giảm những công việc không cần thiết. Thiết kế của Meituan bổ sung một số điểm mới. Báo cáo mô tả Zero Computation Experts, hoạt động như các vị trí giữ chỗ có thể được chọn khi bộ định tuyến cần cân bằng tải hoặc giảm tính toán cho các token đơn giản. Hệ thống còn có một bộ điều khiển PID chạy nền, điều chỉnh độ chệch của các chuyên gia để giữ ổn định số lượng tham số được kích hoạt trung bình. PID là viết tắt của tỷ lệ, tích phân và vi phân. Đây là phương pháp điều khiển phổ biến, giúp đưa hệ thống về mức mục tiêu mà không gây dao động.

Để tăng thông lượng, LongCat Flash Chat sử dụng bố cục MoE kết nối tắt, giúp tăng mức độ chồng lấp giữa giao tiếp và tính toán. Trong các hệ thống nhiều GPU, thời gian giao tiếp có thể trở thành nút thắt hiệu năng. Các kết nối tắt tạo ra những đường dẫn giúp một số phần của mạng xử lý nhanh hơn trong khi dữ liệu được truyền giữa các thiết bị. Ghi chú kỹ thuật nêu tốc độ suy luận hơn 100 token mỗi giây cho một người dùng trên phần cứng cấp H800.

Tuyên bố về tốc độ và chi phí

Các bài tổng hợp về mã nguồn mở và truyền thông Trung Quốc cho biết Meituan hoàn tất quá trình huấn luyện trong khoảng 30 ngày với thiết lập song song hóa cao, đồng thời mô hình có thể tạo 100 token mỗi giây trên bộ tăng tốc H800. Công ty đưa ra mức chi phí đầu ra gần 5 nhân dân tệ cho mỗi triệu token trong những điều kiện cụ thể. Chi phí thực tế thay đổi tùy phần cứng, kích thước lô và khung triển khai, nhưng tuyên bố chính rất rõ ràng: Meituan định vị LongCat Flash Chat là mô hình có tốc độ cao, chất lượng cạnh tranh và lượng tính toán cho mỗi yêu cầu thấp hơn.

Quy trình huấn luyện và độ ổn định

Kho mã nguồn nêu một loạt biện pháp tăng độ ổn định: chuyển giao siêu tham số để tái sử dụng các thiết lập tốt giữa nhiều quy mô, khởi tạo quá trình phát triển mô hình để các phiên bản lớn hơn bắt đầu từ phiên bản nhỏ hơn, cùng phương pháp cân bằng gradient của bộ định tuyến với z loss để duy trì trạng thái ổn định cho bộ định tuyến MoE. Nhóm phát triển nhấn mạnh tính toán xác định nhằm bảo đảm các lần chạy có thể tái lập. Về dữ liệu, Meituan mô tả chiến lược kết hợp tiền huấn luyện hai giai đoạn và khung tổng hợp đa tác tử để tạo ra các chuỗi tác vụ phức tạp phục vụ hành vi của tác tử. Nhìn chung, quy trình huấn luyện được tinh chỉnh để ưu tiên độ tin cậy và hiệu năng tác tử thay vì suy luận sâu qua nhiều bước.

Quảng cáo

So sánh với các đối thủ

Các bài kiểm chuẩn của Meituan xếp LongCat Flash Chat ngang hàng với những mô hình tổng quát hàng đầu Trung Quốc. Các mô hình được đem ra so sánh gồm DeepSeek V3.1, dòng Qwen3 của Alibaba Cloud và Kimi K2 của Moonshot AI. Báo cáo cũng đề cập vị thế cạnh tranh trước những mô hình nổi bật của Mỹ như Claude Sonnet và Gemini 2.5 Flash. Một số bài viết thậm chí ghi nhận các so sánh với GPT 4.1 trong những tác vụ không tư duy cụ thể. Thứ hạng chính xác tùy thuộc bộ kiểm chuẩn và thiết lập câu lệnh. Các bài kiểm thử do nhà cung cấp thực hiện là điểm khởi đầu; đánh giá của bên thứ ba sẽ cho cái nhìn đầy đủ hơn.

Nhãn “không tư duy” là điều kiện quan trọng cần lưu ý. Các hệ thống thiên về suy luận hướng đến việc lập kế hoạch và tự đánh giá qua nhiều bước, thường tạo đầu ra chậm hơn và tốn nhiều chi phí tính toán hơn. LongCat Flash Chat tập trung vào khả năng làm theo chỉ dẫn nhanh, sử dụng công cụ và điều phối tác tử. Cách tiếp cận này phù hợp với các trường hợp mà thời gian phản hồi, thông lượng và chi phí dễ dự đoán quan trọng hơn quá trình suy luận dài dòng trên vùng nháp.

Quảng cáo

Tác vụ tác tử thể hiện ra sao trong thực tế

Tác vụ tác tử liên quan đến một mô hình có thể gọi công cụ, truy xuất thông tin, làm theo quy trình và quyết định khi nào cần hỏi thêm dữ liệu đầu vào. Hệ thống có thể duyệt tài liệu hướng dẫn, truy vấn cơ sở dữ liệu nội bộ, kích hoạt API thanh toán hoặc soạn tin nhắn cho khách hàng. LongCat Flash Chat được tinh chỉnh cho kiểu công việc này. Mô hình hướng đến việc đưa ra quyết định nhanh, xử lý ngữ cảnh dài và giữ độ trễ thấp để phản hồi kịp thời trong các ứng dụng thực tế.

Meituan đã thử nghiệm tác tử trên nhiều lĩnh vực kinh doanh. Công ty từng giới thiệu NoCode để hỗ trợ lập trình bằng AI, Kangaroo Advisor để hỗ trợ ra quyết định kinh doanh và Meituan Jibai để quản lý hoạt động khách sạn. Một hệ thống tác tử nhanh có thể hỗ trợ các tác vụ như tiếp nhận nhà bán hàng, phân loại yêu cầu hỗ trợ khách hàng, kiểm tra hàng tồn kho, hỗ trợ lập kế hoạch tuyến đường và tạo nội dung tiếp thị. Trong thương mại điện tử và dịch vụ địa phương, nhiều tác vụ đòi hỏi tốc độ ổn định, khả năng kết nối công cụ và ghi nhớ ngữ cảnh dài hơn là suy luận chậm theo từng bước.

Chiến lược, thương vụ mua lại và làn sóng mã nguồn mở tại Trung Quốc

Meituan thực sự bắt đầu mở rộng sang lĩnh vực mô hình nền tảng với thương vụ mua lại Light Year vào năm 2023 với giá 281 triệu USD. Lãnh đạo công ty mô tả kế hoạch ba tầng: AI cho công việc nội bộ, AI trong sản phẩm tiêu dùng và xây dựng các mô hình nền tảng. LongCat Flash Chat là minh chứng công khai đầu tiên ở tầng nền tảng. Sản phẩm này cũng phù hợp với xu hướng rộng hơn trong giới công nghệ Trung Quốc. Các mô hình mã nguồn mở từ những công ty như Alibaba, các phòng thí nghiệm liên kết với DeepSeek và Moonshot AI đang thu hẹp khoảng cách với các đối thủ phương Tây nhờ cải tiến nhanh và thử nghiệm cộng đồng.

Việc cấp phép mã nguồn mở có ý nghĩa quan trọng trong trường hợp này. Bằng cách công bố trọng số và mã nguồn theo Giấy phép MIT, Meituan mời các startup, nhóm nghiên cứu và doanh nghiệp thử nghiệm, điều chỉnh và triển khai mà không bị ràng buộc nhiều. Điều đó mở rộng nguồn phản hồi và các trường hợp sử dụng. Đồng thời, việc này giúp Meituan xây dựng uy tín kỹ thuật bên ngoài lĩnh vực giao đồ ăn cốt lõi. Một số nguồn tin lưu ý rằng công ty mô tả cách tiếp cận AI của mình là quyết liệt và chủ động, tìm cách thu hút sự quan tâm của nhà phát triển nhờ tốc độ và tính cởi mở.

Quảng cáo

Cấp phép, triển khai và an toàn

LongCat Flash Chat được phát hành theo Giấy phép MIT, một giấy phép linh hoạt cho phép sử dụng rộng rãi trong thương mại. Kho mã nguồn có hướng dẫn triển khai với vLLM và SGLang. Những khung này phổ biến trong suy luận thông lượng cao, với các tính năng như xử lý lô liên tục và cơ chế chú ý phân trang giúp giảm chi phí vận hành. Mô hình có cơ chế kích hoạt chuyên gia một phần phù hợp tự nhiên với các môi trường giúp giảm thời gian GPU nhàn rỗi.

Giống mọi mô hình ngôn ngữ lớn, LongCat Flash Chat cũng có những giới hạn. Tài liệu khuyến nghị nhà phát triển đánh giá độ an toàn, tính công bằng và mức độ tuân thủ pháp luật trong bối cảnh sử dụng của riêng mình. Điều này đặc biệt quan trọng trong các lĩnh vực xử lý dữ liệu cá nhân, tài chính hoặc y tế. Tài liệu của Meituan có các đánh giá an toàn và hoạt động kiểm thử đối kháng, đồng thời nhắc người dùng tuân thủ luật pháp và quy định ngành khi áp dụng mô hình vào những lĩnh vực nhạy cảm.

Phản ứng của nhà đầu tư và tín hiệu thị trường

Các bài viết về tài chính sau khi sản phẩm ra mắt ghi nhận cổ phiếu Meituan giảm giá, dù công ty gia nhập danh sách các doanh nghiệp Trung Quốc phát hành mô hình có năng lực cạnh tranh. TipRanks dẫn các số liệu kiểm chuẩn của South China Morning Post và đề cập bối cảnh chính sách rộng hơn, trong đó Trung Quốc tăng hỗ trợ cho lĩnh vực công nghệ trong khi đối mặt với căng thẳng thương mại. Phản ứng của thị trường thường chậm hơn thực tế sản phẩm. Điều nhà đầu tư quan tâm sẽ là liệu mô hình có thúc đẩy mức độ ứng dụng, giúp giảm chi phí trong hoạt động của Meituan và được các nhà phát triển bên ngoài lựa chọn làm nền tảng cho sản phẩm thực tế hay không.

Tín hiệu lớn hơn là những công ty nằm ngoài trung tâm của ngành AI hiện cũng đang công bố các mô hình thách thức những tên tuổi đã thành danh về tốc độ, chi phí và năng lực trong các trường hợp sử dụng tác tử. Đà phát triển này có thể làm thay đổi cách doanh nghiệp cân nhắc nguồn cung cấp nền tảng AI. Nó cũng có thể gây thêm áp lực lên các nhà phát triển mô hình, buộc họ chứng minh giá trị trong những tác vụ thực tiễn nhạy cảm với độ trễ, thay vì chỉ chạy đua trên các bảng xếp hạng kiểm chuẩn.

Điểm chính

  • Đầu tháng 9/2025, Meituan phát hành LongCat Flash Chat, mô hình Mixture of Experts mã nguồn mở với tổng cộng 560 tỷ tham số, trên GitHub và Hugging Face.
  • Mô hình kích hoạt trung bình từ 18,6 tỷ đến 31,3 tỷ tham số cho mỗi token, giúp giảm chi phí tính toán trong khi vẫn duy trì năng lực tổng thể lớn.
  • Các bài kiểm chuẩn trong báo cáo kỹ thuật cho rằng hiệu năng của mô hình ngang với DeepSeek V3.1, Qwen3 của Alibaba Cloud và Kimi K2 của Moonshot AI; mô hình cũng có vị thế cạnh tranh trước Claude Sonnet và Gemini 2.5 Flash.
  • Meituan định vị hệ thống là mô hình nền tảng không tư duy, tập trung vào tốc độ, làm theo chỉ dẫn, sử dụng công cụ và quy trình tác tử thay vì suy luận sâu.
  • Các tính năng kỹ thuật gồm Zero Computation Experts, bộ điều khiển PID điều chỉnh độ chệch của chuyên gia, thiết kế MoE kết nối tắt và cửa sổ ngữ cảnh 128k token.
  • Ghi chú kỹ thuật nêu tốc độ hơn 100 token mỗi giây trên phần cứng H800 và chi phí đầu ra gần 5 nhân dân tệ cho mỗi triệu token trong những điều kiện cụ thể.
  • Mã nguồn và trọng số được cấp phép theo Giấy phép MIT, kèm hướng dẫn triển khai với vLLM và SGLang.
  • Đợt ra mắt diễn ra sau khi Meituan mua lại Light Year vào năm 2023 và hỗ trợ chiến lược AI ba tầng rộng hơn, bao gồm công cụ làm việc, sản phẩm và mô hình nền tảng.
  • TipRanks ghi nhận giá cổ phiếu giảm sau thông báo, cho thấy tâm lý nhà đầu tư có thể phụ thuộc vào mức độ ứng dụng thực tế và khả năng tiết kiệm chi phí.
  • Đợt phát hành bổ sung vào làn sóng mô hình mã nguồn mở tại Trung Quốc, đang thu hẹp khoảng cách với các đối thủ phương Tây và tập trung vào các trường hợp sử dụng tác tử tốc độ cao.
Chia sẻ bài viết này

Có thể bạn cũng thích