Các mô hình Qwen3.5 Medium của Alibaba thách thức vị thế thống trị AI phương Tây với kiến trúc ưu tiên chạy cục bộ

Đọc trong 13 phút
Các mô hình Qwen3.5 Medium của Alibaba thách thức vị thế thống trị AI phương Tây với kiến trúc ưu tiên chạy cục bộ

Hiệu năng AI tiên tiến xuất hiện trên phần cứng phổ thông

Nhóm phát triển AI Qwen của Alibaba vừa ra mắt một dòng mô hình ngôn ngữ lớn mới, thách thức căn bản quan niệm rằng trí tuệ nhân tạo tiên tiến cần đến hạ tầng quy mô đám mây hoặc API độc quyền. Dòng mô hình Qwen3.5 Medium, được công bố chỉ vài ngày trước, gồm bốn mô hình mới được thiết kế để vận hành hiệu quả trên phần cứng cục bộ, đồng thời được cho là có hiệu năng ngang bằng các lựa chọn hàng đầu của phương Tây.

Nội dung
  1. Hiệu năng AI tiên tiến xuất hiện trên phần cứng phổ thông
  2. Đổi mới kiến trúc cho phép triển khai cục bộ
  3. Kiểm chứng thực tế qua benchmark: Đánh giá độc lập trước các tuyên bố hiệu năng
  4. Chế độ suy nghĩ và tích hợp công cụ
  5. Ý nghĩa đối với chủ quyền dữ liệu doanh nghiệp
  6. Thách thức từ hệ sinh thái AI Trung Quốc rộng lớn hơn
  7. Định vị thị trường và triển vọng tương lai
  8. Điểm chính

Ba trong số bốn mô hình được phát hành theo giấy phép Apache 2.0 có tính cởi mở, cho phép doanh nghiệp và nhà phát triển độc lập tải xuống, chỉnh sửa và triển khai cho mục đích thương mại mà không mất phí cấp phép. Bộ ba mã nguồn mở gồm Qwen3.5-35B-A3B, Qwen3.5-122B-A10B và Qwen3.5-27B, hiện đã có trên Hugging Face và ModelScope. Biến thể thứ tư, Qwen3.5-Flash, vẫn là sản phẩm độc quyền và chỉ có thể truy cập qua API Alibaba Cloud Model Studio, dù mức giá thấp hơn đáng kể so với hầu hết đối thủ phương Tây.

Quảng cáo

Tuyên bố gây chú ý nhất của Alibaba xoay quanh các bài đánh giá hiệu năng. Theo công ty, mẫu đầu bảng Qwen3.5-35B-A3B vượt GPT-5-mini của OpenAI và Claude Sonnet 4.5 của Anthropic trong các đánh giá của bên thứ ba về truy xuất kiến thức và suy luận thị giác. Claude Sonnet 4.5 chỉ mới ra mắt cách đây năm tháng, khiến tốc độ thu hẹp khoảng cách cạnh tranh này trở nên đáng chú ý trong một ngành mà chu kỳ phát triển thường kéo dài nhiều quý hoặc nhiều năm.

Đổi mới kiến trúc cho phép triển khai cục bộ

Điểm khác biệt của Qwen3.5 so với các thế hệ trước nằm ở kiến trúc lai kết hợp Gated Delta Networks với hệ thống Mixture-of-Experts thưa. Với độc giả không chuyên, đây là thay đổi căn bản trong cách các mô hình AI xử lý thông tin. Mô hình dày truyền thống kích hoạt toàn bộ tham số cho mỗi truy vấn, tiêu tốn lượng tài nguyên tính toán khổng lồ. Ngược lại, phương pháp MoE hoạt động như một cuộc tham vấn chuyên gia, chuyển mỗi truy vấn đến nhóm kiến thức phù hợp nhất trong mô hình.

Các thông số kỹ thuật cho thấy mức tăng hiệu quả. Qwen3.5-35B-A3B có tổng cộng 35 tỷ tham số nhưng chỉ kích hoạt 3 tỷ tham số cho mỗi token. Kiến trúc này sử dụng 256 mô-đun chuyên gia, trong đó 8 chuyên gia được định tuyến và 1 chuyên gia dùng chung xử lý các khía cạnh cụ thể của từng truy vấn. Cách kích hoạt có chọn lọc giúp giảm mạnh độ trễ suy luận mà vẫn duy trì chất lượng đầu ra, cho phép mô hình đạt độ chính xác gần như không suy giảm, theo mô tả của Alibaba, ngay cả khi được nén xuống trọng số 4-bit bằng kỹ thuật lượng tử hóa.

Quảng cáo

Khả năng chống suy giảm khi lượng tử hóa mang lại bước đột phá thiết thực về tính linh hoạt trong triển khai. Hầu hết mô hình AI giảm hiệu năng đáng kể khi được nén để chạy cục bộ. Độ ổn định được thiết kế để duy trì khi nén của Qwen3.5 đồng nghĩa mẫu đầu bảng có thể xử lý cửa sổ ngữ cảnh hơn 1 triệu token trên GPU phổ thông với chỉ 32GB VRAM. Dù vẫn cần phần cứng phổ thông cao cấp, mức này dễ tiếp cận hơn nhiều so với các cụm máy chủ thường cần có để đạt hiệu năng tương đương với mô hình đối thủ.

Kiểm chứng thực tế qua benchmark: Đánh giá độc lập trước các tuyên bố hiệu năng

Các tuyên bố benchmark của Alibaba chỉ phản ánh một phần bức tranh. Dù những đánh giá do công ty tài trợ cho thấy Qwen3.5-35B-A3B vượt GPT-5-mini và Claude Sonnet 4.5 ở các chỉ số như MMMLU (kiến thức đa ngôn ngữ) và MMMU-Pro (suy luận thị giác), thử nghiệm độc lập cho thấy cục diện cạnh tranh phức tạp hơn.

Các thử nghiệm SWE-rebench độc lập gần đây, đánh giá mô hình qua việc sửa lỗi trong yêu cầu kéo GitHub thực tế thay vì benchmark tổng hợp, cho thấy Claude Sonnet 4.5 đạt tỷ lệ vượt qua cao nhất, ở mức 55,1%. Mô hình của Anthropic đã giải quyết được một số trường hợp phức tạp mà không mô hình nào khác được thử nghiệm xử lý thành công, bao gồm các vấn đề trong những kho lưu trữ python-trio, cubed-dev và canopen. Trong môi trường lập trình thực tế này, Sonnet 4.5 vẫn dẫn đầu rõ rệt.

Quảng cáo

Các thử nghiệm benchmark APEX độc lập tiếp theo, được tiến hành trên 70 tác vụ liên quan đến cơ sở mã thực có vấn đề thực tế, cho thấy thêm những khía cạnh phức tạp trong hồ sơ hiệu năng của Qwen3.5. Mô hình dày 27B đạt kết quả khá tốt khi triển khai trên một GPU, với 1.384 điểm ELO và vượt DeepSeek V3.2, nhưng các biến thể lớn hơn cho thấy hiệu năng suy giảm đáng lo ngại trong các tác vụ phối hợp phức tạp trên nhiều tệp. Biến thể MoE 35B với chỉ 3B tham số kích hoạt đạt 1.256 điểm ELO trong các tác vụ tác tử, kém hơn biến thể 27B nhỏ hơn ở khả năng suy luận nhiều bước. Đáng chú ý nhất, cấu hình Qwen3.5-397B đồ sộ tụt mạnh ở các tác vụ độ khó cao nhất: từ khoảng 1.550 điểm ELO ở tác vụ khó xuống còn 1.194 điểm khi phải phối hợp nhiều tệp qua các chuỗi suy luận dài.

Khi phải phối hợp nhiều tệp qua nhiều bước, mô hình đơn giản là mất dấu những gì mình đang làm.

Phân tích độc lập này do một nhà nghiên cứu tự tài trợ công bố, người đã chi hơn 3.000 USD cho năng lực tính toán để thử nghiệm. Kết quả cho thấy Qwen3.5 vượt trội ở các tác vụ giới hạn, nhưng có thể gặp khó với những công việc phức tạp, kéo dài và mang tính tác tử, lĩnh vực mà Claude Sonnet 4.5 thể hiện thế mạnh nổi bật.

Chế độ suy nghĩ và tích hợp công cụ

Tất cả mô hình Qwen3.5 đều được tích hợp Chế độ suy nghĩ, bật mặc định, đánh dấu sự chuyển hướng sang tương tác AI ưu tiên suy luận. Trước khi tạo câu trả lời cuối cùng, mô hình xây dựng các chuỗi suy luận nội bộ, được phân định bằng những thẻ cụ thể, và xử lý rõ ràng các lập luận phức tạp thay vì lập tức đưa ra kết luận. Phương pháp này tương tự các kỹ thuật chuỗi suy nghĩ đã giúp cải thiện độ chính xác ở những mô hình tiên tiến khác.

Quảng cáo

Dòng mô hình này cũng chú trọng năng lực tác tử, với khả năng gọi công cụ tích hợp sẵn, cho phép mô hình tương tác với hệ thống bên ngoài, tìm kiếm trên web và thực thi mã. API Qwen3.5-Flash có mức giá chi tiết cho các tính năng này: chức năng tìm kiếm web có giá 10 USD cho mỗi 1.000 lượt gọi, còn quyền truy cập trình thông dịch mã hiện được cung cấp miễn phí trong thời gian giới hạn. Cơ cấu giá này giúp Flash trở thành một trong những lựa chọn LLM lưu trữ có chi phí thấp nhất thế giới, với giá đầu vào 0,10 USD mỗi triệu token và đầu ra 0,40 USD mỗi triệu token.

Để so sánh, Claude Sonnet 4.5 có giá 3,00 USD mỗi triệu token đầu vào và 15,00 USD mỗi triệu token đầu ra, trong khi GPT-5.2 có giá lần lượt là 1,75 USD và 14,00 USD. Ngay cả các lựa chọn hướng đến chạy cục bộ như GLM-5 của Z.ai cũng có giá 1,00 USD và 3,20 USD mỗi triệu token. Chênh lệch giá từ 30 đến 100 lần này có thể thúc đẩy đáng kể mức độ ứng dụng trong các doanh nghiệp chú trọng chi phí, sẵn sàng chấp nhận khác biệt hiệu năng nhỏ để giảm mạnh ngân sách.

Ý nghĩa đối với chủ quyền dữ liệu doanh nghiệp

Ngoài các chỉ số hiệu năng thuần túy, việc phát hành Qwen3.5 còn có ý nghĩa chiến lược đối với triển khai AI trong doanh nghiệp. Khả năng vận hành hoàn toàn các mô hình có năng lực tiên tiến trên hạ tầng riêng giúp giải quyết những lo ngại ngày càng tăng về chủ quyền dữ liệu và rủi ro từ API bên thứ ba. Các tổ chức trong những ngành chịu quản lý, gồm tài chính, y tế và hợp đồng chính phủ, ngày càng phải tuân thủ các yêu cầu cấm truyền dữ liệu nhạy cảm đến dịch vụ AI đám mây bên ngoài.

Nhờ cho phép chạy cửa sổ ngữ cảnh một triệu token trên phần cứng do tổ chức kiểm soát, Qwen3.5 giúp doanh nghiệp xử lý kho tài liệu khổng lồ, nội dung video dài hàng giờ và tập dữ liệu nội bộ quy mô lớn mà không để lộ thông tin độc quyền qua API bên ngoài. Thay đổi kiến trúc này tách năng lực AI tinh vi khỏi nhu cầu đầu tư vốn khổng lồ, có thể giúp phổ cập những công cụ vốn chỉ dành cho các công ty công nghệ có nguồn lực dồi dào.

Quảng cáo

Giấy phép mã nguồn mở còn cho phép tùy biến và tinh chỉnh mô hình cho các ứng dụng chuyên ngành. Không giống mô hình độc quyền chỉ cung cấp quyền truy cập API dạng hộp đen, trọng số mở của Qwen3.5 cho phép tổ chức điều chỉnh mô hình theo thuật ngữ chuyên môn, cơ sở tri thức nội bộ và yêu cầu quy trình làm việc riêng. Sự linh hoạt này đặc biệt có giá trị với các ngành sử dụng thuật ngữ chuyên biệt hoặc phải đáp ứng yêu cầu về tài liệu quy định.

Thách thức từ hệ sinh thái AI Trung Quốc rộng lớn hơn

Qwen3.5 ra mắt giữa làn sóng các sản phẩm mã nguồn mở cạnh tranh từ các phòng thí nghiệm AI Trung Quốc, cùng nhau thách thức vị thế dẫn đầu công nghệ của phương Tây. Dòng GLM-4.5 của Z.ai, được phát hành theo giấy phép Apache 2.0 tương tự, có hiệu năng tương đương cùng những tính năng chuyên biệt như tự động tạo PowerPoint. Kimi K2 của Moonshot và nhiều mô hình mở của DeepSeek góp phần hoàn thiện một hệ sinh thái cung cấp các lựa chọn khả thi thay thế những hệ thống đóng của Mỹ.

Xu hướng này gây sức ép lên các công ty AI hàng đầu phương Tây. Meta vấp phải chỉ trích sau khi ra mắt dòng Llama 4, khi một số nhà nghiên cứu AI nêu lo ngại về việc tối ưu theo benchmark và hiệu năng thực tế thiếu nhất quán. OpenAI, công ty tiên phong trong kỷ nguyên LLM hiện đại, đã hoãn kế hoạch phát hành mô hình tiên tiến mã nguồn mở từ tháng 7 sang một thời điểm sau đó chưa được xác định, tạo cơ hội để các lựa chọn Trung Quốc thu hút sự chú ý của giới phát triển.

Động lực cạnh tranh không chỉ xoay quanh thông số kỹ thuật mà còn liên quan đến quản trị dữ liệu. Các doanh nghiệp phương Tây sử dụng mô hình do Trung Quốc phát triển phải cân nhắc những hạn chế về nội dung và vấn đề chủ quyền dữ liệu, đặc biệt khi dùng API lưu trữ trên đám mây thay vì triển khai cục bộ. Tuy nhiên, tính chất mã nguồn mở của các biến thể chính trong dòng Qwen3.5 cho phép triển khai trên hệ thống cách ly mạng, qua đó giảm thiểu nhiều mối lo ngại này.

Quảng cáo

Định vị thị trường và triển vọng tương lai

Chiến lược phát hành của Alibaba nhấn mạnh khả năng tiếp cận trên nhiều cấp phần cứng. Qwen3.5-27B hướng đến triển khai hiệu quả cao, hỗ trợ ngữ cảnh hơn 800.000 token, trong khi biến thể 122B-A10B cần GPU cấp máy chủ với 80GB VRAM để đạt hiệu năng tối đa. Cách tiếp cận phân tầng này cho phép tổ chức chọn mô hình phù hợp với hạ tầng sẵn có, thay vì buộc phải phụ thuộc hoàn toàn vào đám mây.

Công ty cũng phát hành mã nguồn mở mô hình nền tảng bên cạnh các biến thể được tinh chỉnh theo chỉ dẫn, đáp ứng nhu cầu của cộng đồng nghiên cứu về tinh chỉnh và tìm hiểu kiến trúc. Sự minh bạch này trái ngược với cách phát triển khép kín của một số đối thủ phương Tây, đồng thời có thể thúc đẩy đổi mới nhờ cải tiến cộng tác.

Phản hồi ban đầu của cộng đồng trên Hugging Face cho thấy sự quan tâm đặc biệt đến năng lực tác tử và độ ổn định khi lượng tử hóa của các mô hình. Các nhà phát triển cho biết đã triển khai thành công trên phần cứng phổ thông trước đây được xem là không đủ sức chạy mô hình tiên tiến, qua đó xác thực tuyên bố về hiệu quả của Alibaba, dù benchmark độc lập khuyến nghị thận trọng với các tác vụ lập trình phức tạp.

Điểm chính

  • Alibaba phát hành dòng Qwen3.5 Medium gồm bốn mô hình, trong đó ba mô hình được cung cấp theo giấy phép mã nguồn mở Apache 2.0, cho phép sử dụng thương mại
  • Mẫu đầu bảng Qwen3.5-35B-A3B chỉ kích hoạt 3 tỷ trong tổng số 35 tỷ tham số cho mỗi token nhờ kiến trúc Mixture-of-Experts
  • Benchmark độc lập cho kết quả không đồng nhất: hiệu năng mạnh trong các bài kiểm tra kiến thức và suy luận nhưng gặp khó với tác vụ lập trình phức tạp trên nhiều tệp so với Claude Sonnet 4.5
  • Nhờ kỹ thuật lượng tử hóa 4-bit tiên tiến, các mô hình hỗ trợ cửa sổ ngữ cảnh hơn 1 triệu token trên GPU phổ thông có 32GB VRAM
  • API Qwen3.5-Flash có giá thấp hơn đối thủ phương Tây từ 30 đến 100 lần, chỉ 0,10 USD mỗi triệu token đầu vào so với 3,00 USD của Claude Sonnet 4.5
  • Chế độ suy nghĩ tích hợp sẵn, bật mặc định trên toàn dòng, tạo chuỗi suy luận nội bộ trước khi đưa ra câu trả lời cuối cùng
  • Triển khai trong doanh nghiệp cho phép bảo đảm toàn quyền chủ quyền dữ liệu, đáp ứng nhu cầu xử lý AI tại chỗ của các ngành chịu quản lý
  • Sản phẩm gia nhập làn sóng mô hình AI mã nguồn mở Trung Quốc rộng lớn hơn, gồm GLM-4.5 của Z.ai và Kimi K2 của Moonshot, thách thức các hệ thống độc quyền phương Tây
Chia sẻ bài viết này

Có thể bạn cũng thích