Alibaba và Baidu huấn luyện AI trên chip tự thiết kế khi các hạn chế của Mỹ ngày càng siết chặt

Đọc trong 14 phút
Alibaba và Baidu huấn luyện AI trên chip tự thiết kế khi các hạn chế của Mỹ ngày càng siết chặt

Vì sao vấn đề này quan trọng lúc này

Hai công ty internet tiêu dùng và điện toán đám mây lớn nhất Trung Quốc đang có bước đi quyết định nhằm bảo đảm chuỗi cung ứng trí tuệ nhân tạo. Alibaba và Baidu đã bắt đầu huấn luyện một số mô hình trên bộ xử lý do chính họ thiết kế, giảm phụ thuộc vào chip Nvidia vốn là nền tảng của AI hiện đại. Sự chuyển dịch này phản ánh đồng thời hai sức ép lớn: các biện pháp kiểm soát xuất khẩu của Mỹ đối với chất bán dẫn tiên tiến xuất sang Trung Quốc ngày càng thắt chặt, và nỗ lực trong nước nhằm ưu tiên công nghệ nội địa trong hạ tầng trọng yếu.

Nội dung
  1. Vì sao vấn đề này quan trọng lúc này
  2. Alibaba và Baidu đang phát triển những gì
  3. Quy định xuất khẩu của Mỹ đã định hình lại thị trường ra sao
  4. Chip nội địa gần Nvidia đến đâu
  5. Huấn luyện và suy luận là hai tác vụ khác nhau
  6. Hệ thống phần mềm quan trọng không kém chip
  7. Chiến lược kinh doanh và phản ứng của thị trường
  8. Những hạn chế về chuỗi cung ứng và sản xuất
  9. Ý nghĩa với nhà phát triển và khách hàng
  10. Điều cần theo dõi tiếp theo
  11. Những điểm chính

Cả hai công ty đều chuyển đổi thận trọng thay vì thay đổi toàn diện ngay lập tức. Alibaba sử dụng bộ tăng tốc của riêng mình cho các tác vụ huấn luyện quy mô nhỏ hơn, đồng thời vẫn giữ phần cứng Nvidia cho những công việc đòi hỏi cao nhất. Baidu đang thử nghiệm chip Kunlun P800 mới nhất trên các phiên bản mới của mô hình Ernie, nền tảng công nghệ cho các dịch vụ AI tạo sinh của công ty. Hai công ty vẫn dựa vào Nvidia cho những đợt huấn luyện lớn và phức tạp nhất, vốn đòi hỏi hiệu năng, độ hoàn thiện của phần mềm và khả năng kết nối nhiều chip ở mức cao nhất.

Tác động thực tế tại các trung tâm dữ liệu Trung Quốc có thể rất sâu rộng. Các công ty từng phải chờ đến lượt mua GPU nhập khẩu nay có thêm một con đường để mở rộng năng lực điện toán AI. Chip nội địa đủ tốt cho ngày càng nhiều tác vụ giúp giảm rủi ro nguồn cung, bảo đảm tiến độ dự án và phù hợp với các mục tiêu công nghệ quốc gia. Nếu việc triển khai diễn ra thuận lợi, đây sẽ là minh chứng cho nhiều năm đầu tư vào chip AI nội địa, đồng thời thúc đẩy các nhà cung cấp dịch vụ đám mây Trung Quốc kết hợp phần cứng nước ngoài và trong nước trong hệ thống của mình.

Alibaba và Baidu đang phát triển những gì

Alibaba có kinh nghiệm phát triển chip tùy chỉnh thông qua đơn vị T-Head, trước đây từng ra mắt bộ tăng tốc AI Hanguang 800 dành cho suy luận và một CPU máy chủ dựa trên tập lệnh Arm. Bộ xử lý huấn luyện AI mới nhất của công ty, được nhân viên nội bộ gọi là Zhenwu, hiện được dùng để huấn luyện các mô hình nhỏ hơn trong Alibaba Cloud. Những người từng làm việc với con chip này cho biết hiệu năng thực tế của nó cạnh tranh với H20 của Nvidia trong các tác vụ không đòi hỏi khả năng kết nối tiên tiến nhất hoặc dung lượng bộ nhớ lớn nhất. Alibaba vẫn dựa vào các hệ thống Nvidia để huấn luyện những mô hình tiên phong, trong khi tiếp tục kiểm chứng chip mới ở quy mô lớn.

Dự án Kunlun của Baidu là một trong những dòng bộ tăng tốc AI nội địa lâu đời nhất Trung Quốc. Các chip Kunlun đời đầu tập trung vào suy luận, tức quá trình vận hành những mô hình đã được huấn luyện. Với Kunlun P800, Baidu đang tiến hành các thử nghiệm huấn luyện những phiên bản Ernie mới để kiểm chứng độ ổn định, thông lượng và mức độ sẵn sàng của hệ thống phần mềm. Lợi thế cốt lõi của Baidu là tích hợp theo chiều dọc: công ty phát triển các mô hình Ernie, vận hành những cụm máy chủ đám mây quy mô lớn và kiểm soát khuôn khổ PaddlePaddle, nhờ đó có nhiều tự do hơn để đồng thiết kế phần cứng và phần mềm nhằm nâng cao hiệu quả.

Quảng cáo

Quy định xuất khẩu của Mỹ đã định hình lại thị trường ra sao

Washington liên tục siết chặt các biện pháp kiểm soát kể từ năm 2022, khi các ngưỡng hiệu năng đối với bộ tăng tốc AI lần đầu giới hạn những sản phẩm mà nhà cung cấp Mỹ có thể xuất sang Trung Quốc. Trong một thời gian, các giải pháp như GPU phiên bản dành riêng cho Trung Quốc, có băng thông kết nối thấp hơn, vẫn duy trì được một phần nguồn cung. Những biện pháp mới được công bố trong các năm tiếp theo đã thu hẹp các con đường này. Các nền tảng Nvidia hàng đầu như H100 và những dòng Blackwell mới hơn vẫn nằm ngoài tầm với tại Trung Quốc. Nvidia tạo ra H20, một phiên bản kém năng lực hơn nhằm tuân thủ quy định của Mỹ, nhưng nghiên cứu trong ngành cho thấy việc xuất khẩu ngay cả những chip này hiện cũng cần giấy phép, bắt đầu từ tháng 4/2025, làm gia tăng trở ngại và bất định cho các bên mua chip Mỹ tại Trung Quốc.

Các nền tảng internet và điện toán đám mây lớn của Trung Quốc đáp lại bằng kế hoạch hai hướng: mua những gì có thể từ nước ngoài, đồng thời đầu tư mạnh vào bộ tăng tốc nội địa. Môi trường chính sách cũng ưu tiên các giải pháp trong nước. Khách hàng thuộc chính phủ và hạ tầng trọng yếu ngày càng chuộng phần cứng được thiết kế và hỗ trợ ngay tại Trung Quốc, tạo động lực để các nhà cung cấp dịch vụ đám mây chứng minh rằng bộ tăng tốc Trung Quốc có thể xử lý tác vụ vận hành thực tế với chi phí hợp lý và hiệu năng ổn định.

Nvidia nhận thấy cục diện cạnh tranh đang thay đổi và khách hàng có động lực đa dạng hóa. Người phát ngôn công ty thừa nhận thực tế đó, đồng thời nhấn mạnh Nvidia vẫn muốn phục vụ các nhà phát triển trên toàn cầu.

Cạnh tranh đã thực sự xuất hiện. Chúng tôi sẽ tiếp tục nỗ lực để giành được niềm tin và sự ủng hộ của các nhà phát triển phổ thông ở khắp mọi nơi.
Quảng cáo

Chip nội địa gần Nvidia đến đâu

Câu trả lời tùy thuộc vào tác vụ. Các báo cáo từ những kỹ sư từng sử dụng bộ tăng tốc mới nhất của Alibaba cho thấy chip này ngang tầm H20 của Nvidia ở một số tác vụ huấn luyện và với các mô hình nhỏ hơn. Đây là bước tiến đáng kể đối với một nền tảng còn non trẻ. Với các mô hình lớn nhất và lịch huấn luyện khắt khe nhất, Nvidia vẫn có lợi thế nhờ năng lực tính toán đỉnh cao hơn, kết nối nhiều GPU nhanh hơn, hệ thống trình biên dịch hoàn thiện và hệ sinh thái thư viện tối ưu phong phú. Các chip như H100 và thiết kế Blackwell mới nhất vẫn là tiêu chuẩn để huấn luyện mô hình tiên tiến nhất bên ngoài Trung Quốc.

Huấn luyện và suy luận là hai tác vụ khác nhau

Huấn luyện AI là quá trình dạy mô hình bằng cách điều chỉnh hàng tỷ tham số qua nhiều lượt xử lý dữ liệu. Quá trình này đẩy phần cứng đến giới hạn về năng lực tính toán và băng thông bộ nhớ, đồng thời cần kết nối rất nhanh giữa các bộ tăng tốc để hàng nghìn chip có thể đồng bộ hiệu quả. Suy luận diễn ra sau khi huấn luyện. Mô hình đã học xong và hệ thống tạo kết quả cho người dùng theo thời gian thực. Suy luận ưu tiên độ trễ thấp, hiệu quả chi phí và tiết kiệm điện năng. Một con chip xuất sắc cho suy luận hoặc huấn luyện mô hình nhỏ hơn vẫn có thể không đáp ứng được các đợt huấn luyện kéo dài nhiều tháng cho mô hình rất lớn, bởi mạng kết nối giữa các chip và khâu điều phối phần mềm có thể trở thành nút thắt.

Hệ thống phần mềm quan trọng không kém chip

Ưu thế của Nvidia chưa bao giờ chỉ nằm ở chip. Nền tảng CUDA, các thư viện như cuDNN và TensorRT, cùng hệ sinh thái công cụ đối tác phong phú giúp việc phát triển trở nên đơn giản và hiệu năng dễ dự đoán. Các nền tảng Trung Quốc đang xây dựng hệ thống phần mềm riêng cho bộ tăng tốc nội địa. PaddlePaddle của Baidu và các bộ công cụ đám mây của Alibaba đã hỗ trợ chip của chính họ; cả hai công ty đều có thể tùy chỉnh các kernel và trình biên dịch đồ thị cho mô hình riêng. Khả năng kiểm soát này có thể cải thiện hiệu quả, nhưng cũng đồng nghĩa với việc các nhà phát triển bên thứ ba có thể phải làm quen khi chuyển mã sang phần cứng nội địa. Nếu Alibaba và Baidu giúp quá trình chuyển đổi này diễn ra liền mạch trên nền tảng đám mây của họ, khách hàng có thể quan tâm đến giá cả, khả năng cung ứng và mức dịch vụ hơn là thương hiệu in trên chip.

Quảng cáo

Chiến lược kinh doanh và phản ứng của thị trường

Nhà đầu tư hoan nghênh dấu hiệu cho thấy các tập đoàn internet hàng đầu Trung Quốc có thể bảo đảm năng lực điện toán AI mà không phụ thuộc hoàn toàn vào hàng nhập khẩu. Cổ phiếu Alibaba và Baidu tăng sau các thông tin về việc triển khai chip mới, phản ánh kỳ vọng rằng nguồn cung vững chắc hơn sẽ hỗ trợ kế hoạch sản phẩm và giảm nguy cơ chậm trễ. Chip nội địa đủ tốt cho phần lớn tác vụ huấn luyện cũng có thể giảm chi phí vận hành dài hạn nếu dễ mua sắm và mở rộng tại các trung tâm dữ liệu trong nước.

Lý do chiến lược không chỉ nằm ở chi phí và nguồn cung. Alibaba Cloud và Baidu Cloud phục vụ khách hàng doanh nghiệp và khu vực công, những bên thường ưu tiên phần cứng được thiết kế trong nước. Cung cấp năng lực điện toán bằng bộ tăng tốc nội địa có thể giúp giành được các tác vụ nhạy cảm, đồng thời phù hợp với ưu tiên quản lý về an ninh và lưu trữ dữ liệu trong nước. Dù vậy, có vẻ cả hai công ty đều chủ trương kết hợp một cách thực dụng: giữ hệ thống Nvidia cho những bài toán khó nhất và dựa vào chip nội địa cho nhiều tác vụ có hiệu năng tương đương, với hiệu quả kinh tế hấp dẫn.

Quảng cáo

Những hạn chế về chuỗi cung ứng và sản xuất

Thiết kế được một bộ tăng tốc AI cạnh tranh mới chỉ là một phần của thách thức. Sản xuất, đóng gói và nguồn cung bộ nhớ đều quan trọng. Các chip có hiệu năng cao nhất hiện nay được chế tạo trên những tiến trình tiên tiến và sử dụng các cụm bộ nhớ băng thông cao đặt sát bộ xử lý. Các nhà máy đúc chip của Trung Quốc đã đạt tiến bộ, nhưng vẫn chưa theo kịp những tiến trình tiên tiến nhất ở nước ngoài. Thiết kế thông minh, đóng gói tốt và phần mềm hiệu quả có thể bù đắp một phần khoảng cách này, nhưng chênh lệch vẫn ảnh hưởng đến hiệu năng đỉnh cao và hiệu suất năng lượng.

Nguồn cung bộ nhớ băng thông cao cũng là một hạn chế khác, bởi huấn luyện mô hình lớn tiêu tốn lượng băng thông và dung lượng bộ nhớ khổng lồ. Các nhà cung cấp dịch vụ đám mây ứng phó bằng cách phân bổ tác vụ trên nhiều chip hơn, tối ưu định dạng độ chính xác và lên lịch những công việc phù hợp với thế mạnh của từng nền tảng. Trong bối cảnh đó, bộ tăng tốc nội địa được tích hợp tốt vào hệ thống phần mềm đám mây và dễ mua sắm vẫn có thể đảm nhận phần đáng kể khối lượng công việc, ngay cả khi hiệu năng đỉnh lý thuyết chưa bằng những sản phẩm nước ngoài tốt nhất.

Ý nghĩa với nhà phát triển và khách hàng

Khách hàng của Alibaba và Baidu sẽ quan tâm đến ba yếu tố: thời gian có được năng lực điện toán, độ tin cậy và tổng chi phí cho một đợt huấn luyện hoặc tác vụ suy luận nhất định. Nếu bộ tăng tốc nội địa rút ngắn thời gian chờ và mang lại hiệu năng ổn định với các khuôn khổ quen thuộc, nhiều nhóm sẽ chuyển sang sử dụng mà không gặp trở ngại lớn. Các nhà phát triển mô hình có thể cần tinh chỉnh kernel hoặc dùng công cụ riêng của nhà cung cấp để đạt thông lượng tối ưu, nhưng đây là việc phổ biến trong điện toán hiệu năng cao. Trước mắt, nhiều khả năng các cụm máy chủ sẽ kết hợp nhiều loại chip, với chính sách lập lịch phân bổ tác vụ cho phần cứng phù hợp nhất hiện có; việc huấn luyện các mô hình tiên phong lớn nhất vẫn diễn ra trên hệ thống Nvidia, còn ngày càng nhiều tác vụ phổ thông chạy trên chip của Alibaba và Baidu.

Điều cần theo dõi tiếp theo

Hai cột mốc đáng chú ý trong năm tới. Thứ nhất là cơ chế cấp phép xuất khẩu bộ tăng tốc của Mỹ sang Trung Quốc; theo các nhà nghiên cứu trong ngành, quy định này sẽ áp dụng với những sản phẩm như Nvidia H20 và AMD MI308 từ tháng 4/2025. Thứ hai là bằng chứng thực tế cho thấy chip của Alibaba và Baidu có thể xử lý hoạt động huấn luyện sản xuất ở quy mô lớn, chứ không chỉ trong thử nghiệm phòng thí nghiệm. Các bài đánh giá trên những mô hình phổ biến, nghiên cứu tình huống khách hàng và tốc độ bán hết các gói dịch vụ đám mây sử dụng bộ tăng tốc nội địa sẽ cho thấy tình hình. Cần theo dõi tốc độ hoàn thiện của hệ sinh thái phần mềm quanh các chip này, trong đó có khả năng hỗ trợ các khuôn khổ phổ biến và công cụ bên thứ ba. Đồng thời, hãy chú ý cách các nền tảng Trung Quốc khác, gồm những bên tự phát triển bộ tăng tốc hoặc mua từ nhà cung cấp nội địa, phân bổ vốn giữa GPU nhập khẩu và lựa chọn trong nước khi các dự án mới bắt đầu.

Những điểm chính

  • Alibaba và Baidu đã bắt đầu huấn luyện mô hình AI trên chip do họ thiết kế, đồng thời giữ hệ thống Nvidia cho những tác vụ đòi hỏi cao nhất.
  • Bộ tăng tốc mới nhất của Alibaba được dùng cho các tác vụ huấn luyện nhỏ hơn; theo nhân viên công ty, chip này ngang tầm Nvidia H20 trong một số tác vụ.
  • Baidu đang thử nghiệm Kunlun P800 trên các phiên bản Ernie mới và tận dụng khả năng kiểm soát khuôn khổ PaddlePaddle.
  • Kiểm soát xuất khẩu của Mỹ hạn chế khả năng tiếp cận các dòng chip Nvidia hàng đầu; nghiên cứu trong ngành cho thấy từ năm 2025, các lô hàng H20 sang Trung Quốc sẽ phải có giấy phép mới.
  • Nvidia cho biết sẽ tiếp tục nỗ lực giành niềm tin của nhà phát triển khi cạnh tranh gia tăng.
  • Bộ tăng tốc nội địa đã đủ tốt cho ngày càng nhiều tác vụ, dù Nvidia vẫn dẫn đầu trong huấn luyện mô hình ở quy mô tiên phong.
  • Hệ sinh thái phần mềm là yếu tố then chốt; Alibaba và Baidu đang tinh chỉnh bộ công cụ cho phần cứng riêng.
  • Nhà đầu tư phản ứng tích cực, với kỳ vọng rủi ro nguồn cung giảm và các công ty kiểm soát tốt hơn lộ trình phát triển AI.
  • Sản xuất và nguồn cung bộ nhớ vẫn là hạn chế, nhưng thiết kế hợp lý và tích hợp đám mây có thể bù đắp một phần.
  • Các nền tảng đám mây Trung Quốc được dự báo sẽ dùng những cụm máy chủ kết hợp nhiều loại chip, với bộ lập lịch phân bổ tác vụ giữa chip nội địa và GPU nhập khẩu.
Chia sẻ bài viết này

Có thể bạn cũng thích