Nvidia bắt đầu sản xuất Vera Rubin khi nhu cầu HBM4 thúc đẩy cuộc đua chip nhớ

Dây chuyền lắp ráp nhanh hơn đưa nguồn cung bộ nhớ vào tâm điểm

Nvidia đã bắt đầu sản xuất toàn diện nền tảng điện toán trí tuệ nhân tạo Vera Rubin. Giám đốc điều hành Jensen Huang cho biết hiện nay một nút máy chủ có thể được lắp ráp trong chưa đầy năm phút, so với hai giờ đối với thế hệ tiền nhiệm Grace Blackwell. Thay đổi này hứa hẹn đẩy nhanh việc sản xuất máy chủ, đồng thời làm tăng nhu cầu đối với bộ nhớ tiên tiến do Samsung Electronics, SK hynix và Micron cung cấp.

Huang giới thiệu nút Vera Rubin tại GTC Berlin 2026, mô tả thiết kế không dùng cáp hay dây dẫn và được làm mát hoàn toàn bằng chất lỏng. Grace Blackwell sử dụng phương thức làm mát bằng chất lỏng cho 80% hệ thống và đòi hỏi nhiều công đoạn lắp ráp hơn đáng kể.

So sánh này cho thấy thời gian lắp ráp giảm hơn 95,8%, từ 120 phút xuống còn chưa đầy năm phút. Với các công ty xây dựng số lượng lớn máy chủ AI, việc đơn giản hóa công đoạn này có thể giúp thiết bị được đưa qua nhà máy nhanh hơn. Thời gian sản xuất chip, đóng gói bộ nhớ và lắp đặt hệ thống hoàn chỉnh vẫn là một phần của lịch trình sản xuất tổng thể.

Samsung và SK hynix đang cạnh tranh để giành nhu cầu phát sinh đối với HBM4, thế hệ thứ sáu của bộ nhớ băng thông cao. Micron cũng đủ điều kiện cung cấp cho Vera Rubin, biến đây thành cuộc cạnh tranh giữa cả ba nhà sản xuất HBM lớn.

Trong khi đó, các nhà cung cấp đã giới thiệu HBM4E, thế hệ kế tiếp của HBM4. Những thông báo này cho thấy hai áp lực gắn liền với nhau: Nvidia muốn có những máy chủ dễ lắp ráp hơn, còn các nhà sản xuất bộ nhớ phải cung cấp tốc độ và dung lượng lớn hơn thông qua một quy trình sản xuất khó khăn. Việc lắp ráp máy chủ nhanh hơn càng làm cho nguồn cung chip ổn định trở nên quý giá.

Những thay đổi bên trong Vera Rubin

Nút máy chủ là một khối cấu thành của hệ thống điện toán lớn hơn. Nvidia kết nối các nút này để nhiều bộ xử lý có thể phối hợp thực hiện những tác vụ AI đòi hỏi cao, chẳng hạn như huấn luyện mô hình hoặc trả lời yêu cầu của số lượng lớn người dùng.

Thiết kế lắp ráp đơn giản hơn của Vera Rubin giúp giảm công việc kết nối các linh kiện. Phép so sánh của Huang với Grace Blackwell tập trung vào việc loại bỏ cáp và dây dẫn khỏi nút máy chủ, đồng thời chuyển sang làm mát hoàn toàn bằng chất lỏng.

Phương thức làm mát bằng chất lỏng dùng dung dịch tuần hoàn để đưa nhiệt ra khỏi các linh kiện. Bộ xử lý AI mạnh tạo ra lượng nhiệt đáng kể; kiểm soát nhiệt độ giúp chúng hoạt động ổn định trong thời gian dài với khối lượng công việc lớn. Vera Rubin mở rộng cách làm này trên toàn bộ hệ thống mà Huang mô tả.

Thông báo sản xuất của Nvidia đưa thiết kế này vào khâu chế tạo. Tốc độ đưa hệ thống hoàn chỉnh đến tay khách hàng cũng sẽ phụ thuộc vào nguồn cung bộ xử lý, bộ nhớ, linh kiện đóng gói và thiết bị làm mát.

Vì sao HBM4 quan trọng với hiệu năng AI

HBM xếp chồng nhiều chip nhớ theo chiều dọc bên cạnh bộ xử lý AI. Các kết nối siêu nhỏ chạy xuyên qua silicon cho phép dữ liệu di chuyển giữa các lớp. Một bề mặt kết nối chung liên kết chồng bộ nhớ với bộ xử lý, giúp bộ xử lý truy cập thông tin nhanh chóng.

Bộ xử lý AI cần khả năng truy cập này vì các phép tính phụ thuộc vào nguồn dữ liệu liên tục. Một bộ xử lý mạnh có thể phải chờ nếu bộ nhớ không cung cấp thông tin đủ nhanh. Băng thông cho biết lượng dữ liệu có thể truyền mỗi giây; dung lượng cho biết lượng dữ liệu có thể lưu giữ cùng lúc.

HBM4 mở rộng giao diện dữ liệu lên 2.048 bit, gấp đôi thế hệ trước. Samsung cho biết chồng 12 lớp của hãng đạt băng thông 2,8 terabyte mỗi giây, trong khi Micron công bố sản phẩm HBM4 hiện tại đạt hơn 2,8 terabyte mỗi giây.

Cả tốc độ lẫn dung lượng lưu trữ đều quan trọng. Huấn luyện mô hình AI đòi hỏi tính toán lặp đi lặp lại trên lượng dữ liệu lớn. Chạy một mô hình đã huấn luyện, còn gọi là suy luận, cũng cần bộ nhớ để lưu mô hình và thông tin về các yêu cầu đang được xử lý.

Samsung theo đuổi tốc độ, SK hynix tăng dung lượng

HBM4 của Samsung kết hợp quy trình sản xuất DRAM 1c thế hệ thứ sáu với đế nền chế tạo bằng quy trình logic 4 nanomet. Đế nền là lớp điều khiển bên dưới chồng bộ nhớ. Samsung cho biết tốc độ dữ liệu đạt 11,7 gigabit mỗi giây trên mỗi chân kết nối, và có thể lên tới 13 gigabit trong các cấu hình được tối ưu hóa.

Hwang Sang-joon, người đứng đầu bộ phận phát triển bộ nhớ của Samsung Electronics, giải thích lựa chọn sản xuất này khi công ty công bố những lô hàng thương mại đầu tiên:

Thay vì đi theo con đường thông thường là tận dụng các thiết kế hiện có đã được kiểm chứng, Samsung đã mạnh dạn áp dụng những tiến trình tiên tiến nhất như DRAM 1c và quy trình logic 4 nm cho HBM4,

SK hynix chọn cách tiếp cận khác với sản phẩm HBM4 được giới thiệu, sử dụng quy trình DRAM 1b đã được áp dụng rộng rãi hơn và xếp chồng 16 lớp. Phiên bản này có dung lượng 48 gigabyte, so với 36 gigabyte trong chồng 12 lớp của Samsung.

Như vậy, chồng bộ nhớ của SK hynix có thêm 12 gigabyte, tức dung lượng tăng một phần ba. Dung lượng bổ sung này có thể giúp hệ thống lưu giữ nhiều dữ liệu đang xử lý hơn ở gần bộ xử lý. Cách tiếp cận của Samsung tập trung vào truyền dữ liệu nhanh hơn nhờ quy trình sản xuất mới hơn.

Các cuộc hội thoại kéo dài và tác vụ AI phức tạp khiến dung lượng bộ nhớ đặc biệt có giá trị. Mô hình lưu thông tin về những phần trước đó của yêu cầu trong một vùng nhớ tạm gọi là bộ đệm khóa-giá trị. Khi ngày càng nhiều người dùng gửi yêu cầu dài hơn, bộ đệm này có thể chiếm hết bộ nhớ khả dụng và buộc hệ thống chuyển thông tin sang bộ lưu trữ chậm hơn.

Ahn Hyeon, người đứng đầu bộ phận phát triển của SK hynix, dự báo quy mô hiệu năng mà hạ tầng AI đòi hỏi vào năm 2030 có thể lớn gấp khoảng 20 lần so với năm 2026. Lập luận của ông về các công nghệ bộ nhớ mới một phần dựa trên lượng thông tin ngày càng tăng mà các hệ thống suy luận cần giữ sẵn để truy cập.

Micron mở rộng khi công suất năm 2027 đã được đặt hết

Micron khai trương cơ sở lắp ráp và kiểm định HBM tiên tiến thứ hai tại Đài Trung, Đài Loan, vào giữa tháng 10 năm 2026. Nhà máy có tên AATT2 này bổ sung công suất để chuyển các chip nhớ riêng lẻ thành những chồng hoàn chỉnh.

Manish Bhatia, chủ tịch kiêm giám đốc vận hành của Micron, mô tả nhu cầu tại lễ khai trương:

Toàn bộ công suất dự kiến cho năm 2027 đã được đặt hết,

Tại cuộc họp công bố kết quả kinh doanh tháng 6, Giám đốc điều hành Micron Sanjay Mehrotra cho biết HBM4 đạt doanh thu lũy kế hơn 1 tỷ USD chỉ trong vài tháng kể từ khi bắt đầu giao hàng thương mại. Ông cũng cho biết sản lượng HBM4 12 lớp tăng nhanh gấp đôi so với tốc độ mở rộng sản xuất HBM3E tương đương.

Huang của Nvidia xác nhận hồi tháng 6 rằng Samsung, SK hynix và Micron đều đã đạt chuẩn HBM4 và bước vào sản xuất hàng loạt cho Vera Rubin. Việc khách hàng chứng nhận có nghĩa là sản phẩm của nhà cung cấp đã vượt qua các kiểm tra cần thiết để sử dụng trong hệ thống của khách hàng.

Micron đặt mục tiêu nâng tổng công suất sản xuất HBM lên khoảng 100.000 tấm wafer mỗi tháng vào cuối năm 2026. Tính đến tháng 6, tổng vốn đầu tư của hãng tại Đài Loan vượt 1.600 tỷ Đài tệ, tương đương khoảng 50,2 tỷ USD.

Cơ sở Tongluo của công ty tại huyện Miêu Lật dự kiến bắt đầu giao sản phẩm đầy đủ vào giữa năm 2027. Các tấm wafer từ địa điểm này sẽ được vận chuyển khoảng 24 km đến AATT2 để lắp ráp và kiểm định, kết nối hai công đoạn sản xuất trong phạm vi tương đối gần.

Đóng gói và nhân công có thể hạn chế nguồn cung

Sản xuất HBM đòi hỏi nhiều hơn việc chế tạo một chip nhớ hoạt động được. Các nhà sản xuất phải làm mỏng silicon, tạo những kết nối chính xác xuyên qua vật liệu này và gắn kết nhiều lớp với nhau. Lỗi trong các công đoạn đó có thể làm giảm số chồng bộ nhớ hoàn chỉnh sử dụng được.

Chồng càng cao thì số kết nối và công đoạn gắn kết cần hoàn thành thành công càng nhiều. Vì vậy, lựa chọn quy trình mới hơn với 12 lớp của Samsung và việc SK hynix sử dụng quy trình đã được áp dụng rộng rãi hơn với 16 lớp kéo theo những thách thức sản xuất khác nhau, bên cạnh khác biệt về thông số sản phẩm.

Nhà cung cấp thiết bị Hanmi Semiconductor cung cấp máy ép nhiệt liên kết, sử dụng nhiệt độ và áp lực được kiểm soát chặt chẽ để ghép các lớp. Tháng 6, SK hynix ký hợp đồng trị giá 44,2 tỷ won, tương đương khoảng 33 triệu USD, để mua thiết bị TC Bonder 4.5 Griffin nâng cấp cho cơ sở Cheongju. Hanmi dự kiến đưa máy Wide TC Bonder tiếp theo ra thị trường vào năm 2027.

Micron cũng đối mặt với bất ổn về lao động tại Đài Loan. Công đoàn của hãng ở Đào Viên cho biết 1.994 trong số 2.012 thành viên đủ điều kiện đã chấp thuận đình công vào ngày 7 tháng 10, tương đương khoảng 99% số thành viên đủ điều kiện. Cuộc hòa giải có sự tham gia của công đoàn Đài Trung dự kiến diễn ra ngày 22 tháng 10. Tổng thống Đài Loan Lại Thanh Đức dự lễ khai trương AATT2 và kêu gọi đàm phán thiện chí.

Những diễn biến này khiến nhân sự cũng được chú ý bên cạnh thiết bị nhà máy. Việc chấp thuận đình công là bước cho phép tiến hành hoạt động đình công; chưa có thông báo về việc ngừng việc hay gián đoạn giao hàng kéo theo.

HBM4E đang thành hình

Samsung và SK hynix trưng bày công nghệ HBM4E thế hệ tiếp theo tại SEDEX 2026, diễn ra từ ngày 14 đến 16 tháng 10 tại COEX ở Seoul. Cả hai cũng giới thiệu siêu chip Vera Rubin của Nvidia, cho thấy mối liên hệ chặt chẽ giữa cuộc cạnh tranh bộ nhớ và nền tảng của Nvidia.

HBM4E của Samsung sử dụng DRAM 1c và đế nền được sản xuất bằng quy trình 4 nanomet. Hãng cho biết tốc độ đạt tới 16 gigabit mỗi giây trên mỗi chân kết nối và băng thông 3,6 terabyte mỗi giây.

So với mức băng thông HBM4 mà Samsung công bố là 2,8 terabyte mỗi giây, con số này tăng khoảng 29%. Chồng HBM4E 12 lớp của hãng có dung lượng 48 gigabyte, cao hơn một phần ba so với mức 36 gigabyte của chồng HBM4 cùng số lớp. Samsung cũng có kế hoạch cung cấp các phiên bản 8 lớp, dung lượng 32 gigabyte, và 16 lớp, dung lượng 64 gigabyte.

SK hynix cũng giới thiệu HBM4E với tốc độ lên tới 16 gigabit mỗi giây trên mỗi chân kết nối, đồng thời cho biết hiệu suất sử dụng năng lượng sẽ cải thiện hơn 20% so với HBM4. Samsung đã gửi mẫu cho khách hàng vào tháng 5, còn SK hynix gửi mẫu vào tháng 6 để kiểm tra hiệu năng. Samsung đang hướng tới sản xuất hàng loạt theo lịch trình của khách hàng.

Nhà sản xuất tìm hướng đi vượt ra ngoài bộ nhớ đặt cạnh GPU

Samsung trưng bày mô hình zHBM, một kiến trúc đặt bộ nhớ theo chiều dọc phía trên chip điện toán thay vì bên cạnh chip. Rút ngắn khoảng cách giữa hai thành phần có thể giảm thời gian và năng lượng tiêu tốn cho việc truyền dữ liệu.

SK hynix giới thiệu bộ nhớ flash băng thông cao, hay HBF, được kỳ vọng có dung lượng gấp khoảng 10 lần HBM hiện nay. Công nghệ đề xuất này sẽ tạo thêm một tầng giữa bộ nhớ tốc độ cao và bộ lưu trữ, giúp các hệ thống AI quản lý lượng dữ liệu lớn hơn.

Samsung cũng giới thiệu bộ nhớ có khả năng thực hiện một số phép tính ngay bên trong. Cách tiếp cận này nhằm giảm tần suất phải chuyển dữ liệu đến một bộ xử lý riêng. Mỗi đề xuất đều giải quyết một vấn đề liên quan: việc di chuyển thông tin tiêu tốn thời gian và năng lượng, ngay cả khi bản thân chip điện toán có tốc độ cực cao.

zHBM và HBF vẫn ở giai đoạn ý tưởng và phát triển; thời điểm thương mại hóa cũng như việc khách hàng tiếp nhận các công nghệ này chưa được quyết định. Với hoạt động sản xuất Vera Rubin hiện nay, chế tạo và giao HBM4 vẫn là nhiệm vụ trước mắt.

Các cột mốc sản xuất cần theo dõi

Nvidia chuyển sang sản xuất toàn diện sau nhiều tháng chứng nhận bộ nhớ, mở rộng nhà máy và giới thiệu sản phẩm tương lai. Các cột mốc chính cho thấy lịch trình của bộ xử lý và bộ nhớ ngày càng gắn chặt với nhau:

• Đầu năm 2026: HBM4 của Micron bước vào sản xuất hàng loạt.
• Tháng 5 và tháng 6 năm 2026: Samsung và SK hynix gửi mẫu HBM4E cho khách hàng.
• Tháng 6 năm 2026: Huang xác nhận cả ba nhà cung cấp HBM lớn đều đạt chuẩn và sản xuất cho Vera Rubin.
• Ngày 7 tháng 10 năm 2026: Công đoàn Micron tại Đào Viên chấp thuận đình công.
• Từ ngày 14 đến 16 tháng 10 năm 2026: Samsung và SK hynix giới thiệu công nghệ bộ nhớ tại SEDEX ở Seoul.
• Giữa tháng 10 năm 2026: Micron khai trương cơ sở đóng gói và kiểm định AATT2 tại Đài Trung.
• Ngày 22 tháng 10 năm 2026: Dự kiến tiến hành hòa giải có sự tham gia của công đoàn Micron tại Đài Trung.
• Giữa năm 2027: Micron đặt mục tiêu giao đầy đủ sản phẩm từ cơ sở Tongluo mở rộng.

Samsung và SK hynix có thể hưởng lợi từ nhu cầu bộ nhớ ngày càng tăng của Vera Rubin, trong khi công suất đã được ký hợp đồng của Micron cho thấy cạnh tranh gay gắt để giành nguồn cung hiện có. Khách hàng cần hệ thống hoàn chỉnh, vì vậy việc lắp ráp nút máy chủ nhanh phải đi đôi với nguồn cung bộ nhớ đầy đủ, quy trình đóng gói đáng tin cậy và hoạt động nhà máy ổn định.

Điểm chính

• Nvidia cho biết Vera Rubin đã bước vào sản xuất toàn diện; thời gian lắp ráp một nút máy chủ giảm xuống dưới năm phút, thay vì hai giờ.
• Nền tảng này sử dụng phương thức làm mát hoàn toàn bằng chất lỏng và HBM4 do các nhà sản xuất đủ điều kiện là Samsung, SK hynix và Micron cung cấp.
• Chồng HBM4 12 lớp của Samsung có dung lượng 36 gigabyte; chồng 16 lớp được SK hynix giới thiệu có dung lượng 48 gigabyte.
• Micron cho biết toàn bộ công suất dự kiến năm 2027 tại cơ sở HBM mới ở Đài Trung đã được ký hợp đồng.
• Đóng gói tiên tiến, khả năng cung ứng thiết bị và đàm phán lao động vẫn là những yếu tố thực tế ảnh hưởng đến lịch giao hàng.
• Samsung và SK hynix đang thử nghiệm HBM4E, đồng thời phát triển những cách mới để bố trí và tổ chức bộ nhớ AI.