GPU NVIDIA Blackwell ra mắt tạo nên kỷ nguyên mới

NVIDIA đã có màn bứt phá ngay trong tháng 3 này, khi công bố kiến trúc GPU Blackwell thế hệ tiếp theo có tính năng tăng hiệu suất lên tới 5 lần so với GPU Hopper 100. Để xem sản phẩm này có gì đặc biệt, Máy Chủ Việt xin mời các bạn cùng theo dõi bài viết dưới đây nhé!

Giới thiệu GPU Blackwell mới nhất 

Hôm qua ngày 18/03/2024, NVIDIA đã chính thức đưa ra thông cáo báo chí, để cung cấp thông tin chi tiết đầy đủ về kiến trúc GPU AI và Tensor Core thế hệ tiếp theo có tên mã là Blackwell. Đây là một trong những sản phẩm GPU đầu tiên có thiết kế MCM của NVIDIA, kết hợp hai GPU trên cùng một khuôn.

Kiến trúc GPU Blackwell có sáu công nghệ biến đổi để tăng tốc điện toán, giúp mở ra những đột phá trong xử lý dữ liệu, mô phỏng kỹ thuật, tự động hóa thiết kế điện tử, thiết kế thuốc có sự hỗ trợ của máy tính, điện toán lượng tử và AI tổng hợp — tất cả các cơ hội ngành mới nổi dành cho NVIDIA.

Những đổi mới của chip Blackwell

Sự sáng tạo 6 công nghệ Blackwell có thể thấy sẽ mang đến một thời kỳ công nghệ mới, cho phép đào tạo AI và suy luận LLM thời gian thực cho các mô hình có quy mô lên tới 10 nghìn tỷ tham số, NVIDIA đã đưa ra một số nội dung như sau:

• Chip mạnh nhất thế giới – Được trang bị 208 tỷ bóng bán dẫn, GPU kiến ​​trúc Blackwell được sản xuất bằng quy trình 4NP TSMC được xây dựng tùy chỉnh với khuôn GPU giới hạn hai ô, được kết nối bằng liên kết chip-to-chip 10 TB/giây thành một GPU thống nhất duy nhất .

• Công cụ biến áp thế hệ thứ hai – Được hỗ trợ bởi khả năng mở rộng quy mô micro-tensor mới và các thuật toán quản lý tiên tiến của NVIDIA được tích hợp vào các khung NVIDIA TensorRT™-LLM và NeMo Megatron, Blackwell sẽ hỗ trợ gấp đôi kích thước tính toán và mô hình với AI với khả năng suy luận.
• NVLink thế hệ thứ năm – Để tăng tốc hiệu suất cho các mô hình AI có nhiều nghìn tỷ thông số và nhiều chuyên gia, phiên bản mới nhất của NVIDIA NVLink® mang lại thông lượng hai chiều đột phá 1,8TB/giây cho mỗi GPU, đảm bảo liên lạc tốc độ cao liền mạch giữa tối đa 576 GPU cho các LLM phức tạp nhất.
• Công cụ RAS – GPU được hỗ trợ bởi Blackwell bao gồm một công cụ chuyên dụng mang lại độ tin cậy, tính khả dụng và khả năng bảo trì. Ngoài ra, kiến ​​trúc Blackwell bổ sung các khả năng ở cấp độ chip để sử dụng tính năng bảo trì phòng ngừa dựa trên AI, giúp chạy chẩn đoán và dự báo các vấn đề về độ tin cậy. Điều này tối đa hóa thời gian hoạt động của hệ thống và cải thiện khả năng phục hồi để triển khai AI quy mô lớn, nhằm chạy không bị gián đoạn trong nhiều tuần hoặc thậm chí nhiều tháng mỗi lần và để giảm chi phí vận hành.
• AI bảo mật – Khả năng tính toán bí mật nâng cao bảo vệ các mô hình AI và dữ liệu khách hàng mà không ảnh hưởng đến hiệu suất, với sự hỗ trợ cho các giao thức mã hóa giao diện gốc mới, rất quan trọng đối với các ngành nhạy cảm với quyền riêng tư như dịch vụ chăm sóc sức khỏe và tài chính.
• Công cụ giải nén – Công cụ giải nén chuyên dụng hỗ trợ các định dạng mới nhất, tăng tốc các truy vấn cơ sở dữ liệu để mang lại hiệu suất cao nhất trong phân tích dữ liệu và khoa học dữ liệu. Trong những năm tới, việc xử lý dữ liệu mà các công ty chi hàng chục tỷ đô la hàng năm sẽ ngày càng được tăng tốc bằng GPU.

>>> Điểm ngay một vài linh kiện máy chủ dành cho bạn

Phân tích chi tiết GPU Blackwell 

GPU NVIDIA Blackwell có tổng cộng 104 tỷ bóng bán dẫn trên mỗi khuôn tính toán được chế tạo trên nút quy trình TSMC 4NP. GPU B100 được trang bị giao diện băng thông cao 10 TB/s cho phép kết nối chip-to-chip siêu nhanh. Các GPU này được hợp nhất thành một chip trên cùng một gói, cung cấp tới 208 tỷ bóng bán dẫn và khả năng kết hợp bộ nhớ đệm GPU đầy đủ.

So với Hopper, GPU NVIDIA Blackwell cung cấp thêm 128 tỷ bóng bán dẫn, hiệu suất AI gấp 5 lần, được tăng lên 20 petaFlops trên mỗi chip và gấp 4 lần bộ nhớ khi chết. Bản thân GPU được kết hợp với 8 ngăn xếp HBM3e có giải pháp bộ nhớ nhanh nhất thế giới, cung cấp băng thông bộ nhớ 8 TB/s trên giao diện bus 8192-bit và bộ nhớ HBM3e lên tới 192 GB. Để tổng hợp nhanh các số liệu hiệu suất so với Hopper, bạn sẽ nhận được:

• 20 PFLOPS FP8 (2,5x Hopper)
• 20 PFLOPS FP6 (2,5x Hopper)
• 40 PFLOPS FP4 (5.0x Hopper)
• Thông số 740B (6.0x Hopper)
• Thông số 34T/giây (5.0x Hopper)
• 7,2 TB/s NVLINK (4.0x Hopper)

NVIDIA sẽ cung cấp GPU Blackwell dưới dạng nền tảng đầy đủ, kết hợp hai trong số các GPU này, tức là bốn lõi tính toán với một CPU Grace duy nhất (72 lõi CPU ARM Neoverse V2). Các GPU sẽ được kết nối với nhau và các CPU Grace sử dụng giao thức NVLINK 900 GB/s.

>>> Xem thêm thông tin Dell PowerEdge R250 tại đây!

GPU NVIDIA Blackwell B200 cho năm 2024

Đây là chip đầu tiên trong số hai chip Blackwell sẽ được áp dụng vào nhiều thiết kế khác nhau, từ mô-đun SXM, nền tảng AIC PCIe & Superchip. GPU B200 sẽ là GPU NVIDIA đầu tiên sử dụng thiết kế chiplet, bao gồm hai khuôn tính toán dựa trên nút xử lý TSMC 4nm.

MCM hay Multi-Chip-Module đã xuất hiện từ lâu trong lĩnh vực NVIDIA và cuối cùng nó cũng xuất hiện, khi công ty cố gắng giải quyết các thách thức liên quan đến các nút quy trình thế hệ tiếp theo như sản lượng và chi phí. Chiplets cung cấp một giải pháp thay thế khả thi, trong đó NVIDIA vẫn có thể đạt được hiệu suất thế hệ nhanh hơn mà không ảnh hưởng đến nguồn cung hoặc chi phí của mình và đây chỉ là bước đệm trong hành trình chiplet của họ.

GPU NVIDIA Blackwell B200 sẽ là một con chip quái vật. Nó kết hợp tổng cộng 160 SM cho 20.480 lõi. GPU sẽ có công nghệ kết nối NVLINK mới nhất, hỗ trợ cùng kiến ​​trúc 8 GPU và bộ chuyển mạch mạng 400 GbE. Nó cũng sẽ rất ngốn điện với TDP tối đa 700W, mặc dù mức này cũng giống như chip H100 và H200. Tóm tắt con chip này:

• Nút xử lý TMSC 4NP
• GPU gói nhiều chip
• 1-GPU 104 tỷ bóng bán dẫn
• 2-GPU 208 tỷ bóng bán dẫn
• 160 SM (20.480 lõi)
• 8 gói HBM
• Bộ nhớ HBM3e 192 GB
• Băng thông bộ nhớ 8 TB/s
• Giao diện bus bộ nhớ 8192-bit
• 8-Hi Stack HBM3e
• Hỗ trợ PCIe 6.0
• TDP 700W (Cao điểm)

Về mặt bộ nhớ, GPU Blackwell B200 sẽ có bộ nhớ HBM3e lên tới 192 GB. Điều này sẽ được giới thiệu trong tám nhóm mô-đun 8-hi, mỗi mô-đun có dung lượng VRAM 24 GB trên giao diện bus rộng 8192-bit. Đây sẽ là mức tăng 2,4 lần so với GPU H100 80 GB, cho phép chip chạy LLM lớn hơn.

Kết luận

NVIDIA Blackwell B200 và các nền tảng tương ứng của nó sẽ mở ra một kỷ nguyên mới của điện toán AI và mang đến sự cạnh tranh gay gắt với các sản phẩm chip mới nhất của AMD và Intel. Với sự ra mắt của Blackwell, NVIDIA một lần nữa đã khẳng định được thế lực thống trị của mình trên thị trường AI đầy khốc liệt này.

Để theo dõi thêm nhiều tin tức mới nhất, cả nhà đừng quyên theo dõi bài viết công nghệ hàng ngày trên trang Máy Chủ Việt nhé!

>>> Liên hệ ngay với chúng tôi để đặt mua hệ thống máy chủ chính hãng