Nvidia công bố kiến trúc Hopper cùng GPU H100 xịn nhất thế giới mang đến hiệu năng AI đỉnh cao

Thứ Hai 28/08/2023
GVN360

GPU Nvidia H100 với kiến trúc Hopper sẽ mở ra nhiều cơ hội đột phá trong ngành AI.

Nhằm phục vụ các trung tâm dữ liệu AI thế hệ mới, Nvidia đã công bố kiến trúc Hopper với hiệu năng vượt bậc so với thế hệ tiền nhiệm. Đây sẽ là thế hệ kiến trúc nối tiếp Ampere vốn đã ra mắt 2 năm trước. Cùng với đó, Nvidia còn giới thiệu GPU H100 đầu tiên mang kiến trúc Hopper với 80 tỷ bóng bán dẫn. Đây cũng là chiếc card gia tốc lớn nhất và mạnh nhất thế giới, sở hữu các tính năng đột phá như Transformer Engine và NVIDIA NVLink, giúp xử lý các mô hình ngôn ngữ AI cao cấp.

GPU Nvidia H100 sẽ trở thành thước đo mới trong mảng xử lý các tác vụ AI có quy mô lớn và trong những hệ thống HPC. Cụ thể thì chiếc card này có những điểm nổi bật như sau:

Con chip cao cấp nhất thế giới: Với 80 tỷ bóng bán dẫn và tiến trình TSMC 4N mới toanh, H100 sở hữu kết nối lên đến gấn 5 TB/s. Đây cũng là GPU đầu tiên hỗ trợ PCIe Gen5 và tận dụng HBM3, mang đến băng thông bộ nhớ 3 TB/s. 20 chiếc card H100 có thể xử lý lượng dữ liệu tương đương toàn bộ lưu lượng truy cập Internet trên thế giới, mở ra nhiều khả năng mới cho các trung tâm dữ liệu.
Transformer Engine mới: Transformer là một trong những mô hình học sâu (deep learning) quan trọng nhất từng được tạo ra. Transformer Engine của H100 được thiết kế để mang đến tốc độ nhanh gấp 6 lần so với thế hệ trước mà không làm giảm đi độ chính xác.
Tính toán bảo mật (Confidential Computing): H100 là chiếc card gia tốc đầu tiên trên thế giới hỗ trợ tính toán bảo mật để bảo vệ các mô hình AI và dữ liệu người dùng trong khi chúng đang được xử lý.
NVIDIA NVLink thế hệ thứ 4: NVLink phiên bản mới được kết hợp với NVLink Switch bên ngoài để mở rộng khả năng kết nối lên đến 256 GPU H100 với băng thông rộng gấp 9 lần so với thế hệ trước.

Nvidia H100 có thể được sử dụng trong hầu hết trung tâm dữ liệu, bao gồm đám mây (cloud), đám mây lai (hybrid-cloud) và edge. Sản phẩm sẽ được bán ra trên toàn cầu vào Quý III/2022.

Về kiến trúc Hopper thì nó đã nhận được sự hỗ trợ rộng rãi từ các nhà cung cấp dịch vụ đám mây hàng đầu như Alibaba Cloud, Amazon Web Services, Baidu AI Cloud, Google Cloud, Microsoft Azure, Oracle Cloud, Tencent Cloud. Các máy chủ trang bị H100 cũng sắp được sản xuất bởi nhiều hãng nổi tiếng như Atos, BOXX Technologies, Cisco, Dell Technologies, Fujitsu, GIGABYTE, H3C, Hewlett Packard Enterprise, Inspur, Lenovo, Nettrix, Supermicro.

Tóm tắt ý chính:

Nvidia công bố kiến trúc Hopper với hiệu năng vượt bậc so với thế hệ tiền nhiệm
Nvidia còn giới thiệu GPU H100 đầu tiên mang kiến trúc Hopper với 80 tỷ bóng bán dẫn
Đây là chiếc card gia tốc lớn nhất và mạnh nhất thế giới, giúp xử lý các mô hình ngôn ngữ AI cao cấp
Nvidia H100 có thể được sử dụng trong hầu hết trung tâm dữ liệu, dự kiến được bán ra trên toàn cầu vào Quý III/2022

Mời các bạn tham khảo thêm một số thông tin liên quan tại GEARVN như:

Nguồn: TechPowerUp