VinAI là đơn vị đầu tiên tại Việt Nam sở hữu hệ thống NVIDIA DGX A100 với sức mạnh lên đến 5 petaflops
Theo Nvidia, VinAI là phòng thí nghiệm nghiên cứu (research lab) đầu tiên của Việt Nam lắp đặt hệ thống NVIDIA DGX A100. Nó được tích hợp 8 NVIDIA A100 Tensor Core GPU và có sức mạnh tính toán AI lên đến 5 petaflops. Hệ thống trí thông minh nhân tạo này được dùng để huấn luyện các model ngôn ngữ, hình ảnh, video, và những dự án tầm cỡ khác đòi hỏi một lượng lớn sức mạnh từ GPU và công nghệ liên kết tốc độ cao.
Mục tiêu của phòng thí nghiệm này là tìm hiểu thêm về machine learning (máy học), deep learning, và ứng dụng AI vào trong lĩnh vực thị giác máy tính (computer vision) cũng như hiểu được tiếng Việt một cách tự nhiên nhất. Từ đó phát triển các ứng dụng giúp con người tương tác với máy móc dễ dàng hơn thông qua lời nói, cử chỉ, hành động, và các cảm biến và thiết bị thông minh. Trong đợt COVID-19 vừa rồi thì VinAI đã đóng góp trong việc tự động phân tích các đoạn tin nhắn tweet để nắm bắt tình hình dịch bệnh tức thời và hỗ trợ nhận diện khuôn mặt khi người dùng đang đeo khẩu trang.
VinAI muốn mở rộng cụm NVIDIA DGX-1 để cải thiện hiệu năng nên NVIDIA DGX A100 sẽ là sự lựa chọn lý tưởng để xử lý các tác vụ AI phức tạp, từ việc huấn luyện cho đến suy luận và phân tích dữ liệu. Giám đốc VinAI – Bùi Hải Hưng – cho biết với hệ thống DGX A100 thì phòng thí nghiệm sẽ khai thác tối đa 100% công suất để giải quyết những vấn đề hóc búa nhất. Khoảng 70 nhà nghiên cứu khoa học, cư dân, và kỹ sư sẽ dựa vào hệ thống AI này, và nó sẽ trở thành một phần của cụm NVIDIA DGX. Dự kiến đến cuối năm 2020 thì con số này sẽ tăng gấp đôi.
Nói một chút về NVIDIA DGX A100 thì nó được thiết kế dựa trên kiến trúc Ampere của NVIDIA. Với 8 NVIDIA A100 Tensor Core GPU thì nó sẽ cung cấp 320GB bộ nhớ để xử lý các tác vụ “nặng ký” như phân tích dữ liệu chẳng hạn. Với công nghệ “chia luồng” (multi-instance) GPU thì DGX A100 có thể chia ra thành 56 luồng, mỗi luồng xử lý một tác vụ riêng để không gây ảnh hưởng lên nhau, giúp tối ưu hiệu năng tính toán và nguồn tài nguyên của hệ thống được tốt hơn.