FPT nhập hệ thống máy chủ DGX H100 của NVIDIA về Việt Nam

FPT từng bước thực hiện biên bản ghi nhớ hợp tác ký kết cùng NVIDIA cuối tháng 4 vừa qua, triển khai dự án Nhà máy trí tuệ nhân tạo (AI Factory) nhằm phát triển hệ sinh thái AI và Cloud có chủ quyền tại Việt Nam.

Đây là hệ thống máy chủ tiên tiến nhất của NVIDIA, theo NVIDIA là cỗ máy AI mạnh nhất hiện nay, được hàng loạt công ty công nghệ hàng đầu thế giới như Tesla, Meta, Microsoft… săn đón. Từ cuối năm 2023, nhu cầu về sản phẩm không ngừng tăng cao. Các doanh nghiệp phải chờ từ 36 đến 52 tuần khi đặt hàng với NVIDIA, theo báo cáo phân tích từ Omdia.

Đại diện FPT Smart Cloud – Đơn vị thành viên của FPT phụ trách triển khai dự án cho biết, đây là đợt nhập khẩu hệ thống đầu tiên để đảm bảo tiến độ tích hợp công nghệ, xây dựng những siêu máy tính phục vụ phát triển trí tuệ nhân tạo, từng bước triển khai kế hoạch xây dựng AI Factory. Loạt hệ thống DGX-H100 còn lại sẽ được đưa về Việt Nam trong thời gian tới để hoàn thiện công nghệ, đẩy nhanh tiến độ nghiên cứu và phát triển sản phẩm, tạo tiền đề xây dựng các giải pháp, dịch vụ AI và Cloud thế hệ mới.

Hợp tác cùng NVIDIA trong dự án xây dựng AI Factory tại Việt Nam, FPT sẽ cung cấp dịch vụ đám mây GPU giúp khách hàng doanh nghiệp của FPT trên toàn cầu tiếp cận với nguồn lực cốt lõi nhất để nâng cao năng lực nghiên cứu, đẩy nhanh tốc độ ứng dụng AI, đặc biệt là AI tạo sinh (Generative AI), đạt được những đột phá trong nâng cao năng suất, trải nghiệm khách hàng.

Mỗi máy chủ DGX H100 chứa 8 GPU H100 kết nối qua NVIDIA NVLink, kết hợp cùng chip Intel Xeon Platinum 8480C kép, tổng cộng 112 lõi và bộ nhớ hệ thống 2TB phục vụ cho các công việc AI chuyên sâu nhất. Bên cạnh đó là hai NVIDIA BlueField-3 DPU để giảm tải, tăng tốc và cô lập các dịch vụ mạng, lưu trữ và bảo mật nâng cao.

DGX H100 sở hữu hiệu suất cao hơn 6 lần và kết nối mạng nhanh hơn 2 lần so với máy chủ thế hệ trước, đáp ứng các yêu cầu tính toán khổng lồ với hàng nghìn tỷ thông số của các mô hình ngôn ngữ lớn (LLM), hệ thống khuyến nghị, nghiên cứu y tế và lĩnh vực khoa học khí hậu.

DGX H100 giúp xây dựng nền tảng trí tuệ nhân tạo tinh chỉnh, hệ thống hóa và có khả năng mở rộng giúp các doanh nghiệp xử lý ngôn ngữ, phân tích dữ liệu… Đây cũng là hệ thống nền tảng tạo nên Eos - siêu máy tính mạnh nhất của NVIDIA, đứng thứ 9 trong số các siêu máy tính nhanh nhất thế giới. NVIDA khẳng định: DGX H100 có thể vượt qua các ranh giới về công nghệ và cơ sở hạ tầng AI.

Máy chủ DGX H100 đang được các tập đoàn và công ty công nghệ trên thế giới sử dụng. Tesla phát triển các sản phẩm xe tự lái trên nền tảng GPU H100. Tại Nhật Bản, start-up Xeureka ứng dụng DGX-H100 trong quá trình nghiên cứu phát triển thuốc, cải thiện hoạt động khám chữa và điều trị bệnh. Tại Ecuador, Thụy Điển, hàng loạt dự án tài chính, chăm sóc sức khỏe, luật, CNTT và viễn thông ứng dụng AI trên nền tảng DGX-H100.