FPT Kubernetes Engine with GPU - Dịch vụ K8S chạy trên (card) GPU

Khi sử dụng FPT Kubernetes Engine with GPU, doanh nghiệp có thể nhận được các lợi ích nổi bật sau:
- Hỗ trợ GPU Sharing tối ưu chi phí: Ứng dụng công nghệ Multi-Instance GPU (MIG) và Multi-Process Service (MPS), cho phép nhiều container cùng sử dụng tài nguyên GPU, giúp tối ưu chi phí đầu tư nhưng vẫn đảm bảo hiệu năng xử lý cho từng tác vụ.
- Hiệu năng tính toán mạnh mẽ: Tích hợp các dòng GPU NVIDIA Ampere như A30 và A100, hỗ trợ các tác vụ AI, Machine Learning, Deep Learning, Data Analytics và Streaming với khả năng xử lý hiệu năng cao, đáp ứng các bài toán tính toán chuyên sâu của doanh nghiệp.
- Đa dạng cấu hình triển khai: Hỗ trợ xây dựng nhiều Worker Group với các cấu hình CPU, RAM và GPU khác nhau. Đồng thời hỗ trợ Taint và Label giúp tối ưu việc phân bổ tài nguyên và quản lý workload trên Kubernetes.
- Mở rộng linh hoạt theo nhu cầu: Hỗ trợ GPU Autoscaling cho container và node, cho phép hệ thống tự động mở rộng hoặc thu hẹp tài nguyên dựa trên mức sử dụng thực tế của ứng dụng, đảm bảo hiệu quả vận hành và tối ưu chi phí.
- Quản trị tập trung, dễ dàng vận hành: Toàn bộ quá trình khởi tạo, cấu hình và quản lý tài nguyên GPU được thực hiện trên FPT Cloud Portal với giao diện trực quan, giúp đơn giản hóa việc quản trị hạ tầng Kubernetes.
- Giám sát và theo dõi toàn diện: Tích hợp hệ thống Monitoring, Logging và Tracing, cung cấp thông tin chi tiết về hiệu năng vận hành, hỗ trợ cảnh báo sớm và giúp đội ngũ kỹ thuật chủ động giám sát, tối ưu ứng dụng.
- Rút ngắn thời gian triển khai AI và Cloud Native: Cung cấp môi trường Kubernetes tích hợp GPU sẵn sàng sử dụng, giúp doanh nghiệp đẩy nhanh quá trình phát triển, huấn luyện và triển khai các ứng dụng AI, Data và HPC trên nền tảng Cloud.

Điểm nổi bật của dịch vụ là khả năng khai thác tài nguyên GPU trực tiếp trên môi trường Kubernetes. Đặc biệt, FPT Cloud hỗ trợ công nghệ GPU Sharing thông qua Multi-Instance GPU (MIG) và Multi-Process Service (MPS), cho phép nhiều container cùng sử dụng một GPU, giúp tối ưu chi phí mà vẫn đảm bảo hiệu năng xử lý.

FPT Kubernetes Engine with GPU phù hợp cho các doanh nghiệp triển khai mô hình AI/ML, huấn luyện và suy luận mô hình Deep Learning, xử lý dữ liệu lớn, phân tích video, streaming hoặc các ứng dụng yêu cầu năng lực tính toán cao. Đây là lựa chọn lý tưởng cho các tổ chức cần kết hợp sức mạnh của Kubernetes và GPU trong cùng một nền tảng.