- Giới thiệu
-
Dịch vụ máy chủ ảo tiết kiệm đến 90% chi phí cho doanh nghiệp
Lưu trữ dữ liệu đối tượng không giới hạn và truy xuất dữ liệu liên tục
Nâng cao năng lực, tính sẵn sàng của ứng dụng
Tích hợp với máy chủ ảo dành cho 3D Rendering, AI hay ML
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, cung cấp dịch vụ tường lửa với khả năng bảo vệ mạnh mẽ cho các ứng dụng web
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, dịch vụ cung cấp khả năng rà quét toàn diện, phân tích chi tiết và đánh giá lỗ hổng bảo mật để tăng cường an ninh thông tin cho hệ thống ứng dụng doanh nghiệp
Sao lưu và khôi phục dữ liệu tức thời, an toàn và toàn vẹn dữ liệu
Giải pháp làm việc từ xa hiệu quả và an toàn cho doanh nghiệp
Dịch vụ máy chủ ảo tiên tiến với khả năng mở rộng nhanh chóng
Hiệu năng mạnh mẽ với hạ tầng riêng biệt
Tích hợp với máy chủ ảo dành cho 3D Rendering, AI hay ML
Dịch vụ máy chủ ảo tiết kiệm đến 90% chi phí cho doanh nghiệp
Nâng cao năng lực, tính sẵn sàng của ứng dụng
Sao lưu và khôi phục dữ liệu tức thời, an toàn và toàn vẹn dữ liệu
Dịch vụ dự phòng & khôi phục hệ thống nhanh chóng
Lưu trữ khối đa dạng thông lượng và dung lượng cho mọi nhu cầu
Lưu trữ dữ liệu đối tượng không giới hạn và truy xuất dữ liệu liên tục
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, dịch vụ cung cấp khả năng rà quét toàn diện, phân tích chi tiết và đánh giá lỗ hổng bảo mật để tăng cường an ninh thông tin cho hệ thống ứng dụng doanh nghiệp
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, cung cấp dịch vụ tường lửa với khả năng bảo vệ mạnh mẽ cho các ứng dụng web
Dịch vụ tường lửa thông minh cho các ứng dụng web - Giải pháp bảo mật đột phá với sự hợp tác giữa FPT Cloud và Penta Security.
Dịch vụ bảo mật tường lửa thế hệ mới
Lưu trữ, quản lý, và bảo mật các Docker Images
Nền tảng Kubernetes an toàn, bảo mật, ổn định, hiệu năng cao
Tăng tốc phát triển ứng dụng yêu cầu hiệu năng cao bằng dịch vụ Kubernetes tích hợp với vi xử lý cao cấp GPU
Giám sát và triển khai cơ sở dữ liệu như Kafka,..
Giám sát và triển khai cơ sở dữ liệu Redis, Cassandra, ...
Giám sát và triển khai cơ sở dữ liệu xử lý phân tích trực tuyến
Giám sát và triển khai cơ sở dữ liệu MySQL, Postgres, SQLserver, MariaDB,...
Giám sát và triển khai cơ sở dữ liệu truy vấn thông tin
Giám sát và triển khai cơ sở dữ liệu chuỗi thời gian
Giám sát hệ thống và tài nguyên toàn diện trên mọi nền tảng
Giải pháp quản lý sự cố thông minh
Dịch vụ tự động khởi tạo, duy trì, quản lý và bảo vệ các API ở mọi quy mô
Dịch vụ cung cấp giải pháp khởi tạo và quản lý FPT ArgoCD được tạo ra từ dự án mã nguồn mở Argo
Nền tảng đồng bộ hóa cơ sở dữ liệu theo thời gian thực.
Nền tảng xử lý dữ liệu lớn mạnh mẽ và linh hoạt
Nền tảng hội thoại thông minh gắn kết khách hàng trên mọi nền tảng
Xác thực nhanh chóng, dễ dàng, tối ưu chi phí
Nâng tầm trải nghiệm khách hàng
Trích xuất dữ liệu vượt mọi giới hạn
Chuyển văn bản thành giọng nói tiếng Việt với ngữ điệu tự nhiên.
- Bảng giá
- Sự kiện
FPT Kubernetes Engine with GPU
-
Hướng dẫn sử dụng
- Tổng quan dịch vụ GPU trên Kubernetes FPT Cloud
- Cài đặt Cluster Kubernetes sử dụng GPU
- Khởi tạo Worker Group sử dụng GPU
- Thay đổi Worker Group sử dụng GPU
- Triển khai ứng dụng sử dụng GPU trên Kubernetes
- Hướng dẫn sử dụng GPU Telemetry
- Hướng dẫn sử dụng Autoscaler với GPU
- Hướng dẫn sử dụng các chế độ GPU sharing
- Tăng thêm Worker Group sử dụng GPU
- Hướng dẫn cài đặt GPU Driver trên Kubernetes
- Hướng dẫn cấu hình Auto Scale sử dụng GPU Custom Metric
- Hướng dẫn cấu hình Auto Scale sử dụng KEDA và Prometheus
FPT Kubernetes Engine with GPU
FPT Kubernetes Engine with GPU
FPT Cloud cung cấp Kubernetes sử dụng GPU NVIDIA có các tính năng chính sau:
- Cấu hình GPU linh hoạt với nhiều loại GPU, bộ nhớ GPU tùy chọn, áp dụng theo từng Worker Group.
- Quản lý và cấp phát tài nguyên GPU trong Kubernetes tự động với NVIDIA Operator
- Trực quan hóa và giám sát GPU bằng NVIDIA DCGM.
- Tự động tăng/giảm Container/Node với Autoscaler khi ứng dụng yêu cầu sử dụng tài nguyên GPU tăng lên/giảm đi.
- Hỗ trợ GPU sharing với cơ chế Multi-Instance, giúp tối ưu hóa tài nguyên và chi phí sử dụng GPU.
FPT Cloud sử dụng NVIDIA GPU Operator cung cấp công cụ tự động quản lý tất cả các thành phần phần mềm cần thiết để sử dụng GPU trên Kubernetes. GPU Operator cho phép người dùng sử dụng tài nguyên GPU giống như sử dụng CPU trong cụm Kubernetes.
Các thành phần của Operator bao gồm:
- NVIDIA Drivers (CUDA, MIG,…)
- NVIDIA Device Plugin
- NVIDIA Container Toolkit
- NVIDIA GPU Feature Discovery
- NVIDIA Data Center GPU Manager (Monitoring)
FPT Cloud hiện tại đang hỗ trợ Kubernetes sử dụng GPU Nvidia A30 với các MIG profile sau:
| No. | GPU A30 Profile | Strategy | Number instance | Instance resource |
|---|---|---|---|---|
| 1 | all-1g.6gb | single | 4 | 1g.6gb |
| 2 | all-2g.12gb | single | 2 | 2g.12gb |
| 3 | all-balanced | mixed | 2 | 1g.6gb |
| 4 | 1 | 2g.12gb | ||
| 5 | none (no label) | none | 0 | 0 (Entire) |
Ví dụ:
Nếu chọn cấu hình strategy single: all-1g.6gb, card GPU A30 trên worker được chia nhỏ thành 4 mig-devices có tài nguyên gpu logic (bằng ¼ GPU vật lý) và 6GB GPU RAM.
Chú ý:
MIG config áp dụng cho tất cả các card gắn trên worker. MIG strategy trên các worker group của cùng cluster phải cùng 1 loại (single/mixed/none).
Trang chủ
01Hướng dẫn sử dụng
- Tổng quan dịch vụ GPU trên Kubernetes FPT Cloud
- Cài đặt Cluster Kubernetes sử dụng GPU
- Khởi tạo Worker Group sử dụng GPU
- Thay đổi Worker Group sử dụng GPU
- Triển khai ứng dụng sử dụng GPU trên Kubernetes
- Hướng dẫn sử dụng GPU Telemetry
- Hướng dẫn sử dụng Autoscaler với GPU
- Hướng dẫn sử dụng các chế độ GPU sharing
- Tăng thêm Worker Group sử dụng GPU
- Hướng dẫn cài đặt GPU Driver trên Kubernetes
- Hướng dẫn cấu hình Auto Scale sử dụng GPU Custom Metric
- Hướng dẫn cấu hình Auto Scale sử dụng KEDA và Prometheus
On this page
© 2022 FPT Cloud. Đã đăng ký Bản quyền.
