- Giới thiệu
-
Lưu trữ dữ liệu đối tượng không giới hạn và truy xuất dữ liệu liên tục
Tích hợp với máy chủ ảo dành cho 3D Rendering, AI hay ML
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, cung cấp dịch vụ tường lửa với khả năng bảo vệ mạnh mẽ cho các ứng dụng web
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, dịch vụ cung cấp khả năng rà quét toàn diện, phân tích chi tiết và đánh giá lỗ hổng bảo mật để tăng cường an ninh thông tin cho hệ thống ứng dụng doanh nghiệp
Sao lưu và khôi phục dữ liệu tức thời, an toàn và toàn vẹn dữ liệu
Trở thành doanh nghiệp đầu tiên trải nghiệm bộ giải pháp phát triển AI toàn diện, được phát triển trên công nghệ mạnh mẽ bậc nhất từ NVIDIA!
Giải pháp làm việc từ xa hiệu quả và an toàn cho doanh nghiệp
Dịch vụ máy chủ ảo tiên tiến với khả năng mở rộng nhanh chóng
Hiệu năng mạnh mẽ với hạ tầng riêng biệt
Tích hợp với máy chủ ảo dành cho 3D Rendering, AI hay ML
Dịch vụ máy chủ ảo tiết kiệm đến 90% chi phí cho doanh nghiệp
Trở thành doanh nghiệp đầu tiên trải nghiệm bộ giải pháp phát triển AI toàn diện, được phát triển trên công nghệ mạnh mẽ bậc nhất từ NVIDIA!
Nâng cao năng lực, tính sẵn sàng của ứng dụng
Sao lưu và khôi phục dữ liệu tức thời, an toàn và toàn vẹn dữ liệu
Dịch vụ dự phòng & khôi phục hệ thống nhanh chóng
Lưu trữ khối đa dạng thông lượng và dung lượng cho mọi nhu cầu
Lưu trữ dữ liệu đối tượng không giới hạn và truy xuất dữ liệu liên tục
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, dịch vụ cung cấp khả năng rà quét toàn diện, phân tích chi tiết và đánh giá lỗ hổng bảo mật để tăng cường an ninh thông tin cho hệ thống ứng dụng doanh nghiệp
Sản phẩm hợp tác giữa FPT Cloud và CyRadar, cung cấp dịch vụ tường lửa với khả năng bảo vệ mạnh mẽ cho các ứng dụng web
Dịch vụ tường lửa thông minh cho các ứng dụng web - Giải pháp bảo mật đột phá với sự hợp tác giữa FPT Cloud và Penta Security.
Dịch vụ bảo mật tường lửa thế hệ mới
Lưu trữ, quản lý, và bảo mật các Docker Images
Nền tảng Kubernetes an toàn, bảo mật, ổn định, hiệu năng cao
Tăng tốc phát triển ứng dụng yêu cầu hiệu năng cao bằng dịch vụ Kubernetes tích hợp với vi xử lý cao cấp GPU
Giám sát và triển khai cơ sở dữ liệu như Kafka,..
Giám sát và triển khai cơ sở dữ liệu Redis, Cassandra, ...
Giám sát và triển khai cơ sở dữ liệu xử lý phân tích trực tuyến
Giám sát và triển khai cơ sở dữ liệu MySQL, Postgres, SQLserver, MariaDB,...
Giám sát và triển khai cơ sở dữ liệu truy vấn thông tin
Giám sát và triển khai cơ sở dữ liệu chuỗi thời gian
Giám sát hệ thống và tài nguyên toàn diện trên mọi nền tảng
Giải pháp quản lý sự cố thông minh
Dịch vụ tự động khởi tạo, duy trì, quản lý và bảo vệ các API ở mọi quy mô
Dịch vụ cung cấp giải pháp khởi tạo và quản lý FPT ArgoCD được tạo ra từ dự án mã nguồn mở Argo
Nền tảng đồng bộ hóa cơ sở dữ liệu theo thời gian thực.
Nền tảng xử lý dữ liệu lớn mạnh mẽ và linh hoạt
Nền tảng hội thoại thông minh gắn kết khách hàng trên mọi nền tảng
Xác thực nhanh chóng, dễ dàng, tối ưu chi phí
Nâng tầm trải nghiệm khách hàng
Trích xuất dữ liệu vượt mọi giới hạn
Chuyển văn bản thành giọng nói tiếng Việt với ngữ điệu tự nhiên.
- Bảng giá
- Sự kiện
FPT Kubernetes Engine with GPU
-
Hướng dẫn sử dụng
- Tổng quan dịch vụ GPU trên Kubernetes FPT Cloud
- Cài đặt Cluster Kubernetes sử dụng GPU
- Khởi tạo Worker Group sử dụng GPU
- Thay đổi Worker Group sử dụng GPU
- Triển khai ứng dụng sử dụng GPU trên Kubernetes
- Hướng dẫn sử dụng GPU Telemetry
- Hướng dẫn sử dụng Autoscaler với GPU
- Hướng dẫn sử dụng các chế độ GPU sharing
- Tăng thêm Worker Group sử dụng GPU
- Hướng dẫn cài đặt GPU Driver trên Kubernetes
- Hướng dẫn cấu hình Auto Scale sử dụng GPU Custom Metric
- Hướng dẫn cấu hình Auto Scale sử dụng KEDA và Prometheus
Hướng dẫn sử dụng GPU Telemetry
Hướng dẫn sử dụng GPU Telemetry
FPT Cloud sử dụng Nvidia GPU Telemetry tích hợp với kube-prometheus-stack là bộ công cụ theo dõi và giám sát cho hệ thống sử dụng GPU trên Kubernetes. Bộ công cụ giám sát bao gồm collector, time-series database lưu trữ chỉ số (metrics) và visualization (giao diện trực quan hóa). Bộ công cụ sử dụng các ứng dụng mã nguồn mở phổ biến là Prometheus và Grafana. Prometheus cũng bao gồm Alertmanager để tạo và quản lý các cảnh báo. Prometheus được triển khai cùng với kube-state-metrics và node_exporter để hiển thị các chỉ số (metrics) mức cluster cho các đối tượng API Kubernetes và các chỉ số mức node, ví dụ như mức sử dụng GPU.
- Kiểm tra custom metrics của GPU sử dụng câu lệnh sau:
kubectl get --raw /apis/custom.metrics.k8s.io/v1beta1 | jq -r . | grep DCGM - Truy cập Prometheus kiểm tra metrics của GPU DCGM
#Forward service Prometheus để truy cập qua Web browser
kubectl port-forward service/kube-prometheus-stack-1679-prometheus 9090:63090
*với 9090 là port của pod prometheus, 63090 là Local Port máy tính của bạn (client)
#Truy cập Prometheus trên Web browser bằng đường dẫn sau:
http://localhost:63090/ -
Trên giao diện Prometheus thao tác như hình dưới đây để kiểm tra metrics GPU DCGM
-
Truy cập Grafana Dashboard
#Forward service Grafana để truy cập qua Web browser
kubectl port-forward service/kube-prometheus-stack-1679050354-grafana 80:63080
*với 80 là port của pod Grafana, 63080 là Local Port máy tính của bạn (client)
#Truy cập Prometheus trên Web browser bằng đường dẫn sau:
http://localhost:63080/ Default user và mật khẩu để đăng nhập vào Grafana là:
User: admin
Password: prom-operator
- Import Grafana Dashboard cho GPU
Để import Dashboard, truy cập giao diện Grafana, mục Dashboards > Manage > Import. Nếu sử dụng Dashboard của FPT Cloud, nhập nội dung FPT Cloud GPU Dashboard json > Load.
Dashboard GPU của Nvidia FPT Cloud:
© 2025 FPT Cloud. Đã đăng ký Bản quyền.
