Cài đặt Cluster Kubernetes sử dụng GPU
Cài đặt Cluster Kubernetes sử dụng GPU
Updated on 23 Feb 2024

Yêu cầu:

  • Quota CPU, GPU, RAM, Storage, Instance: đáp ứng đủ cho cấu hình cluster Kubernetes mong muốn. Nếu muốn sử dụng Autoscale, số lượng GPU phải đáp ứng đủ số Max node mong muốn.
  • 01 Network subnet: Network sử dụng cho Kubernetes Nodes, subnet cần có Static IP Pool.

Các bước khởi tạo như sau:

Bước 1: Truy cập portal FPT Cloud console.fptcloud.com, chọn mục Kubernetes, ấn Create. Bước 2: Bấm vào Add worker group để tạo thêm Worker Group

Ngoài các thông tin khởi tạo cho Kubernetes thông thường, cần chọn cấu hình cho GPU trong Worker Group:

  • Chọn lnstance type: GPU
  • Chọn GPU type (A30, A100..)
  • Chọn cấu hình GPU sharing (None/Single/Mixed)
  • Chọn cấu hình type GPU (CPU/RAM/GPU RAM)

Alt text

Bước 3: Kiểm tra lại các thông tin khởi tạo và Ấn Save

Bước 4: Theo dõi trạng thái khởi tạo thêm Worker Group vào cụm Kubernetes. Sau khi trạng thái Successed (Running) thì tiến hành sử dụng, triển khai ứng dụng.

Bước 5: Theo dõi trạng thái khởi tạo cụm Kubernetes. Sau khi trạng thái Successed (Running) thì tiến hành sử dụng, triển khai ứng dụng.