Tất cả tài liệu

FPT Kubernetes Engine with GPU

    Thay đổi Worker Group sử dụng GPU
    Thay đổi Worker Group sử dụng GPU
    Updated on 11 Nov 2024

    Yêu cầu:

    • Quota CPU, GPU, RAM, Storage, Instance: đáp ứng đủ cho cấu hình Worker Group thay đổi.

    • Số lượng GPU phải đáp ứng đủ số Min node + 1 để các Worker Node có thể rollout config cấu hình. Nếu sử dụng Autoscale, số lượng GPU phải đáp ứng đủ số Max node mong muốn.

    • 01 Network subnet: Network sử dụng cho Kubernetes Nodes, subnet cần có Static IP Pool.

    Các bước thực hiện như sau:

    Bước 1: Truy cập portal FPT Cloud console.fptcloud.com, chọn mục Kubernetes, bấm vào cluster cần thay đổi, mục Node Pools, bấm vào biểu tượng "Edit Workers”.

    Bước 2: Ngoài các thông tin cấu hình cho Worker Group thông thường, cần chọn cấu hình cho GPU:

    Chọn lnstance type: GPU

    Chọn GPU type (A30, A100..)

    Chọn cấu hình GPU sharing (None/Single/Mixed)

    Chọn cấu hình type GPU (CPU/RAM/GPU RAM)

    Chú ý:

    Thay đổi phương thức GPU sharing sẽ khiến toàn bộ các workload liên quan đến GPU cần được deploy lại.

    Bước 3: Kiểm tra lại các thông tin khởi tạo và Ấn Save.

    Bước 4: Theo dõi trạng thái khởi tạo thêm Worker Group vào cụm Kubernetes. Sau khi trạng thái Successed (Running) thì tiến hành sử dụng, triển khai ứng dụng.