Tất cả tài liệu

FPT Kubernetes Engine with GPU

    Cài đặt Cluster Kubernetes sử dụng GPU
    Cài đặt Cluster Kubernetes sử dụng GPU
    Updated on 09 Apr 2025

    Yêu cầu:

    • Quota CPU, GPU, RAM, Storage, Instance: đáp ứng đủ cho cấu hình cluster Kubernetes mong muốn. Nếu muốn sử dụng Autoscale, số lượng GPU phải đáp ứng đủ số Max node mong muốn (chú ý phần cài đặt Min node và Max node).

    • 01 Network subnet: Network sử dụng cho Kubernetes Nodes, subnet cần có Static IP Pool.

    Các bước khởi tạo như sau:

    Bước 1: Truy cập portal FPT Cloud console.fptcloud.com, chọn mục Kubernetes, ấn “Create a Kubernetes Engine”.

    Bước 2: Nhập tên cụm, phiên bản kubernetes và chọn mục đích sử dụng “GPU Workload” (chọn đúng Purpose để tối ưu hiệu năng của cụm)

    Bước 3: Nhập vào thông tin cụm Kubernetes cần khởi tạo. Ngoài các thông tin khởi tạo cho Kubernetes thông thường, cần chọn cấu hình cho GPU trong Worker Group:

    • Chọn lnstance type: GPU

    • Chọn GPU type (A30, A100..)

    • Chọn cấu hình GPU sharing

    • Chọn cấu hình type GPU (CPU/RAM/GPU RAM)

    Chú ý:

    1. Ở phần “GPU Driver Installation Type” có 2 options là Pre-installUser-install.

    2. Driver là một chương trình để cho phép hệ điều hành giao tiếp với phần cứng, cụ thể ở đây là giữa hệ điều hành của worker (windows, ubuntu ...) với GPU, hệ điều hành không thể sử dụng GPU nếu không có driver.

    3. Đối với lựa chọn “Pre-install”, cụm của khách hàng sẽ được thêm Nvidia GPU driver một cách tự động.

    4. Đối với lựa chọn “User-install”, khách hàng có thể cài đặt thủ công GPU driver để lựa chọn phiên bản driver phù hợp.

    Bước 4: Ấn Create và kiểm tra lại các thông tin khởi tạo.

    Bước 5: Theo dõi trạng thái khởi tạo cụm Kubernetes. Sau khi trạng thái Successed (Running) thì tiến hành sử dụng, triển khai ứng dụng.