Blogs Tech

AI Agents là gì? Ứng dụng, ví dụ các loại AI Agents

10:18 24/07/2025
Thị trường AI Agents được dự đoán sẽ tăng trưởng từ 5,1 tỷ đô la Mỹ vào năm 2024 lên 47,1 tỷ đô la Mỹ vào năm 2030, với CAGR lên đến 44,8% trong giai đoạn 2024-2030. Nhờ những tiến bộ trong khả năng xử lý ngôn ngữ tự nhiên, các tác nhân AI như GPT-4o và AgentGPT được ứng dụng mạnh mẽ trong các ngành dịch vụ khách hàng, chăm sóc sức khỏe và tài chính, giúp doanh nghiệp tự động và đơn giản hóa các tác vụ phức tạp, cải thiện quy trình và nâng cao trải nghiệm khách hàng. Vậy AI Agent là gì và thay đổi cách doanh nghiệp vận hành như thế nào? Cùng FPT.Cloud khám phá nhé! 1. AI Agents là gì? AI Agents là các mô hình và thuật toán trí tuệ nhân tạo (AI) có khả năng tương tác với môi trường và tự ra quyết định trong thế giới thực mà không cần bất cứ chỉ dẫn hay điều hướng tác vụ nào từ con người. Nói một cách đơn giản, AI Agents là các trợ lý cá nhân được thiết kế để mô phỏng trí thông minh của con người, dựa vào các công nghệ AI như học máy (Machine Learning) và xử lý ngôn ngữ tự nhiên (Natural Language Processing) để xử lý, phân tích dữ liệu và thực hiện các hành động dựa trên yêu cầu và mong muốn của người dùng. Hiện tại, tác nhân AI có thể xử lý đồng thời nhiều loại đầu vào như văn bản, giọng nói, video, âm thanh, code,.. nhờ sự phát triển mạnh mẽ của AI đa phương thức (Multimodal AI) và AI tạo sinh (Generative AI). AI Agents là các mô hình và thuật toán AI có khả năng tự ra quyết định mà không cần con người can thiệp 2. Các đặc điểm chính của AI Agents Tính tự chủ (Autonomy): Nhân sự AI có thể làm việc độc lập, ra quyết định, lập kế hoạch và tương tác với các hệ thống bên ngoài để đạt được mục tiêu do con người xác định. Ví dụ, AI Agents trong hệ thống xe tự lái có thể tự điều chỉnh tốc độ, đổi làn, dừng lại hoặc điều chỉnh lộ trình dựa trên dữ liệu từ cảm biến về điều kiện đường xá và chướng ngại vật mà không cần sự can thiệp của người điều khiển. Khả năng học tập liên tục (Continuous Learning): AI Agents có thể học hỏi và thích ứng với những thay đổi trong môi trường để hoàn thành nhiệm vụ tốt hơn. Chẳng hạn, trợ lý AI hỗ trợ khách hàng có thể cải thiện chất lượng phản hồi bằng cách học từ hàng triệu cuộc hội thoại để hiểu được ngữ cảnh và tự động đưa ra các giải pháp phù hợp hơn cho khách hàng. Phản ứng và chủ động (Reactive and Proactive): AI Agents có thể dự đoán và thực hiện các hành động trước khi có sự kiện xảy ra. Nest Thermostat, một thiết bị điều chỉnh nhiệt thông minh được phát triển bởi Google có thể học từ các lần điều chỉnh nhiệt độ trong nhà của người dùng, phản ứng nhanh chóng khi phát hiện những thay đổi đột ngột. Nếu nhiệt độ đột ngột giảm hoặc tăng quá nhanh, hệ thống sẽ điều chỉnh để duy trì mức độ thoải mái và tiết kiệm năng lượng​. Ứng dụng thực tế của AI Agents trong lĩnh vực Marketing và Sales 3. Cách thức hoạt động của AI Agents là gì? Tổng quát cấu trúc của tác nhân AI đơn Khi nhận một lệnh (mục tiêu) từ người dùng (Prompt), AI Agents sẽ lập kế hoạch và phân chia mục tiêu thành các tác vụ và nhiệm vụ cụ thể. Trong quá trình thực hiện, nhờ các cảm biến (Sensors), các nhân sự AI sẽ thu thập thông tin (dữ liệu giao dịch, lịch sử tương tác của khách hàng) từ nhiều nguồn khác nhau (bao gồm các tập dữ liệu bên ngoài, tìm kiếm trên web, API và thậm chí cả các tác nhân khác). Trong quá trình thu thập, AI Agent sẽ liên tục cập nhập lại cơ sở kiến thức của mình, tự điều chỉnh và sửa lỗi nếu cần. Bộ xử lý (Processors) của AI Agents sẽ sử dụng các thuật toán, mạng nơron học sâu (Deep Neural Networks), các mô hình học máy và trí tuệ nhân tạo để phân tích thông tin và tính toán các hành động cần thực hiện. Trong suốt quá trình này, bộ nhớ (Memory) của các tác nhân sẽ liên tục lưu trữ thông tin (ví dụ như lịch sử các quyết định đã thực hiện hoặc các quy tắc đã học) để chúng có thể tự đối chiếu, điều chỉnh và cải thiện hiệu suất theo thời gian. Cuối cùng, thông qua bộ điều khiển (Actuators), AI Agents thực hiện các hành động dựa trên quyết định mà nó đã đưa ra. Đối với robot, bộ điều khiển có thể là các bộ phận giúp nó di chuyển hoặc thao tác với vật thể. Đối với tác nhân phần mềm, điều này có thể là việc gửi thông tin hoặc thực hiện lệnh trên hệ thống. Về mặt kỹ thuật, một hệ thống tác nhân AI gồm 04 thành cấu phần chính, mô phỏng cách thức vận hành của con người Để minh họa cho quy trình này, hãy tưởng tượng một người dùng đang lên kế hoạch cho kỳ nghỉ của họ. Người này để AI Agent dự đoán tuần nào trong năm tới có thời tiết tốt nhất để lướt sóng ở Hy Lạp. Do mô hình ngôn ngữ lớn làm nền tảng cho tác nhân không chuyên về dự báo thời tiết, tác nhân phải truy cập vào cơ sở dữ liệu bên ngoài, nơi chứa các báo cáo thời tiết hàng ngày tại Hy Lạp trong nhiều năm qua. Dù có được dữ liệu lịch sử, tác nhân vẫn chưa thể xác định điều kiện thời tiết tối ưu cho việc lướt sóng. Vì vậy, nó phải giao tiếp với một tác nhân chuyên về lướt sóng để học được rằng điều kiện lý tưởng để lướt sóng bao gồm thủy triều cao, trời nắng và lượng mưa thấp hoặc không có mưa. Với thông tin mới thu thập, tác nhân kết hợp và phân tích dữ liệu để nhận diện các mẫu thời tiết phù hợp. Dựa trên đó, nó dự đoán tuần nào trong năm tới tại Hy Lạp có khả năng xảy ra thủy triều cao, thời tiết nắng và ít mưa nhất. Kết quả cuối cùng sau đó được trình bày cho người dùng. Theo BCG analysis, các tác nhân AI đang thâm nhập mạnh mẽ vào nhiều quy trình doanh nghiệp, với mức độ tăng trưởng kép hàng năm lên tới 45% trong 5 năm tới 4. Có bao nhiêu loại AI Agents? Có nhiều loại AI Agents khác nhau, mỗi loại phù hợp với các nhiệm vụ và ứng dụng cụ thể. Dưới đây là một số loại AI Agents phổ biến: Nhân sự AI phản xạ đơn giản (Simple Reflex Agents): Simple Reflex Agents hoạt động dựa trên nguyên tắc “điều kiện-hành động” và phản ứng với môi trường dựa trên các quy tắc đơn giản đã được lập trình sẵn, chẳng hạn như một bộ điều chỉnh nhiệt độ bật hệ thống sưởi ấm vào đúng 8 giờ tối mỗi ngày. Tác nhân này không lưu giữ bất kỳ bộ nhớ nào, không tương tác với các tác nhân khác nếu thiếu thông tin cũng như không thể phản ứng phù hợp nếu gặp tình huống bất ngờ. Nhân sự AI phản xạ dựa trên mô hình (Model-Based Reflex Agents): Model-Based Reflex Agents sử dụng khả năng nhận thức và trí nhớ để tạo ra một mô hình nội bộ mô phỏng thế giới xung quanh. Nhờ khả năng lưu trữ thông tin trong bộ nhớ, các tác nhân này có thể hoạt động hiệu quả trong những môi trường thay đổi nhưng vẫn bị hạn chế bởi các quy tắc đã được lập trình sẵn. Chẳng hạn, một robot hút bụi khi làm sạch một căn phòng có thể cảm nhận được chướng ngại vật và điều chỉnh hướng đi để tránh va chạm. Robot cũng ghi nhớ các khu vực đã dọn dẹp để tránh lặp lại công việc không cần thiết. Nhân sự AI dựa trên mục tiêu (Goal-Based Agents): Goal-Based Agents được định hướng bởi một hoặc nhiều mục tiêu cụ thể. Chúng tìm kiếm các chuỗi hành động phù hợp để đạt được mục tiêu và lập kế hoạch trước khi thực hiện. Chẳng hạn, khi một hệ thống dẫn đường đề xuất tuyến đường nhanh nhất đến đích của bạn, nó sẽ phân tích nhiều lộ trình khác nhau để tìm ra phương án tối ưu nhất. Nếu hệ thống phát hiện một tuyến đường nhanh hơn, nó sẽ cập nhật và đề xuất tuyến đường thay thế. Nhân sự AI dựa trên lợi ích (Utility-Based Agents): Utility-Based Agents có thể tối ưu hóa kết quả bằng cách sử dụng hàm tiện ích để đo lường mức độ hữu ích mà mỗi hành động có thể mang lại, dựa trên các tiêu chí như tiến độ hướng tới mục tiêu, thời gian hoặc độ phức tạp của quá trình thực hiện. Chẳng hạn, một hệ thống dẫn đường cân nhắc các yếu tố như tiết kiệm nhiên liệu, giảm thời gian di chuyển và chi phí cầu đường để chọn và đề xuất tuyến đường thuận lợi nhất cho người dùng. Nhân sự AI có khả năng học (Learning Agents): Learning Agents học hỏi từ các tương tác và phản hồi từ môi trường hoặc người dùng để cải thiện hiệu suất theo thời gian. Quá trình học diễn ra tự động, giúp tác nhân hoạt động hiệu quả trong các môi trường không quen thuộc. Ví dụ, các trang web thương mại điện tử sử dụng Learning Agents có khả năng hiểu nhu cầu và sở thích của người dùng để đưa ra các gợi ý sản phẩm được cá nhân hóa. Các loại AI Agents phổ biến 5. ChatGPT có phải là một AI Agent không? ChatGPT không phải là một AI Agent mà chỉ là một mô hình ngôn ngữ lớn được thiết kế để thực hiện các nhiệm vụ bằng cách tạo ra các phản hồi giống con người dựa trên đầu vào nhận được. Trợ lý AI này không thể tự mình thực hiện hành động hoặc đặt ra mục tiêu mà phải dựa trên các hướng dẫn của người dùng. Ví dụ, nếu bạn yêu cầu ChatGPT viết một email, nó có thể tạo nội dung nhưng không thể tự gửi email đó hoặc xác định xem việc gửi email có phải là hành động tốt nhất hay không. ChatGPT cũng không có khả năng trực tiếp tương tác với các hệ thống hoặc điều chỉnh hành vi dựa trên phản hồi thời gian thực. Dù mở rộng plugin hoặc framework có thể cải thiện chức năng của ChatGPT, những bổ sung này vẫn không biến nó thành một Agent thực sự. Ngoài ra, trong khi các AI Agents tiên tiến có thể học từ những tương tác, cải thiện hiệu suất theo thời gian và sử dụng trí nhớ để thông báo cho các hành động trong tương lai. ChatGPT không giữ lại trí nhớ giữa các phiên làm việc, trừ khi được lập trình cụ thể trong các ứng dụng nhất định. ChatGPT thiếu các đặc điểm cốt lõi để được coi là một AI Agent thực sự 6. Lợi ích nổi bật của việc sử dụng AI Agents là gì? AI Agents giúp doanh nghiệp mang lại trải nghiệm đồng nhất cho khách hàng trên đa kênh, với 4 lợi ích vượt trội sau: Cải thiện năng suất: AI Agents giúp tự động hóa các nhiệm vụ lặp đi lặp lại, giải phóng nhân sự khỏi các công việc thủ công để doanh nghiệp tập trung vào các hoạt động chiến lược và sáng tạo hơn. Giảm chi phí: Bằng cách tối ưu hóa quy trình và giảm thiểu sai sót của con người, nhân sự AI giúp doanh nghiệp cắt giảm chi phí hoạt động. Những tác vụ phức tạp được AI Agents xử lý một cách hiệu quả mà không cần sự can thiệp liên tục của con người. Ra quyết định sáng suốt: AI Agents sử dụng các công nghệ học máy để giúp các nhà quản lý thu thập và phân tích dữ liệu (nhu cầu sản phẩm hoặc xu hướng thị trường) theo thời gian thực,  đưa ra quyết định nhanh chóng và chính xác hơn. Cải thiện trải nghiệm của khách hàng: Nhân sự AI cá nhân hóa trải nghiệm khách hàng cung cấp phản hồi nhanh chóng và liên tục 24/7, giúp doanh nghiệp tạo ra các giải pháp dịch vụ hấp dẫn hơn. Lợi ích của việc sử dụng AI Agents 7. Ứng dụng thực tiễn của AI Agents Hãy cùng tưởng tượng về nơi làm việc trong tương lai mà mỗi nhân viên, nhà quản lý và lãnh đạo được trang bị các đồng đội AI hỗ trợ họ trong mọi nhiệm vụ, ở mọi thời điểm của ngày làm việc. Nhờ những đồng đội AI này, chúng ta sẽ trở nên năng suất hơn gấp 10 lần, đạt được kết quả tốt hơn, tạo ra các sản phẩm chất lượng cao hơn, và tất nhiên, trở nên sáng tạo hơn gấp 10 lần. Ứng dụng của AI Agents trong thực tiễn (1) Tương lai chính này chính là bây giờ. Dưới đây là bốn câu chuyện minh chứng cho việc AI Agents đã và đang tác động đến doanh nghiệp. 7.1. Cách mạng hóa xử lý yêu cầu bảo hiểm Hãy tưởng tượng bạn đến bệnh viện để kiểm tra sức khỏe, mua thuốc và yêu cầu thanh toán bảo hiểm. Thông thường, quá trình xử lý tài liệu của công ty bảo hiểm sẽ mất ít nhất 20 phút. Với các AI Agents, các công ty bảo hiểm có thể xử lý toàn bộ tài liệu thông qua các công cụ đánh giá nhanh, công cụ đánh giá rủi ro và công cụ phát hiện gian lận, trả kết quả chỉ trong 2 phút. Điều này đại diện cho một bước nhảy vọt đáng kinh ngạc trong năng suất, cải thiện trải nghiệm khách hàng và tạo ra giá trị cạnh tranh mới cho doanh nghiệp. Ứng dụng của AI Agents trong lĩnh vực Tài Chính – Kế Toán 7.2. Chuyển đổi trung tâm liên lạc khách hàng Câu chuyện thứ hai tập trung vào dịch vụ khách hàng. Một số khách hàng của FPT.AI đã triển khai hệ thống AI cho các giao tiếp đi và đến. Những hệ thống này cung cấp hỗ trợ khách hàng giống như nhân viên thực, xử lý các yêu cầu, giải quyết vấn đề, và cung cấp dịch vụ xuất sắc. Đối với một số khách hàng, các AI Agents hiện đang xử lý 70% yêu cầu khách hàng, hoàn thành 95% nhiệm vụ nhận được, và đạt mức độ hài lòng của khách hàng là 4.5/5. Hiện nay, các AI Agents dịch vụ khách hàng của FPT quản lý 200 triệu tương tác với người dùng mỗi tháng. Ứng dụng của AI Agents trong thực tiễn (2) 7.3. Trao quyền cho dược sĩ với AI Mentor Tại Long Châu, chuỗi nhà thuốc lớn nhất Việt Nam, hơn 14.000 dược sĩ làm việc hàng ngày để tư vấn cho khách hàng. Để đảm bảo họ luôn cập nhật kiến thức và làm việc hiệu quả, FPT.AI đã phát triển một AI Mentor tương tác với các dược sĩ mỗi ngày. AI Mentor này xác định điểm mạnh, điểm yếu, cung cấp thông tin chi tiết và cá nhân hóa các cuộc hội thoại để giúp họ cải thiện. Kết quả là: Năng lực của dược sĩ cải thiện 15%. Năng suất tăng 30%. Quan trọng hơn, chúng tôi tự hào giúp các dược sĩ trở thành phiên bản tốt nhất của chính họ trong khi không ngừng cải thiện. FPT AI Mentor giành giải “Giải pháp Trí tuệ nhân tạo xuất sắc” tại AI Awards 2024 7.4. Từ trung tâm chi phí thành trung tâm lợi nhuận Phòng thí nghiệm đổi mới AI của FPT.AI làm việc với khách hàng để xác định cơ hội, triển khai thử nghiệm và mở rộng giải pháp. Ví dụ, một khách hàng của chúng tôi đã chuyển đổi trung tâm dịch vụ khách hàng của họ từ trung tâm chi phí thành trung tâm lợi nhuận. Sử dụng hệ thống AI, họ phát hiện khi khách hàng hài lòng và ngay lập tức đề xuất các sản phẩm hoặc dịch vụ phù hợp để bán thêm thẻ tín dụng, bán chéo các khoản thấu chi, kích hoạt khách hàng mới đăng ký và tái kích hoạt khách hàng cũ. Cách tiếp cận này giúp trung tâm dịch vụ khách hàng đóng góp khoảng 6% tổng doanh thu. Bốn câu chuyện trên chỉ là một phần nhỏ trong vô số cách mà AI có thể chuyển đổi doanh nghiệp. AI, như một yếu tố cạnh tranh mới, đang mở ra đại dương xanh của sự đổi mới. Mỗi công ty và tổ chức sẽ cần tái phát minh hoạt động của họ và xây dựng một nền tảng mạnh mẽ để cạnh tranh trong tương lai, tận dụng các tiến bộ của AI. Ứng dụng của AI Agents trong thực tiễn (3) 8. Những thách thức khi triển khai AI Agents AI Agents vẫn đang trong giai đoạn phát triển sơ khai và đối mặt với nhiều thách thức lớn. Theo Kanjun Qiu, CEO kiêm nhà sáng lập Startup nghiên cứu AI Imbue, sự phát triển của AI Agents hiện nay có thể được so sánh với cuộc đua phát triển xe tự lái cách đây 10 năm. Mặc dù AI Agents có thể thực hiện được nhiều nhiệm vụ, nhưng chúng vẫn chưa đủ tin cậy và chưa thể hoạt động hoàn toàn tự động​. Một trong những vấn đề lớn nhất mà AI Agents gặp phải là giới hạn về tư duy logic. Theo Qiu, mặc dù các công cụ lập trình AI có thể tạo ra mã code, nhưng chúng thường viết sai hoặc không thể tự kiểm thử mã của chính mình. Điều này đòi hỏi con người phải liên tục can thiệp để hoàn thiện quy trình. Tiến sĩ Fan cũng nhận định rằng hiện tại, chúng ta vẫn chưa đạt được một AI Agent có thể tự động hóa hoàn toàn các công việc lặp đi lặp lại hàng ngày. Hệ thống vẫn có khả năng “loạn ngôn” và không luôn tuân theo yêu cầu chính xác của người dùng. Những thách thức và cân nhắc khi sử dụng AI Agents Một hạn chế lớn khác là không gian ngữ cảnh (Context Window) – khả năng đọc, hiểu và xử lý lượng lớn dữ liệu của các mô hình AI. Tiến sĩ Fan giải thích rằng, các mô hình như ChatGPT có thể lập trình, nhưng gặp khó khăn khi xử lý những đoạn mã dài và phức tạp, trong khi con người có thể dễ dàng theo dõi hàng trăm dòng code mà không gặp khó khăn. Các công ty như Google đã phải cải tiến khả năng xử lý ngữ cảnh trong mô hình AI của mình, như với mô hình Gemini, để cải thiện hiệu suất và sự chính xác​. Đối với các AI Agents “có hình thù” như robot hoặc nhân vật ảo trong game, việc huấn luyện chúng thực hiện các nhiệm vụ giống con người cũng là một thách thức. Hiện tại, dữ liệu huấn luyện cho các hệ thống này còn rất hạn chế và các nghiên cứu mới chỉ bắt đầu khám phá cách ứng dụng AI tạo sinh vào tự động hóa​. 9. Viết tiếp tương lai với AI Agents cùng FPT.AI Trong nền kinh tế số, sự cạnh tranh giữa các công ty và quốc gia không còn chỉ dựa trên tài nguyên chính, công nghệ và chuyên môn mà có cả các AI Companion hoặc các AI Agents. Dự kiến, đến cuối năm 2025, sẽ có khoảng 100.000 AI Agents đồng hành cùng các doanh nghiệp trong chăm sóc khách hàng, vận hành và sản xuất. Mỗi AI Agent sẽ đảm nhiệm một số nghiệp vụ như lập trình, đào tạo, chăm sóc khách hàng… Nhờ đó, nhân viên được trao quyền nhiều hơn, doanh nghiệp tăng năng suất vận hành, cải thiện trải nghiệm khách hàn, và đưa ra các quyết định chính xác hơn dựa trên phân tích dữ liệu. Tương lai của AI Agents FPT AI Agents – một nền tảng cho phép các doanh nghiệp phát triển, xây dựng và vận hành AI Agents một cách đơn giản, thuận tiện và nhanh chóng nhất. Các ưu điểm chính của FPT AI Agents bao gồm: Dễ dàng vận hành và sử dụng ngôn ngữ tự nhiên. Linh hoạt tích hợp với các nguồn tri thức của doanh nghiệp. Các mô hình AI được tối ưu theo từng nhiệm vụ và ngôn ngữ. Hệ thống được tích hợp AI tạo sinh (Generative AI) và học tăng cường (Reinforcement Learning), hỗ trợ xử lý ngôn ngữ tự nhiên (NLP) tiếng Anh, tiếng Việt, tiếng Nhật và tiếng Indonesia. Các AI Agents đều được vận hành trên FPT AI Factory – hệ sinh thái được thành lập với sứ mệnh trao quyền cho mọi tổ chức và cá nhân để xây dựng các giải pháp AI của riêng mình, sử dụng dữ liệu, bổ sung kiến thức và phù hợp với văn hóa của họ. FPT AI Agents là quân át chủ bài của FPT Smart Cloud trong thời đại AI Với hơn 80 dịch vụ cloud và 20 sản phẩm AI, FPT AI Factory giúp tăng tốc ứng dụng AI lên 9 lần nhờ sử dụng GPU thế hệ mới nhất, như H100 và H200, đồng thời, chi phí được tiết kiệm tới 45%. Các nhà máy này hoàn toàn tương thích với nền tảng NVIDIA AI Enterprise và các bản thiết kế kiến trúc, đảm bảo tích hợp và vận hành liền mạch. Quy trình triển khai của FPT AI Agents AI Agents của FPT đã được ứng dụng rộng rãi trong chăm sóc khách hàng, giúp doanh nghiệp giảm tải nhân sự, tăng tốc độ phản hồi và nâng cao chất lượng dịch vụ. Trong tương lai, FPT Smart Cloud hướng tới mở rộng ứng dụng của FPT AI Agents ra các lĩnh vực như y tế, giáo dục, tài chính và sản xuất, hỗ trợ toàn diện mọi hoạt động vận hành của doanh nghiệp. Đồng thời, FPT Smart Cloud cũng chú trọng hợp tác quốc tế, mở rộng quan hệ với các tập đoàn lớn và hỗ trợ doanh nghiệp nhỏ qua giải pháp tùy chỉnh, chi phí linh hoạt. Công ty cũng cam kết bảo vệ dữ liệu người dùng, tuân thủ quy định quốc tế, và đầu tư mạnh vào R&D để phát triển công nghệ AI Việt hóa, củng cố vị thế tại thị trường trong nước và vươn ra thế giới.

Từ nhà máy đến người dùng cuối KOVA số hóa chuỗi vận hành bằng dữ liệu

09:43 24/07/2025
Xác định dữ liệu trở thành tài sản chiến lược, Công ty cổ phần thương mại KOVA đã chọn tái cấu trúc toàn diện nền tảng vận hành, thay vì cải tiến từng phần. Đồng hành của FPT, doanh nghiệp sản xuất truyền thống này đang chuyển mình mạnh mẽ nâng cao năng lực điều hành, ra quyết định nhanh, tối ưu chi phí và hiệu suất. Đây là bước đi quan trọng thể hiện tư duy lãnh đạo dám thay đổi để thích ứng và phát triển bền vững. Công ty cổ phần thương mại KOVA và FPT tổ chức lễ công bố chính thức triển khai vận hành giải pháp dữ liệu toàn diện FPT Data Suite. Ảnh: FPT Smart Cloud. Chủ động nâng cấp hạ tầng dữ liệu để ứng phó với biến động thị trường Là một doanh nghiệp sản xuất sơn với hơn 30 năm hoạt động, Sơn và Chống thấm KOVA (KOVA) vận hành mạng lưới phân phối rộng khắp với hàng ngàn điểm bán và đối tác trải rộng từ nhà thầu, đại lý đến người tiêu dùng cuối. Giống như nhiều doanh nghiệp sản xuất và phân phối truyền thống, KOVA từng đối mặt với những trăn trở trong việc quản trị dữ liệu doanh nghiệp: hệ thống kế toán, bán hàng, kho vận… hoạt động trên nhiều nền tảng riêng biệt, dẫn đến dữ liệu phân mảnh, thiếu động bộ, gây khó khăn trong việc truy xuất thông tin và đưa quyết định. Việc phải duy trì máy chủ riêng, xử lý dữ liệu thủ công và tách biệt giữa các bộ phận khiến công tác tổng hợp thông tin chậm trễ, không thể triển khai phân tích đa chiều hay thống nhất dữ liệu theo thời gian thực. Toàn bộ quá trình trích xuất, chuyển đổi, làm sạch dữ liệu cần thực hiện qua nhiều công đoạn trung gian, vừa phức tạp vừa tiêu tốn nhiều nguồn lực. Điều này tạo nên nút thắt lớn trong việc đảm bảo dữ liệu kịp thời và đáng tin cậy cho ban điều hành. Ngoài ra, việc thiếu một hệ thống dữ liệu tập trung cũng ảnh hưởng trực tiếp đến tốc độ phản ứng với thị trường, đặc biệt trong những quyết định liên quan đến chuỗi cung ứng, kế hoạch sản xuất, quản lý hàng tồn hoặc điều phối bán hàng đa kênh. Tốc độ phản hồi báo cáo chậm khiến bộ phận kinh doanh khó khăn trong việc theo dõi đơn hàng và hỗ trợ khách hàng. Nhận thấy những hạn chế này, KOVA xác định chuyển đổi số không phải để thay thế hệ thống cũ, mà để tái cấu trúc toàn bộ cách thức vận hành doanh nghiệp, lấy dữ liệu làm nền tảng. Hình ảnh: Ông Lưu Hoàng Khoa phát biểu tại lễ công bố. Ảnh: FPT Smart Cloud Ông Lưu Hoàng Khoa, Tổng Giám Đốc, Công ty cổ phần thương mại KOVA chia sẻ: “Chúng tôi không triển khai công nghệ vì mục tiêu kỹ thuật, mà vì mục tiêu vận hành, để hiểu khách hàng, hỗ trợ đội ngũ, và nâng cao năng lực phản ứng của toàn bộ tổ chức. Giải pháp công nghệ chỉ thực sự có giá trị khi giúp từng bộ phận nhìn được bức tranh toàn cảnh, phân tích được vấn đề tại thời điểm cần thiết, và phối hợp ra quyết định một cách linh hoạt.” Chuyển đổi số không chỉ bắt đầu từ công nghệ, mà từ tư duy làm chủ vận hành Trước thực tế đó, Sơn và Chống thấm KOVA đã lựa chọn đồng hành cùng FPT để từng bước chuyển đổi cách thức quản trị dữ liệu, lấy nền tảng công nghệ làm trọng tâm cho chiến lược phát triển bền vững. Từ tháng 04/2025, KOVA và FPT đã phối hợp triển khai hệ thống FPT Data Platform, kho dữ liệu lớn được tối ưu theo nhu cầu vận hành thực tế của doanh nghiệp sản xuất. Dự án khởi động với mục tiêu xây dựng một “hồ chứa dữ liệu” – Data Warehouse, có khả năng lưu trữ, xử lý và phân tích dữ liệu mạnh mẽ tích hợp với FPT Data Suite, nền tảng trực quan hóa báo cáo đa chiều, cho phép người dùng phi kỹ thuật dễ dàng truy xuất, xây dựng và chia sẻ báo cáo theo nhu cầu. Trong quá trình triển khai, đội ngũ FPT không chỉ tập trung chuyển giao số lượng lớn báo cáo, mà còn đảm bảo hệ thống vận hành ổn định, đáp ứng nhu cầu sử dụng báo cáo hằng ngày của KOVA. Chỉ sau 3 tháng, gần 150 báo cáo vận hành quan trọng đã được chuẩn hóa và tích hợp lên hệ thống mới. Dữ liệu từ ứng dụng KOVA Yes!, hệ thống kế toán, bán hàng, kho vận... được đồng bộ hóa theo thời gian thực qua dashboard (giao diện) duy nhất trên FPT Data Suite. Mọi biến động từ đơn hàng, tồn kho, lịch giao hàng đều được xử lý tự động, phân quyền truy cập theo vai trò và chia sẻ dễ dàng giữa các bộ phận. Đặc biệt, người dùng không kỹ thuật như kế toán, kinh doanh, marketing đều có thể chủ động tạo báo cáo bằng thao tác kéo – thả, không còn phụ thuộc đội IT. Ban điều hành và các cấp quản lý có thể chủ động truy xuất thông tin nhanh, ra quyết định chuẩn xác hơn nhờ dữ liệu cập nhật liên tục. Hệ thống mới còn giúp KOVA tối ưu chi phí hạ tầng, giảm phụ thuộc nền tảng nước ngoài, đảm bảo tuân thủ bảo mật dữ liệu trong nước. Năng lực phân tích được “dân chủ hóa”, đưa dữ liệu đến gần hơn với người ra quyết định tại mọi cấp. Ông Đoàn Đăng Khoa, Phó Tổng Giám đốc FPT Smart Cloud, Tập đoàn FPT chia sẻ: “Dữ liệu giống như mỏ dầu, nhưng quan trọng là cách khai thác và kết nối để tạo ra giá trị thực tiễn. Với nền tảng công nghệ từ Tập đoàn FPT, chúng tôi cam kết đồng hành cùng KOVA trong hành trình chuyển đổi số dữ liệu, cung cấp giải pháp toàn diện ứng dụng Cloud, Data và AI, giúp từng bước biến dữ liệu thành tài sản chiến lược phục vụ quản trị, bán hàng và tối ưu vận hành.” Việc chính thức đưa FPT Data Suite và FPT Data Platform vào vận hành là dấu mốc quan trọng trong hành trình chuyển đổi số tại KOVA. Đây không chỉ là bước chuyển mình công nghệ, mà còn thể hiện tư duy lãnh đạo dám thay đổi, dám đầu tư vào hạ tầng có tính dài hạn, nơi dữ liệu không còn là công cụ báo cáo, mà trở thành tài sản chiến lược của doanh nghiệp. Tìm hiểu chi tiết về giải pháp tại đây: https://fptsmartcloud.vn/Free-Trial-FPT-Data-Suite

Hướng dẫn tích hợp FPT AI Marketplace API Key vào Cursor IDE để sinh Code nhanh chóng

12:16 18/07/2025
Trong kỷ nguyên AI, việc tận dụng mô hình ngôn ngữ lớn (LLM) để hỗ trợ lập trình ngày càng phổ biến. Tuy nhiên, thay vì dùng các dịch vụ quốc tế chi phí cao, bạn hoàn toàn có thể khai thác FPT AI Marketplace — nền tảng AI Inference nội địa với chi phí cạnh tranh, độ ổn định cao, và data locality ưu việt.  Bài viết này sẽ hướng dẫn bạn cách tích hợp AI Model API từ FPT AI Marketplace vào Cursor IDE để sử dụng các mô hình sinh code mạnh mẽ. 1. Tạo Tài Khoản FPT AI Marketplace Truy cập trang https://marketplace.fptcloud.com/ và đăng ký tài khoản.  Ưu đãi: Tài khoản mới sẽ được tặng 1 USD miễn phí để trải nghiệm các dịch vụ AI Inference!   2. Xem Danh Sách Model Khả Dụng Sau khi đăng nhập, bạn có thể xem các mô hình khả dụng trên FPT Marketplace  [Hình 1: Danh sách model trên FPT AI Marketplace]  Bạn nên chọn những model như Qwen-32B Coder, Llama-8B, hoặc DeepSeek để có kết quả sinh code tối ưu. 3. Tạo API Key Bạn vui lòng đăng nhập & truy cập https://marketplace.fptcloud.com/en/my-account#my-api-key   Click “Create new API Key” và chọn models, điền tên API Key và ấn “Create”   [Hình 2: Giao diện tạo API Key]  Xác nhận và lấy API Key mới tạo  [Hình 3: Giao diện hoàn thành tạo API Key] 4. Cấu Hình Cursor IDE Với API trên FPT AI Marketplace Các bước thực hiện:  1. Mở Cursor IDE -> Vào Cursor Settings -> Models.  2. Thêm Model:  a. Nhấn Add model  b. Thêm tên model (ví dụ: qwen_coder, deepseek_r1).  3. Điền API Key:  a. rong phần OpenAI API Key, dán API Key bạn vừa tạo từ FPT AI Marketplace.  4. Cấu hình URL FPT AI:  a. Bật Override OpenAI Base URL.  b. Điền URL: https://mkp-api.fptcloud.com  [Hình 4: Cấu hình API Key và URL trong Cursor]  5. Xác nhận:  a. Nhấn nút Verify.  b. Nếu hiện Verified Successfully, bạn đã sẵn sàng sử dụng mô hình! 5. Sử Dụng Model Sinh Code Trong Cursor Bây giờ, bạn có thể:  Dùng AI Assistant ngay trong IDE để sinh code.  Yêu cầu AI refactor, tối ưu, hoặc giải thích code hiện có.  Chọn model muốn sử dụng.  [Hình 5: Sử dụng model Llama-3.3-70B-Instruction của FPT AI Marketplace để refactor code] 6. Theo Dõi Lượng Token Đã Dùng Để quản lý chi phí:  Vào My Usage trong FPT AI Marketplace.  Xem số lượng requests, tokens input/output, và tổng lượng usage.  Bạn sẽ biết mình đã dùng bao nhiêu tokens, từ đó kiểm soát được chi phí tốt hơn.  Kết Luận  Chỉ với vài thao tác đơn giản, bạn có thể khai thác trọn vẹn sức mạnh từ FPT AI Marketplace. Từ việc sinh code nguồn nhanh chóng, review thông minh, tối ưu hiệu suất cho đến hỗ trợ debug tự động, tất cả đều được thiết kế để giúp người dùng tăng tốc quy trình làm việc. Đồng thời, các mô hình AI tiên tiến được cung cấp với chi phí hợp lý, đi kèm khả năng theo dõi và quản lý mức sử dụng một cách rõ ràng, minh bạch.   

FPT AI Factory – Từ ván cược 200 triệu USD đến chủ quyền AI

15:47 16/07/2025
  Từ hạ tầng, sản phẩm lõi đến nguồn nhân lực bản địa, FPT AI Factory đặt những viên gạch đầu tiên cho tham vọng dài hơi về một Việt Nam có năng lực làm chủ trí tuệ nhân tạo (AI). Tháng 4/2024, dòng chữ đơn giản hiện lên trong ánh đèn trắng của hội trường chính FPT ở Hà Nội: “AI Factory - Make-in-Vietnam”, đặt cạnh logo Nvidia. Thông điệp không ồn ào, nhưng mang trong nó sự tự hào, khát vọng lớn của những kỹ sư người Việt. Trong bối cảnh dữ liệu đang trở thành nguồn “dầu mỏ mới” và thuật toán quyết định quyền lực cạnh tranh, việc một doanh nghiệp Việt đầu tư vào AI với nền tảng hạ tầng đặt tại Việt Nam, phát triển bởi kỹ sư Việt, hướng đến đáp ứng các nhu cầu của người dùng Việt không còn là chuyện nội bộ của đơn lẻ tập đoàn. Đó là những chỉ dấu cụ thể cho thấy Việt Nam đang dần khẳng định vị thế trên bản đồ AI toàn cầu, thay vì chỉ là điểm tiêu thụ công nghệ ngoại nhập. Quyết định 1131/QĐ-TTg là cú hích chiến lược đưa AI thành một trong 11 công nghệ trọng điểm quốc gia. Với FPT, đây là sự tiếp sức cho giấc mơ làm chủ công nghệ lõi đã được ươm mầm từ nhiều năm trước. FPT AI Factory - nhà máy AI đầu tiên tại Việt Nam - chính là bước hiện thực hóa giấc mơ đó: Nơi quy tụ dữ liệu, thuật toán, tài năng và khát vọng, từng bước đưa trí tuệ Việt từ ý tưởng thành sản phẩm mang tầm quốc gia. Bắt đầu với AI Factory, FPT không chọn lối đi an toàn, mà xem AI là “ván cược chiến lược” - đầu tư thẳng vào năng lực lõi, xây dựng hạ tầng tính toán, phát triển hệ sinh thái mở để không chỉ phục vụ chính mình mà còn trao quyền cho cả hệ thống doanh nghiệp. Từ startup 5 người đến tập đoàn hàng nghìn nhân sự, bất kỳ ai cũng có thể truy cập nền tảng và tạo ra giải pháp AI cho chính họ. Với khoản đầu tư 200 triệu USD công bố vào tháng 4/2024, FPT không xây thêm một trung tâm dữ liệu truyền thống mà hình thành một nhà máy trí tuệ - nơi không sản xuất phần cứng, cũng không viết phần mềm bán lẻ, mà sản sinh ra những gì nền kinh tế số tương lai cần: Năng lực tính toán, mô hình ngôn ngữ và các tác nhân thông minh (AI Agents). Chiến lược “Build Your Own AI” mà FPT theo đuổi không chỉ là một khẩu hiệu công nghệ hay một chiến lược phát triển sản phẩm, đó còn là cách để rút ngắn khoảng cách với các cường quốc số. Thay vì tái tạo mô hình thế giới, FPT thiết kế nền tảng giúp tổ chức nội địa chủ động phát triển mô hình AI phù hợp với ngôn ngữ, hành vi người dùng và hệ thống nghiệp vụ bản địa. Đó không chỉ là bước tiến công nghệ, mà là lựa chọn chiến lược mang nhiều tầng nghĩa. Làm sao để AI không chỉ dành cho kỹ sư, mà cho cả những người “không sống bằng thuật toán nhưng sống cùng hệ thống” từ trưởng phòng logistics đến người vận hành chăm sóc khách hàng (CSKH). Không đơn thuần chỉ là một dự án công nghệ, FPT AI Factory đại diện cho một khái niệm ngày càng được nhắc đến với nhiều tầng nghĩa: AI có chủ quyền khi năng lực tính toán không còn lệ thuộc, dữ liệu không bị xuất khẩu ngầm và cơ hội sáng tạo không còn bị giới hạn trong “hộp đen” nhập khẩu, đóng gói sẵn, ít khả năng tùy biến. Năm 2023, một kỹ sư tên Pieter Leves đã tự tạo một startup AI từ một quán cà phê ở Bali. Mô hình này sau đó tạo ra doanh thu 1 triệu USD/năm chỉ với… một người điều hành. Một giai thoại khác từng làm nhiều người ngạc nhiên khi một lập trình viên đã dùng GPT-4 để tạo nguyên một game phiêu lưu tương tác chỉ trong vài giờ... khi ngồi đợi vợ sinh con trong bệnh viện. Với sự ra mắt của ChatGPT, AI không còn tiến lên theo quán tính tuyến tính mà bứt phá theo lũy thừa. Trong vòng 5 năm, AI từ chỗ là một khái niệm chuyên ngành đã trở thành nền công cụ khi ChatGPT viết email, Midjourney tạo ra hình ảnh mà chính nghệ sĩ cũng phải trầm trồ, Copilot được dân lập trình sử dụng và nói vui là “lười có tổ chức”. Hàng loạt ứng dụng nhúng AI (AI-embedded) đã và đang len lỏi vào từng phần mềm doanh nghiệp, nền tảng cộng tác, công cụ sáng tạo... để hỗ trợ con người đưa ra quyết định nhanh hơn, chính xác hơn, và hoàn thành công việc hiệu quả hơn.​ Sự hiện diện của AI không diễn ra bằng tiếng nổ lớn, mà bằng hàng triệu cú click nhỏ mỗi ngày. Đó là lúc người dùng chỉnh sửa văn bản, đặt lịch họp, phân tích báo cáo khách hàng... tất cả đều đang có AI “âm thầm chạy nền” phía sau. Những gì từng cần một đội ngũ kỹ sư nay nằm gọn trong trình duyệt. Sự chuyển dịch ấy không còn là dấu hiệu của một xu thế công nghệ, mà là tín hiệu cho thấy AI đã trở thành một phần của hạ tầng số, len lỏi một cách tự nhiên vào mọi ngõ ngách đời sống. Trong bối cảnh đó, các nền tảng no-code/low-code AI - cho phép người không lập trình vẫn có thể xây dựng giải pháp thông minh - đã và đang định hình lại bức tranh chuyển đổi số. Theo báo cáo của Mordor Intelligence, quy mô thị trường này dự kiến đạt 8,89 tỷ USD vào năm 2030, với tốc độ tăng trưởng kép hàng năm (CAGR) lên tới 17,03%. Đồng thời, khái niệm AI Agents - các “tác nhân AI” có khả năng thực thi nhiệm vụ độc lập trong doanh nghiệp, đang bứt tốc không kém, với giá trị thị trường dự đoán đạt 52,62 tỷ USD vào cùng mốc 2030 (Theo MarketsandMarkets). Sự phát triển của các nền tảng này khiến AI không còn là tài sản dành riêng cho giới nghiên cứu hay Big tech, mà trở thành công cụ có thể đưa vào vận hành ở bất kỳ quy mô nào. Với những cú nhấp chuột đơn giản, một người không chuyên có thể tạo chatbot tư vấn khách hàng, hệ thống phân loại dữ liệu hoặc trợ lý số riêng - điều vốn trước đây đòi hỏi đội ngũ hàng chục kỹ sư. Nhưng chính sự bình dân hóa ấy lại đặt ra yêu cầu mới về hạ tầng. Các mô hình ngôn ngữ lớn như DeepSeek-R1 với 671 tỷ tham số nếu không được tối ưu kiến trúc sẽ tiêu tốn lượng tài nguyên khổng lồ để chạy hiệu quả. Nhờ kiến trúc Mixture of Experts (MoE) - vốn chỉ kích hoạt một phần mô hình tại mỗi lượt suy luận - DeepSeek-R1 đã giảm tới 94% chi phí tính toán, trong khi vẫn giữ được độ chính xác cao. Tại đây, mô hình AI Factory trở nên cần thiết với một dây chuyền sản xuất năng lực AI - nơi mọi bước từ thu thập và tinh chỉnh dữ liệu đến huấn luyện, triển khai và vận hành mô hình đều được tối ưu như một quy trình công nghiệp hóa. Điểm khác biệt lớn nhất không nằm ở phần cứng, mà ở triết lý tiếp cận, phát triển các mô hình AI bản địa hóa; không chỉ hiểu ngôn ngữ, mà còn thấu cảm hành vi, tập quán, và cấu trúc vận hành của từng thị trường cụ thể. Ở Việt Nam, đó là những mô hình hiểu tiếng Việt, xử lý được ngữ cảnh, cú pháp đặc thù, hỗ trợ tốt cho các nghiệp vụ hành chính, CSKH hay tài chính nội địa. Nhưng cách tiếp cận ấy không dừng lại ở biên giới bản đồ chữ S. Ở Nhật Bản, nơi FPT đang hợp tác cùng Sumitomo và SBI Holdings để xây dựng nhà máy AI thứ hai, mục tiêu là hỗ trợ và đồng hành các đơn vị bản địa phát triển năng lực "AI có chủ quyền" phù hợp với cấu trúc xã hội và tiêu chuẩn khắt khe của thị trường sở tại. Điều đó có nghĩa, mỗi khi đặt chân đến một quốc gia, một thị trường mới, FPT không áp dụng rập khuôn một mô hình cố định. Thay vào đó, tập đoàn luôn chủ động tiếp cận, nội địa hóa từ dữ liệu đến thiết kế sản phẩm. Nhờ lợi thế hiện diện tại hơn 30 quốc gia và vùng lãnh thổ, FPT tích luỹ được đa dạng sự thấu hiểu thị trường (insight) bản địa, giúp các giải pháp AI trở nên thực sự “vừa vặn” với người dùng bản địa, đúng như tinh thần của chiến lược “Build Your Own AI”. Trên thế giới, xu hướng này không còn mới, đơn cử như chính phủ Nhật Bản đã đầu tư 740 triệu USD để xây dựng AI Factory trong nước, hợp tác với Nvidia nhằm bảo đảm tính độc lập hạ tầng (Nvidia Blog). Liên minh châu Âu lên kế hoạch tài trợ 20 nhà máy AI quy mô lớn từ năm 2025-2026 (Digital Strategy EU). SoftBank, gã khổng lồ viễn thông cũng chi hơn 960 triệu USD đầu tư vào hệ thống AI nội địa. Trong dòng chuyển đó, Việt Nam cần cách tiếp cận phù hợp. Chúng ta không thể cạnh tranh về quy mô với Mỹ, Trung Quốc, nhưng có thể tạo ra khác biệt bằng cách xây dựng hạ tầng tinh gọn, linh hoạt và hiểu người dùng bản địa. FPT đã chọn đặt viên gạch đầu tiên với hành động thực tế khi đầu tư vào năng lực lõi, phát triển nền tảng cho doanh nghiệp Việt và góp phần thúc đẩy tương lai trong đó AI không còn là lựa chọn, mà trở thành điều kiện nền tảng cho tăng trưởng kinh tế và năng lực cạnh tranh quốc gia. B​ên cạnh việc khẳng định năng lực nội tại, hợp tác cùng Nvidia cho thấy FPT đã sớm tham gia vào hành trình mà nhiều quốc gia còn cân nhắc. Không xây dựng theo lối truyền thống, FPT AI Factory là nơi sản xuất ra chính năng lực trí tuệ nhân tạo, từ thu thập dữ liệu, huấn luyện mô hình, đến suy luận và vận hành. Chỉ sau một năm, mô hình này đã được hiện thực hoá bằng hạ tầng GPU hiệu suất cao, nền tảng no-code/low-code và hệ sinh thái mở giúp doanh nghiệp tiếp cận AI như một dịch vụ: không cần đầu tư phần cứng, không cần đội ngũ kỹ thuật riêng, nhưng vẫn tạo ra công cụ thông minh sát với nhu cầu thực tế. Đây không phải AI để trình diễn, mà là năng lực có thể triển khai trên quy mô lớn, đúng như tinh thần “make-in-Vietnam”, từ năng lực tính toán đến mô hình ngôn ngữ và giải pháp bản địa hóa. Một chuyên viên nhân sự có thể tạo chatbot trả lời câu hỏi về chính sách công ty, một trưởng phòng logistics có thể huấn luyện mô hình phân tích rủi ro tồn kho, một nhân viên CSKH có thể dùng AI để phân loại và phản hồi email. Họ không cần biết cách viết hàm loss hay chọn optimizer - những thứ từng là “bức tường kỹ thuật” ngăn phần lớn người dùng tiếp cận AI, mà chỉ cần có vấn đề thực tế và dữ liệu thật. Một trong những đặc trưng của nền tảng AI do FPT phát triển là khả năng thích ứng sâu với ngữ cảnh địa phương từ ngôn ngữ, hành vi người dùng đến cấu trúc nghiệp vụ. Các mô hình được huấn luyện trên dữ liệu chính quy tại từng thị trường mục tiêu, giúp hiểu chính xác sắc thái từ ngữ, quy trình vận hành và đặc thù ngành. Thay vì yêu cầu doanh nghiệp thay đổi hệ thống lõi, các dịch vụ AI được thiết kế để tương thích linh hoạt với hạ tầng sẵn có từ CRM, ERP đến các hệ thống nội bộ cho phép AI hoạt động như một phần mở rộng tự nhiên trong hệ sinh thái công nghệ hiện hữu. Chiến lược này giúp bảo toàn dữ liệu, rút ngắn thời gian triển khai và giữ vững quyền kiểm soát công nghệ tại chỗ - những yếu tố cốt lõi để xây dựng năng lực AI có chủ quyền, nhưng không giới hạn ở một quốc gia. Với kiến trúc mở và tư duy bản địa hóa, mô hình này có thể nhanh chóng nhân rộng sang các thị trường quốc tế với nhu cầu tương tự. Năng lực của FPT AI Factory còn được công nhận qua những chuẩn mực toàn cầu. Trên bảng xếp hạng TOP500 các siêu máy tính mạnh nhất thế giới (chuẩn LINPACK), hệ thống của FPT hiện xếp 38 tại Việt Nam và 36 tại Nhật Bản - tiền đề vững chắc để chinh phục các thị trường có yêu cầu cao về hiệu năng xử lý. Tầm vóc của một nhà máy AI cũng được thể hiện qua việc thu hút các đối tác toàn cầu đồng hành. Một trong những ví dụ tiêu biểu là LandingAI - công ty do Andrew Ng sáng lập, nổi tiếng với nền tảng Visual AI cho các doanh nghiệp. Trong quá trình mở rộng thị trường, LandingAI chọn sử dụng hạ tầng Metal Cloud từ FPT AI Factory để triển khai tác vụ suy luận hình ảnh. Nhờ đó, họ giảm đáng kể chi phí, rút ngắn thời gian triển khai mô hình từ vài tuần xuống còn vài ngày - yếu tố quan trọng với doanh nghiệp có nhu cầu mở rộng nhanh. Một năm không phải là khoảng thời gian dài trong ngành công nghệ, nhưng với AI thì mọi thứ thay đổi theo cấp số mũ, chừng đó thời gian đủ để xác lập hướng đi. Trong khi thế giới vẫn còn loay hoay, FPT chọn đặt cược sớm vào hạ tầng AI vận hành thực, để không chỉ bắt nhịp xu hướng mà còn tạo ra giá trị thật nhanh chóng, rõ ràng và chiến lược: Xây dựng AI theo cách phù hợp với thị trường bản địa và mở ra khả năng tự chủ trong một lĩnh vực được xem là “trò chơi quyền lực” của thế kỷ XXI. T​uyên bố sẽ xây dựng 5 nhà máy trí tuệ nhân tạo trên toàn cầu đến năm 2030 của FPT không mang tính khuếch trương, mà là cam kết đi đến cùng trong cuộc đua công nghệ: đầu tư vào hạ tầng AI mạnh mẽ và đồng thời xây dựng lực lượng nhân sự AI sẵn sàng như một năng lực thiết yếu. Ở phần “cứng” FPT đang sở hữu hệ thống tính toán AI mạnh hàng đầu khu vực, hợp tác cùng các đối tác toàn cầu như Nvidia, và liên tục mở rộng năng lực tại Việt Nam, Nhật Bản. Nhưng theo ông Trương Gia Bình - Chủ tịch HĐQT FPT - “thế giới đang thiếu nhân lực trầm trọng, nhưng đó lại là lợi thế của FPT”. Vì thế, phần "mềm" trong chiến lược này là đào tạo và phổ cập năng lực sử dụng và tích hợp AI rộng khắp từ sinh viên, kỹ sư, đến các chuyên gia vận hành trong doanh nghiệp. FPT xem đây là hành trình kết hợp giữa năng lực tính toán của máy và khả năng tư duy, thích nghi mạnh mẽ của con người để từ đó tạo ra các giải pháp mang tính đột phá. “Khi AI trở nên phổ cập, càng bình dân bao nhiêu thì nhu cầu về nhà máy AI sẽ càng lớn bấy nhiêu. Trong tương lai gần, chúng tôi không giới hạn ở hai nhà máy, vì rất nhiều tập đoàn trên thế giới đã đề xuất làm cùng FPT”, ông Bình chia sẻ thêm. Bắt đầu từ hạ tầng đến dữ liệu, trong khi thế giới đã bước vào cuộc đua mô hình hàng nghìn tỷ tham số, thì chỉ riêng việc huấn luyện một mô hình 32 tỷ tham số cũng cần khoảng 400 tỷ token - để so sánh thì khả năng xử lý ngôn ngữ của con người trong cả đời người chỉ tiếp cận được khoảng 50-100 triệu token. Trong bối cảnh dữ liệu số tại Việt Nam còn phân tán và thiếu cơ chế chia sẻ, đây là một thách thức không nhỏ cho hành trình xây dựng năng lực AI bản địa. Giải pháp nằm ở chính những dữ liệu đặc thù mà Việt Nam đang nắm giữ: y tế, giáo dục đến bảo hiểm. Khi số hóa được các lĩnh vực này, chúng ta có thể không chỉ tạo ra mô hình phản ánh thực tế địa phương, mà còn chủ động chăm sóc sức khỏe cộng đồng hay tối ưu các dịch vụ công. Tự chủ dữ liệu vì vậy không phải khẩu hiệu, mà là yêu cầu chiến lược quốc gia, cần hạ tầng số đủ mạnh, cơ chế chia sẻ dữ liệu minh bạch và cam kết xây dựng các nền tảng AI vì lợi ích người Việt. Dưới góc nhìn của ông Lê Hồng Việt - CEO FPT Smart Cloud, Tập đoàn FPT việc đầu tư ngay trên đất Việt không đơn thuần là xây dựng hạ tầng điện toán hiệu năng cao, mà là để giải quyết điểm nghẽn cốt lõi cho toàn thị trường, đưa AI ra khỏi không gian thử nghiệm, trở thành công cụ thiết thực cho doanh nghiệp. “AI Factory ra đời để làm cho AI trở nên dễ tiếp cận bởi mọi người, từ doanh nghiệp lớn đến startup nhỏ, các cơ sở nghiên cứu tại Việt Nam”, ông Việt nói. Theo ông Việt, với FPT, AI không chỉ là công cụ nâng năng suất nội bộ hay tạo giá trị cho khách hàng, mà còn là một sân chơi chiến lược để định vị năng lực trên bản đồ công nghệ toàn cầu. Tư duy AI-first đã nằm trong DNA của FPT từ rất sớm và đang trở thành kim chỉ nam cho các bước phát triển tiếp theo. Hạ tầng chỉ là điểm khởi đầu, vấn đề nằm ở khả năng chuyển giao công nghệ. Chính vì vậy, FPT chọn con đường đầu tư song song vừa đưa về Việt Nam các dòng chip tiên tiến nhất từ Nvidia, vừa phát triển công cụ giúp doanh nghiệp tinh chỉnh (fine-tune) mô hình riêng với chi phí thấp, vừa đào tạo đội ngũ vận hành và nghiên cứu chuyên sâu. Theo ông Việt, trước đây, việc fine-tune một mô hình có thể tiêu tốn hàng chục nghìn USD, thì nay với dịch vụ của FPT, doanh nghiệp có thể rút chi phí đó xuống còn vài trăm USD, thậm chí có thể sử dụng theo hình thức “pay as you go” - dùng bao nhiêu trả bấy nhiêu. Điều này mở ra khả năng tiếp cận công nghệ tiên tiến nhất cho cả doanh nghiệp nhỏ, trường đại học, tổ chức nghiên cứu… - những đối tượng vốn dễ bị bỏ lại phía sau trong cuộc chơi AI toàn cầu. Cùng lúc đó, FPT cũng không giấu tham vọng mở rộng mô hình AI Factory ra thị trường quốc tế, bắt đầu từ Nhật Bản - một trong những nền kinh tế có tốc độ số hóa doanh nghiệp cao, nhưng chưa có hạ tầng AI chuyên biệt tương xứng. Nối tiếp Nhật Bản, các thị trường mà FPT có thể tăng tốc sau đó là Malaysia, Hàn Quốc, châu Âu... “Chúng tôi tiếp cận thị trường Nhật Bản để đón đầu làn sóng ứng dụng AI tại đó. FPT sẽ xây dựng doanh nghiệp như một công ty Nhật thực thụ để thúc đẩy phát triển sovereign AI (AI có chủ quyền) tại Nhật Bản”, ông Việt chia sẻ. Với sự tham gia của các đối tác như Sumitomo và SBI Holdings, AI Factory tại Nhật không chỉ là bản sao của mô hình Việt Nam, mà là một thực thể được bản địa hóa - từ cơ cấu tổ chức đến hệ sinh thái tích hợp. Ở tầng chiến lược, ông Việt thẳng thắn nhìn nhận: “Chiến lược thúc đẩy AI có chủ quyền sẽ giúp Việt Nam tăng năng lực cạnh tranh quốc gia thông qua tăng năng suất lao động và tự động hóa”. Tại một quốc gia như Việt Nam, nơi dữ liệu ngày càng trở thành tài sản cốt lõi, việc phụ thuộc vào các nền tảng nước ngoài đồng nghĩa với mất đi khả năng kiểm soát và định đoạt giá trị số của chính mình. Do đó, AI có chủ quyền không phải là khái niệm lý tưởng, mà là năng lực phòng vệ kỹ thuật số, là cách để đảm bảo mỗi dòng dữ liệu được xử lý, lưu trữ và vận hành trên nền tảng do người Việt phát triển, vì lợi ích của người Việt. Tuy nhiên, nếu không có lực lượng nhân sự sẵn sàng, mọi công nghệ đều chỉ dừng ở hạ tầng và tập đoàn FPT ý thức rõ điều đó. “Đào tạo nhân sự ở các cấp khác nhau là điều quan trọng nhất trong quá trình chuyển đổi thông minh”, ông Lê Hồng Việt nhấn mạnh. FPT AI Factory là bài toán lớn, đồng thời cũng là sân chơi để FPT thu hút nhân tài, phát triển lực lượng lao động AI có tính sẵn sàng cao và nuôi dưỡng tư duy AI-first cho toàn hệ thống. Từ lãnh đạo doanh nghiệp (cấp độ 1), đến người lao động sử dụng AI như công cụ (cấp độ 2) và xa hơn là đào tạo kỹ sư AI (cấp độ 3), FPT đặt mục tiêu đào tạo 500.000 nhân lực AI trong 5 năm tới. Từ góc độ hạ tầng đến nhân lực, từ bài toán nội địa đến thế trận toàn cầu, FPT không đứng ngoài cuộc chơi AI. Họ chọn cách đầu tư, triển khai và để thực tế trả lời thay cho cam kết của mình. “Cái khác của FPT là chúng tôi không dùng AI để trình diễn, mà để triển khai được. Và chúng tôi dùng chính nền tảng này trong hoạt động vận hành của FPT”, ông Việt nhấn mạnh. Ở thời điểm mà mọi mô hình AI đều có thể được sao chép về mặt kỹ thuật, chính khả năng làm cho mô hình ấy hoạt động thực sự theo đúng bối cảnh người dùng mới là điểm khác biệt bền vững nhất và đó là điều mà FPT đang cố gắng từng bước định hình. Sau 1 năm ra mắt mô hình FPT AI Factory, FPT đang đặt nền móng cho một tương lai mà AI không chỉ là lợi thế cạnh tranh của doanh nghiệp, mà trở thành tiền đề cho năng lực cạnh tranh quốc gia. Hành trình ấy có thể không ngắn, nhưng với bước đi cụ thể, FPT đang khẳng định một điều quan trọng: Việt Nam có thể tự chủ về công nghệ và đón sóng ở những ngã rẽ chiến lược.

Hai nhà máy AI của FPT lọt TOP500 siêu máy tính mạnh nhất thế giới

18:12 24/06/2025
Hai nhà máy AI (AI Factory) do Tập đoàn FPT phát triển đã chính thức lọt TOP500 các siêu máy tính mạnh nhất thế giới, khẳng định năng lực vượt trội của FPT trong lĩnh vực trí tuệ nhân tạo (AI) và điện toán đám mây (Cloud). TOP500 là bảng xếp hạng uy tín toàn cầu về siêu máy tính hiệu năng cao (HPC) dựa trên chuẩn đo lường LINPACK – tiêu chuẩn đánh giá khả năng thực hiện các phép tính số học phức tạp của hệ thống trong mỗi giây (FLOPS).   Bảng xếp hạng TOP500 do ba nhà nghiên cứu nổi tiếng trong lĩnh vực HPC thành lập từ năm 1993 và công bố hai lần mỗi năm. TOP500 được các chính phủ, tổ chức khoa học và doanh nghiệp trên toàn thế giới xem như tiêu chuẩn đánh giá năng lực phần cứng, thiết kế hệ thống, tối ưu vận hành và khả năng xử lý các tác vụ AI và khoa học phức tạp quy mô lớn. Trong bảng xếp hạng TOP500 công bố tháng 6/2025, hai nhà máy AI của FPT đặt tại Nhật Bản và Việt Nam lần lượt giữ vị trí thứ 36 và 38. Thành tích này đưa AI Factory của FPT vào nhóm hạ tầng siêu máy tính hàng đầu thế giới, đồng thời xác lập FPT là nhà cung cấp dịch vụ AI Cloud thương mại số 1 tại Nhật Bản với siêu chip NVIDIA H200 Tensor Core GPU SXM5.  [caption id="attachment_63304" align="aligncenter" width="800"] Hai nhà máy AI của FPT giữ vị trí thứ 36 và 38 trong BXH TOP500 (Nguồn: TOP500.org)[/caption] Cụ thể: Nhà máy AI tại Nhật Bản: 146.304 lõi xử lý, hiệu năng đạt 49,85 PFlops (chuẩn LINPACK); Nhà máy AI tại Việt Nam: 142.240 lõi xử lý, hiệu năng đạt 46,65 PFlops. Cả hai nhà máy đều sử dụng mạng InfiniBand NDR400, hỗ trợ mở rộng linh hoạt từ một GPU đơn lẻ lên tới cụm hàng trăm máy chủ xử lý song song tại mỗi khu vực, đảm bảo hiệu năng cao và độ trễ thấp khi triển khai các tác vụ AI, HPC quy mô lớn. Việc lọt vào TOP500 lần thứ 65 không chỉ khẳng định sức mạnh tính toán và năng lực kỹ thuật của AI Factory FPT, mà còn cho thấy chất lượng dịch vụ đạt chuẩn quốc tế, sẵn sàng đáp ứng nhu cầu nghiên cứu, phát triển và triển khai giải pháp AI của các tổ chức, doanh nghiệp và cá nhân toàn cầu. Đây cũng là dấu mốc đưa Việt Nam lần đầu tiên vào nhóm 15 quốc gia AI hàng đầu thế giới, cùng các cường quốc như Mỹ, Trung Quốc, Nhật Bản, Đức và Pháp - minh chứng cho nỗ lực của FPT trong nâng cao vị thế công nghệ quốc gia. FPT đặt mục tiêu trong 5 năm tới sẽ phát triển thêm 3 nhà máy AI trên toàn cầu, góp phần đưa Việt Nam trở thành quốc gia dẫn đầu khu vực về hạ tầng tính toán AI. “Ra đời với triết lý ‘Build Your Own AI’, FPT AI Factory không chỉ là bước tiến về hạ tầng điện toán hiệu năng cao mà còn giải quyết điểm nghẽn của thị trường: đưa AI trở nên dễ tiếp cận và ứng dụng trong mọi lĩnh vực. Với nền tảng này, mọi tổ chức, doanh nghiệp hay cá nhân - không chỉ tại Việt Nam, Nhật Bản mà trên toàn cầu - đều có thể chủ động phát triển AI phù hợp, tạo lợi thế cạnh tranh riêng và thúc đẩy chuyển đổi số toàn diện”, ông Lê Hồng Việt, CEO FPT Smart Cloud, Tập đoàn FPT cho biết. [caption id="attachment_63358" align="aligncenter" width="800"] Nhà máy AI đa quốc gia của FPT đạt chuẩn quốc tế, đáp ứng nhu cầu phát triển AI trên toàn cầu (Nguồn: FPT)[/caption] Ra mắt từ tháng 11/2024, AI Factory của FPT đã được các công ty công nghệ hàng đầu như LandingAI lựa chọn để phát triển các giải pháp AI tiên tiến, góp phần tạo ra giá trị thực tiễn cho xã hội. FPT là tập đoàn công nghệ toàn cầu, tiên phong trong chuyển đổi số và cung cấp giải pháp công nghệ, viễn thông, giáo dục. AI là công nghệ mũi nhọn trong chiến lược của FPT, được tích hợp vào mọi sản phẩm, giải pháp thuộc hệ sinh thái Made by FPT, mang lại lợi ích thiết thực cho người dùng. FPT đang đầu tư toàn diện vào AI với nhân lực, R&D, cơ sở hạ tầng và đối tác chiến lược (NVIDIA, Mila, AITOMATIC…) nhằm hướng tới mục tiêu đạt 5 tỷ USD doanh thu dịch vụ CNTT từ thị trường nước ngoài vào năm 2030 và nâng tầm vị thế trong nhóm doanh nghiệp CNTT tỷ đô toàn cầu. Thông tin chi tiết tại https://fpt.com/

FPT AI Factory: BỘ GIẢI PHÁP AI mạnh mẽ với siêu chip NVIDIA H100 và H200

13:06 10/06/2025
Trong thời đại trí tuệ nhân tạo (AI) đang bùng nổ, Việt Nam ghi dấu ấn mạnh mẽ trên bản đồ công nghệ toàn cầu thông qua sự hợp tác chiến lược giữa Tập đoàn FPT và NVIDIA – nhà cung cấp giải pháp điện toán hiệu năng cao hàng đầu thế giới để phát triển giải pháp FPT AI Factory, một hệ sinh thái AI toàn diện dành cho doanh nghiệp, được phát triển trên nền tảng siêu chip NVIDIA H100 và NVIDIA H200, hiện đại bậc nhất thế giới trong công nghệ chip trí tuệ nhân tạo. Video: Ông Trương Gia Bình (Chủ tịch Tập đoàn FPT) chia sẻ hợp tác chiến lược với NVIDIA trong việc phát triển các ứng dụng AI toàn diện cho doanh nghiệp Theo Báo Chính Phủ (2024), ông Trương Gia Bình – Chủ tịch Hội đồng Quản trị kiêm Nhà sáng lập Tập đoàn FPT – nhấn mạnh rằng FPT đang hướng đến mục tiêu nâng cao năng lực nghiên cứu và phát triển công nghệ, đồng thời xây dựng một hệ sinh thái toàn diện các sản phẩm và dịch vụ tiên tiến, dựa trên nền tảng AI và Cloud. Hệ sinh thái này bao gồm từ hạ tầng công nghệ hiện đại, đội ngũ chuyên gia hàng đầu, đến năng lực hiểu biết sâu sắc về từng lĩnh vực chuyên môn. "Chúng tôi cam kết đưa Việt Nam trở thành Trung tâm phát triển AI của thế giới". 1. Tổng quan về hai siêu chip NVIDIA H100 & H200: Bước Tiến Mới Trong Điện Toán AI 1.1 Thông tin về Chip NVIDIA H100 (GPU NVIDIA H100 Tensor Core) NVIDIA H100 Tensor Core GPU là một kiến trúc đột phá, được xây dựng trên nền tảng Kiến trúc Hopper™ (kiến trúc bộ xử lý đồ họa GPU do Nvidia phát triển). Đây không chỉ là một con chip xử lý đồ họa thông thường, mà là một cỗ máy được tối ưu hóa đặc biệt cho Học sâu (Deep Learning) và các ứng dụng Trí tuệ nhân tạo (Artificial Intelligence). [caption id="attachment_62784" align="aligncenter" width="1200"] Chip NVIDIA H100 (GPU NVIDIA H100 Tensor Core)[/caption] Siêu chip NVIDIA H100 được chế tạo bằng quy trình TSMC N4 tiên tiến, tích hợp đến 80 tỷ bóng bán dẫn. Sức mạnh xử lý của nó đến từ việc trang bị tối đa 144 bộ xử lý đa luồng (SMs - Streaming Multiprocessors), được thiết kế để xử lý các tác vụ AI phức tạp. Điểm đặc biệt là NVIDIA Hopper H100 có thể phát huy hiệu suất tối ưu khi sử dụng ổ cắm SXM5. Nhờ băng thông bộ nhớ tăng cường mà chuẩn SXM5 cung cấp, H100 mang lại hiệu năng vượt trội hơn đáng kể so với khi được triển khai qua các ổ cắm PCIe thông thường, đặc biệt quan trọng cho các ứng dụng của các doanh nghiệp đòi hỏi lượng dữ liệu lớn và tốc độ xử lý cao trong AI. [caption id="attachment_62786" align="aligncenter" width="1579"] GPU NVIDIA H100 Tensor Core: Khả năng tăng tốc huấn luyện AI nhanh hơn 9 lần và suy luận AI nhanh hơn 30 lần so với thế hệ A100 trước đó trong các mô hình ngôn ngữ lớn[/caption] NVIDIA đã tạo ra hai phiên bản đóng gói khác nhau về yếu tố hình thức (form factor) từ chip H100 là: H100 SXM và H100 NVL nhằm đáp ứng nhu cầu của các doanh nghiệp hiện nay trên thị trường, cụ thể về ứng dụng của hai sản phẩm này: Phiên bản H100 SXM: Dành cho các hệ thống chuyên dụng, siêu máy tính, hoặc các trung tâm dữ liệu AI lớn muốn khai thác toàn bộ tiềm năng của GPU với khả năng mở rộng NVLink tối đa. Đây là lựa chọn lý tưởng cho các tác vụ như: huấn luyện mô hình AI lớn (LLMs, Transformer), ứng dụng HPC kết hợp AI, hoặc mô phỏng khoa học, y sinh và tài chính ở cấp độ exascale. Phiên bản H100 NVL: Phiên bản này tối ưu cho các máy chủ tiêu chuẩn, dễ dàng tích hợp vào hạ tầng hiện có với chi phí và độ phức tạp thấp hợp so với hệ thống SX chuyên biệt, phù hợp với các doanh nghiệp cần triển khai suy luận AI thời gian thực, xử lý dữ liệu lớn, NLP, thị giác máy tính, hoặc các ứng dụng AI trong môi trường hybrid cloud. Thông số kỹ thuật  H100 SXM H100 NVL FP64 34 teraFLOPS 30 teraFLOP Lõi Tensor FP64 (FP64 Tensor Core) 67 teraFLOPS 60 teraFLOP FP32 67 teraFLOPS 60 teraFLOP Lõi Tensor TF32 * (TF32 Tensor Core*) 989 teraFLOPS 835 teraFLOP Lõi Tensor BFLOAT16 * (BFLOAT16 Tensor Core*) 1.979 teraFLOPS 1.671 teraFLOPS Lõi Tensor FP16 * (FP16 Tensor Core*) 1.979 teraFLOPS 1.671 teraFLOPS Lõi Tensor FP8 * (FP8 Tensor Core*) 3.958 teraFLOPS 3.341 teraFLOPS Lõi Tensor INT8 * (INT8 Tensor Core*) 3.958 TOPS 3.341 TOPS Bộ nhớ GPU (GPU Memory) 80GB 94GB Băng thông bộ nhớ GPU (GPU Memory Bandwidth) 3,35TB/giây 3,9TB/giây Bộ giải mã (Decoders) 7 NVDEC 7 JPEG 7 NVDEC 7 JPEG Công suất thiết kế nhiệt tối đa (TDP) Lên đến 700W (có thể cấu hình) 350 - 400W (có thể cấu hình) GPU đa phiên bản (Multi-Instance GPUs) Tối đa 7 MIGS @ 10GB mỗi MIGS Tối đa 7 MIGS @ 12GB mỗi MIGS Yếu tố hình thức (Form Factor) SXM PCIe khe cắm kép làm mát bằng không khí Kết nối (Interconnect) NVIDIA NVLink™: 900GB/giây PCIe Gen5: 128GB/giây NVIDIA NVLink: 600GB/giây PCIe Gen5: 128GB/giây Tùy chọn máy chủ (Server Options) Đối tác NVIDIA HGX H100 và NVIDIA - Certified Systems ™ với 4 hoặc 8 GPU NVIDIA DGX H100 với 8 GPU Đối tác và Hệ thống được NVIDIA chứng nhận với 1 – 8 GPU NVIDIA AI Doanh nghiệp (NVIDIA AI Enterprise) Bổ sung Đã bao gồm Bảng 1.1: Bảng thông số kỹ thuật của hai form factors chip H100: H100 SXM và H100 NVL 1.2 Thông tin về Chip NVIDIA H200 (GPU NVIDIA H200 Tensor Core) [caption id="attachment_62787" align="aligncenter" width="1200"] Thông tin về Chip NVIDIA H200 (GPU NVIDIA H200 Tensor Core) bao gồm cả hai form factor: H200 SXM và H200 NVL[/caption] Kế thừa và phát triển từ kiến trúc Hopper™, NVIDIA H200 Tensor Core GPU là phiên bản nâng cấp mạnh mẽ của H100, được NVIDIA giới thiệu là chip AI mạnh nhất thế giới với khả năng cho ra kết quả nhanh gấp đôi H100, tại thời điểm công bố vào tháng 11 2023. H200 được thiết kế để xử lý các mô hình AI lớn hơn và phức tạp hơn nữa, đặc biệt là các mô hình AI tạo sinh và mô hình ngôn ngữ lớn (LLMs). Tương tự như superchip H100, NVIDIA cũng cung cấp hai form factors khác nhau cho sản phẩm H200 Tensor Core của mình là hai phiên bản dành cho doanh nghiệp: H200 SXM và H200 NVL. NVIDIA H200 SXM: Được thiết kế để đẩy mạnh các tác vụ AI tạo sinh và điện toán hiệu năng cao (HPC), đặc biệt với khả năng xử lý lượng dữ liệu khổng lồ. Đây là lựa chọn lý tưởng cho các hệ thống chuyên dụng, siêu máy tính và các trung tâm dữ liệu AI lớn muốn khai thác toàn bộ tiềm năng của GPU với khả năng mở rộng NVLink tối đa. Doanh nghiệp nên sử dụng H200 SXM cho các trường hợp: huấn luyện các mô hình AI cực lớn, Ứng dụng HPC đòi hỏi nhiều bộ nhớ và triển khai AI tạo sinh (Generative AI) cấp độ doanh nghiệp. NVIDIA H200 NVL: Được tối ưu hóa để đưa khả năng tăng tốc AI vào các máy chủ doanh nghiệp tiêu chuẩn, dễ dàng tích hợp vào hạ tầng hiện có. Phiên bản này đặc biệt phù hợp với các doanh nghiệp có giới hạn về không gian và cần các thiết kế tủ rack tản nhiệt bằng không khí với cấu hình linh hoạt, mang lại khả năng tăng tốc cho mọi khối lượng công việc AI và HPC bất kể quy mô. Các trường ứng dụng H200 NVL trong doanh nghiệp: suy luận AI thời gian thực, triển khai AI trong môi trường hybrid cloud, xử lý dữ liệu lớn và NLP (Xử lý ngôn ngữ tự nhiên). Thông số kỹ thuật H200 SXM H200 NVL FP64 34 TFLOPS 30 TFLOPS Lõi Tensor FP64 (FP64 Tensor Core) 67 TFLOPS 60 TFLOPS FP32 67 TFLOPS 60 TFLOPS Lõi Tensor TF32² (TF32 Tensor Core²) 989 TFLOPS 835 TFLOPS Lõi Tensor BFLOAT16² (BFLOAT16 Tensor Core²) 1.979 TFLOPS 1.671 TFLOPS Lõi Tensor FP16² (FP16 Tensor Core²) 1.979 TFLOPS 1.671 TFLOPS Lõi Tensor FP8² (FP8 Tensor Core²) 3.958 TFLOPS 3.341 TFLOPS Lõi Tensor INT8² (INT8 Tensor Core²) 3.958 TFLOPS 3.341 TFLOPS Bộ nhớ GPU (GPU Memory) 141GB 141GB Băng thông bộ nhớ GPU (GPU Memory Bandwidth) 4,8TB/giây 4,8TB/giây Bộ giải mã (Decoders) 7 NVDEC 7 JPEG 7 NVDEC 7 JPEG Điện toán bảo mật (Confidential Computing) Được hỗ trợ Được hỗ trợ Công suất thiết kế nhiệt tối đa (TDP) Lên đến 700W (có thể cấu hình) Lên đến 600W (có thể cấu hình) GPU đa phiên bản (Multi-Instance GPUs) Tối đa 7 MIG @18GB mỗi MIG Tối đa 7 MIG @16,5 GB mỗi MIG Yếu tố hình thức (Form Factor) SXM PCIe làm mát bằng không khí khe cắm kép Kết nối (Interconnect) NVIDIA NVLink™: 900GB/giây PCIe Gen5: 128GB/giây Cầu nối NVIDIA NVLink 2 hoặc 4 chiều: 900GB/giây cho mỗi GPU PCIe Gen5: 128GB/giây Tùy chọn máy chủ (Server Options) Đối tác NVIDIA HGX™ H200 và NVIDIA-Certified Systems™ với 4 hoặc 8 GPU Đối tác NVIDIA MGX™ H200 NVL và Hệ thống được chứng nhận NVIDIA với tối đa 8 GPU NVIDIA AI Doanh nghiệp (NVIDIA AI Enterprise) Bổ sung Đã bao gồm Bảng 1.2: Bảng thông số kỹ thuật của hai form là H200 SXM và H200 NVL 1.3 So sánh chi tiết giữa hai siêu chip NVIDIA H100 và NVIDIA H200 [caption id="attachment_62788" align="aligncenter" width="1200"] Sự khác nhau giữa hai Super Chip: H100 và H200 của các form factor SXM - NVL, đặc biệt trong xây dựng hạ tầng và ứng dụng AI cho doanh nghiệp[/caption] Dựa trên thông tin về hai sản phẩm NVIDIA H100 (H100 SXM - H100 NVL) và H200 (H200 SXM - H200 NVL) mà FPT Cloud đã cung cấp, đây là bảng so sánh chi tiết giữa NVIDIA H100 & H200 mà bạn có thể tham khảo: Đặc điểm NVIDIA H100 (SXM) NVIDIA H100 (NVL) NVIDIA H200 (SXM) NVIDIA H200 (NVL) Kiến trúc (Architecture) Hopper™ Hopper™ Kế thừa và phát triển từ Hopper™ Kế thừa và phát triển từ Hopper™ Quy trình chế tạo (Manufacturing Process) TSMC N4 (tích hợp 80 tỷ bóng bán dẫn) TSMC N4 (tích hợp 80 tỷ bóng bán dẫn) Phiên bản nâng cấp từ H100 Phiên bản nâng cấp từ H100 FP64 34 teraFLOPS 30 teraFLOP 34 TFLOPS 30 TFLOPS Lõi Tensor FP64 (FP64 Tensor Core) 67 teraFLOPS 60 teraFLOP 67 TFLOPS 60 TFLOPS FP32 67 teraFLOPS 60 teraFLOP 67 TFLOPS 60 TFLOPS Lõi Tensor TF32 (TF32 Tensor Core) 989 teraFLOPS 835 teraFLOP 989 TFLOPS 835 TFLOPS Lõi Tensor BFLOAT16 (BFLOAT16 Tensor Core) 1.979 teraFLOPS 1.671 teraFLOPS 1.979 TFLOPS 1.671 TFLOPS Lõi Tensor FP16 (FP16 Tensor Core) 1.979 teraFLOPS 1.671 teraFLOPS 1.979 TFLOPS 1.671 TFLOPS Lõi Tensor FP8 (FP8 Tensor Core) 3.958 teraFLOPS 3.341 teraFLOPS 3.958 TFLOPS 3.341 TFLOPS Lõi Tensor INT8 (INT8 Tensor Core) 3.958 TFLOPS 3.341 TFLOPS 3.958 TFLOPS 3.341 TFLOPS Bộ nhớ GPU (GPU Memory) 80GB 94GB 141GB 141GB Băng thông bộ nhớ GPU (GPU Memory Bandwidth) 3.35TB/giây 3.9TB/giây 4.8TB/giây 4.8TB/giây Bộ giải mã (Decoders) 7 NVDEC, 7 JPEG 7 NVDEC, 7 JPEG 7 NVDEC, 7 JPEG 7 NVDEC, 7 JPEG Điện toán bảo mật (Confidential Computing) Không có thông tin về Confidential Computing Không có thông tin về Confidential Computing Được hỗ trợ Được hỗ trợ TDP tối đa (Max Thermal Design Power - TDP) Lên đến 700W (có thể cấu hình) 350 - 400W (có thể cấu hình) Lên đến 700W (có thể cấu hình) Lên đến 600W (có thể cấu hình) GPU đa phiên bản (MIG) Tối đa 7 MIGs @ 10GB mỗi MIGs Tối đa 7 MIGs @ 12GB mỗi MIGs Tối đa 7 MIG @18GB mỗi MIG Tối đa 7 MIG @16.5 GB mỗi MIG Yếu tố hình thức (Form Factor) SXM PCIe, khe cắm kép làm mát bằng không khí SXM PCIe, khe cắm kép làm mát bằng không khí Kết nối (Interconnect) NVIDIA NVLink™: 900GB/giây; PCIe Gen5: 128GB/giây NVIDIA NVLink: 600GB/giây; PCIe Gen5: 128GB/giây NVIDIA NVLink™: 900GB/giây; PCIe Gen5: 128GB/giây Cầu nối NVIDIA NVLink 2 hoặc 4 chiều: 900GB/giây cho mỗi GPU; PCIe Gen5: 128GB/giây Tùy chọn máy chủ (Server Options) Đối tác NVIDIA HGX H100 và NVIDIA-Certified Systems™ với 4 hoặc 8 GPU; NVIDIA DGX H100 với 8 GPU Đối tác và Hệ thống được NVIDIA chứng nhận với 1–8 GPU Đối tác NVIDIA HGX™ H200 và NVIDIA-Certified Systems™ với 4 hoặc 8 GPU Đối tác NVIDIA MGX™ H200 NVL và Hệ thống được chứng nhận NVIDIA với tối đa 8 GPU NVIDIA AI Enterprise Bổ sung Đã bao gồm Bổ sung Đã bao gồm Bảng 1.3: So sánh chi tiết giữa NVIDIA H100 (SXM - NVL) và NVIDIA H200 (SXM - NVL) 2. FPT hợp tác chiến lược cùng NVIDIA trong việc xây dựng các giải pháp FPT AI Factory đầu tiên tại Việt Nam Sự kết hợp mang tầm chiến lược của công ty công nghệ hàng đầu NVIDIA và kinh nghiệm triển khai giải pháp cho các doanh nghiệp của FPT đã tạo nên một sức mạnh cộng hưởng trong việc phát triển các sản phẩm AI, tiên phong tại thị trường Việt Nam. NVIDIA không chỉ cung cấp các siêu chip GPU NVIDIA H100 và H200 mà còn chia sẻ những kiến thức chuyên sâu về kiến trúc AI. Đối với Tập đoàn FPT, FPT Smart Cloud – sẽ là đơn vị tiên phong cung cấp các dịch vụ điện toán đám mây (cloud computing) được xây dựng trên nền tảng của nhà máy AI này, giúp các doanh nghiệp Việt Nam dễ dàng tiếp cận và khai thác sức mạnh của AI. [caption id="attachment_62791" align="aligncenter" width="2560"] Tập đoàn FPT là đối tác chiến lược của NVIDIA trong việc xây dựng và phát triển các giải pháp FPT AI Factory: FPT AI Infrastructure, FPT AI Studio và FPT AI Inference[/caption] Đặc biệt, FPT sẽ tập trung vào việc phát triển các mô hình AI tạo sinh (Generative AI Models), mang đến khả năng sáng tạo nội dung, tự động hóa quy trình và giải quyết các bài toán phức tạp mà trước đây khó có thể thực hiện. Trong thời đại của các công nghệ trí tuệ nhân tạo AI, các doanh nghiệp B2B thuộc mọi lĩnh vực như: Tài chính, Chứng khoán, Bảo hiểm, đến Sản xuất và Giáo dục…  đều đứng trước nhu cầu cấp thiết về một đối tác tin cậy để bứt phá chuyển đổi số. FPT AI Factory của FPT Cloud chính là giải pháp tối ưu, mang đến những lợi thế vượt trội sau cho doanh nghiệp của bạn: Cơ sở hạ tầng AI hàng đầu: Với việc sử dụng trực tiếp các siêu chip NVIDIA H100 và H200, FPT AI Factory mang đến một nền tảng điện toán AI mạnh mẽ bậc nhất, đảm bảo hiệu suất và tốc độ vượt trội cho mọi tác vụ AI. Hệ sinh thái dịch vụ đa dạng: FPT AI Factory không chỉ là phần cứng, mà là một hệ sinh thái toàn diện, được thiết kế để hỗ trợ doanh nghiệp từ khâu xây dựng, huấn luyện đến vận hành các giải pháp AI. Tối ưu chi phí: Thay vì đầu tư hàng triệu đô la vào cơ sở hạ tầng AI phức tạp, các doanh nghiệp có thể tận dụng FPT AI Factory dưới dạng dịch vụ đám mây, giúp tối ưu hóa chi phí đầu tư ban đầu và chi phí vận hành. Bảo mật, tuân thủ và tích hợp: FPT cam kết mang đến một môi trường AI an toàn, tuân thủ các tiêu chuẩn bảo mật quốc tế, đồng thời dễ dàng tích hợp với các hệ thống hiện có của doanh nghiệp. [caption id="attachment_62792" align="aligncenter" width="1594"] Những ưu điểm vượt trội của giải pháp FPT AI Factory dành cho các doanh nghiệp thuộc tất cả các lĩnh vực khác nhau trên thị trường[/caption]   3. Kiến tạo hệ sinh thái toàn diện FPT AI Factory (FPT AI Infrastructure, FPT AI Studio và FPT AI Inference) Vững Mạnh Với Super Chip NVIDIA H100 & H200 FPT AI Factory hiện đang cung cấp bộ ba giải pháp AI được phát triển dựa trên công nghệ lõi là super chip NVIDIA H100 & NVIDIA H200 cho các doanh nghiệp bao gồm: FPT AI Infrastructure (Cơ sở hạ tầng AI của FPT): Đây là nhóm sản phẩm thuộc hạ tầng của doanh nghiệp. FPT AI Studio (Môi trường phát triển AI của FPT): Đây là nhóm sản phẩm thuộc nền tảng về công cụ và dịch vụ dành cho doanh nghiệp. FPT AI Inference (Suy luận AI của FPT): Đây là nhóm sản phẩm thuộc nền tảng về mô hình AI (Artificial Intelligence)/ML (Machine Learning) cho doanh nghiệp. Video: Bộ ba giải pháp AI của FPT: FPT AI Infrastructure, FPT AI Studio và FPT AI Inference cho phép doanh nghiệp xây dựng, huấn luyện và vận hành các giải pháp AI một cách đơn giản, dễ dàng và hiệu quả 3.1 Giải pháp FPT AI Infrastructure [caption id="attachment_62793" align="aligncenter" width="1598"] Giải pháp FPT AI Infrastructure giúp doanh nghiệp triển khai hệ thống hạ tầng siêu tính toán, phát triển các giải pháp AI và dễ dàng mở rộng theo nhu cầu[/caption] FPT AI Infrastructure là nền tảng cơ sở hạ tầng điện toán đám mây mạnh mẽ, được tối ưu hóa đặc biệt cho các tác vụ AI. Đây là nơi cung cấp sức mạnh tính toán vượt trội từ các GPU NVIDIA H100 và H200, cho phép doanh nghiệp xây dựng hạ tầng siêu tính toán, dễ dàng truy cập và sử dụng tài nguyên để huấn luyện các mô hình AI một cách nhanh chóng và có thể linh hoạt mở rộng theo nhu cầu của mình bằng các công nghệ như: Meta Cloud, GPU Virtual Machine, Managed CPU Cluster và GPU Container. Đăng ký FPT AI Infrastructure để xây dựng và phát triển hạ tầng mạnh mẽ cho doanh nghiệp của bạn ngay hôm nay! 3.2 Sản phẩm AI Studio được phát triển bởi FPT Cloud [caption id="attachment_62794" align="aligncenter" width="1621"] Sản phẩm FPT AI Studio giúp doanh nghiệp xử lý dữ liệu, phát triển, đào tạo, đánh giá và triển khai các mô hình trí tuệ nhân tạo và học máy theo nhu cầu[/caption] Sau khi đã xây dựng được hệ thống hạ tầng với công nghệ GPU tiên tiến thì tiếp theo doanh nghiệp cần xây dựng và phát triển các mô hình trí tuệ nhân tạo và học máy cho riêng mình nhằm phục vụ cho những nhu cầu riêng biệt trong khâu vận hành và ứng dụng khác nhau thì FPT AI Studio chính là giải pháp tối ưu dành cho doanh nghiệp. FPT AI Studio là một môi trường phát triển AI toàn diện, cung cấp đầy đủ các công cụ và dịch vụ hỗ trợ các doanh nghiệp trong quy trình xử lý dữ liệu, phát triển mô hình, đào tạo, đánh giá và triển khai các mô hình AI/ML thực tế theo nhu cầu thông qua các công nghệ hiện đại và tiên tiến: Data Hub, AI Notebook, Model PRe-training, Model Fine-tuning và Model Hub. Đăng ký để bắt đầu xây dựng và triển khai mô hình AI và Machine Learning dành cho doanh nghiệp của bạn ngay hôm nay! 3.3 Dịch vụ AI Inference của FPT [caption id="attachment_62795" align="aligncenter" width="1708"] Dịch vụ FPT AI Inference giúp nâng cao khả năng suy luận cho mô hình AI và Machine Learning của doanh nghiệp[/caption] Khi mô hình AI hay Machine Learning của doanh nghiệp đã được huấn luyện dựa trên dữ liệu nội bộ và các dữ liệu quan trọng khác, việc triển khai và vận hành nó trong môi trường thực tế đòi hỏi một giải pháp hiệu quả. FPT AI Inference chính là lựa chọn thông minh dành cho doanh nghiệp của bạn. Đây là giải pháp được tối ưu hóa để cung cấp tốc độ suy luận (inference) cao và độ trễ thấp, FPT AI Inference đảm bảo các mô hình AI của bạn có thể hoạt động nhanh chóng và chính xác trong các ứng dụng thực tế như trợ lý ảo, dịch vụ tư vấn khách hàng, hệ thống khuyến nghị, nhận diện hình ảnh, hay xử lý ngôn ngữ tự nhiên thông qua các công nghệ tiên tiến: Model Servering và Model-as-a-Service. Đây là mảnh ghép cuối cùng trong bộ giải pháp FPT AI Factory giúp doanh nghiệp đưa AI vào ứng dụng thực tiễn, mang lại giá trị kinh doanh ngay lập tức. Nâng cao khả năng suy luận và ứng dụng thực tế cho mô hình AI của doanh nghiệp bạn ngay hôm nay cùng FPT AI Inference! 4. Ưu đãi độc quyền dành riêng cho khách hàng đăng ký trải nghiệm FPT AI Factory tại FPT Cloud [caption id="attachment_62796" align="aligncenter" width="1460"] Quyền lợi đặc biệt dành cho các doanh nghiệp khi đăng ký sử dụng dịch vụ FPT AI Factory trong thời gian sớm nhất[/caption] Những ưu đãi độc quyền mà FPT Cloud dành riêng cho bạn khi đăng ký trải nghiệm sớm bộ ba giải pháp toàn diện Nhà máy AI: FPT AI Infrastructure, FPT AI Studio và FPT AI Inference ngay hôm nay: Ưu tiên trải nghiệm các dịch vụ của FPT AI Infrastructure với mức giá ưu đãi: Tiết kiệm chi phí đáng kể khi tiếp cận cơ sở hạ tầng, bộ công cụ và ứng dụng AI hiện đại nhất thế giới ngay tại Việt Nam. Cung cấp quyền truy cập, sử dụng sớm các tính năng cao cấp của FPT AI Factory: Doanh nghiệp của bạn luôn là đơn vị tiên phong và dẫn đầu với những công nghệ và công cụ AI mới nhất trong thời đại chuyển đổi số. Nhận tín dụng Cloud để trải nghiệm hệ sinh thái AI và Cloud đa dạng: Doanh nghiệp của bạn có thể trải nghiệm các sản phẩm và dịch vụ khác của FPT Cloud nhằm nâng cao hiệu suất vận hành của mình như: FPT Backup Services, FPT Disaster Recovery và FPT Object Storage. Nhận tư vấn chuyên sâu từ các chuyên gia AI & Cloud giàu kinh nghiệm: Các chuyên gia AI và Cloud tại FPT sẽ hỗ trợ doanh nghiệp trong việc ứng dụng và vận hành bộ ba giải pháp FPT AI Factory vào trong quy trình thực tế của doanh nghiệp để mang lại hiệu quả kinh doanh tức thì. Đăng ký ngay để nhận tư vấn chuyên sâu về giải pháp FPT AI Factory từ đội ngũ chuyên gia AI & Cloud giàu kinh nghiệm của FPT Cloud! [caption id="attachment_62797" align="aligncenter" width="1078"] Form đăng ký nhận tư vấn chuyên sâu của chuyên gia AI & Cloud về bộ ba giải pháp FPT AI Factory dành cho doanh nghiệp[/caption]

LandingAI – ông lớn ngành công nghệ agentic vision từ silicon valley – tăng tốc phát triển nền tảng visual AI với FPT AI Factory

17:18 03/06/2025
LandingAI, công ty dẫn đầu lĩnh vực công nghệ thị giác cho agentic AI (agentic vision) tại thung lũng Silicon do Tiến sĩ Andrew Ng sáng lập, đã khai thác FPT AI Factory nhằm thúc đẩy quá trình phát triển các công cụ như Agentic Document Extraction, Agentic Object Detection và VisionAgent. Theo đó, LandingAI sử dụng Metal Cloud, hạ tầng được trang bị siêu chip NVIDIA H100 Tensor Core GPU, đáp ứng nhu cầu ngày càng tăng về năng lực tính toán hiệu năng cao, khả năng mở rộng và hiệu suất vận hành. LandingAI đang tái định hình lĩnh vực Visual Intelligence (Trí tuệ thị giác) với bộ sản phẩm đột phá, ứng dụng khung tác nhân AI giúp người dùng giải quyết các bài toán thị giác phức tạp với dữ liệu phi cấu trúc như hình ảnh và văn bản. Hệ thống có khả năng tự động lựa chọn và phối hợp các mô hình thị giác, đồng thời tạo ra mã nguồn giúp tự động hóa các tác vụ tương tự trong tương lai. Quá trình phát triển nền tảng Visual AI đặt ra bài toán về tài nguyên tính toán hiệu năng cao để tinh chỉnh các mô hình tác nhân AI, vận hành các chu trình học tăng cường và cải thiện hiệu suất liên tục. Đồng thời rút ngắn chu kì thử nghiệm và cải tiến sản phẩm nhằm bắt kịp xu hướng đổi mới công nghệ. Giải quyết các thách thức về năng lực tính toán với Metal Cloud FPT AI Factory cung cấp cơ sở hạ tầng cần thiết giúp thúc đẩy phát triển nền tảng Visual AI và giải quyết những vấn đề hiệu suất. Thông qua hợp tác với FPT, LandingAI được tiếp cận Metal Cloud - hạ tầng AI hiệu suất cao được trang bị chip NVIDIA H100 GPU, đi kèm với các cam kết SLA nghiêm ngặt và sự hỗ trợ tận tình từ các chuyên gia FPT. Các chip GPU tiên tiến cung cấp năng lực tính toán mạnh mẽ cho việc tinh chỉnh có giám sát và học tăng cường ở quy mô lớn, từ đó giúp phát triển mô hình nhanh chóng và hiệu quả. Nhờ khả năng tích hợp mượt mà cùng quy trình thiết lập tối giản, LandingAI có thể nhanh chóng khai thác sức mạnh của chip H100 trong chuỗi huấn luyện, đồng thời tăng tốc quá trình thử nghiệm kiến trúc mô hình và hành vi của hệ thống tác nhân AI với tốc độ và hiệu suất chưa từng có. Bên cạnh đó, LandingAI có thể dễ dàng mở rộng năng lực tính toán mà vẫn tối ưu chi phí vận hành với mức giá cạnh tranh của bộ giải pháp FPT AI Factory. Các lợi ích nổi bật: Cải thiện rõ rệt khả năng xử lý đa dạng tác vụ thị giác với độ ổn định tốt giúp đảm bảo hệ thống hoạt động liên tục Triển khai các tính năng dành cho người dùng nhanh gấp 3 lần “Khi LandingAI đẩy mạnh đa dạng hóa các giải pháp ứng dụng công nghệ agentic vision, FPT AI Factory mang đến hạ tầng mạnh mẽ, linh hoạt để phát triển và triển khai AI quy mô lớn,” ông Dan Maloney, CEO của LandingAI, chia sẻ. “Sự ổn định và linh hoạt của hệ thống đã giúp chúng tôi tối ưu hóa quy trình phát triển Visual AI, rút ngắn đáng kể thời gian hoàn thiện sản phẩm. Nhờ đó, chúng tôi có thể cải thiện rõ rệt hiệu quả vận hành trong môi trường sản xuất, đồng thời tiết kiệm chi phí. Ngoài ra, sự hỗ trợ nhanh chóng, tận tâm từ đội ngũ FPT cũng giúp việc tích hợp trở nên thuận lợi và dễ dàng”. Môi trường thử nghiệm trích xuất tài liệu dùng Agentic AI Nền tảng vững chắc thúc đẩy đổi mới trước làn sóng Agentic AI FPT AI Factory là bộ giải pháp phát triển AI toàn diện, được thiết kế nhằm giúp doanh nghiệp dễ dàng tiếp cận, mở rộng và phát triển AI theo từng mục tiêu đặc thù. Tận dụng hàng nghìn chip NVIDIA H100/H200 GPU thế hệ mới, kết hợp với nền tảng phần mềm NVIDIA AI Enterprise, FPT AI Factory mang đến hạ tầng mạnh mẽ, các mô hình nền tảng tích hợp sẵn cùng bộ công cụ thông minh, giúp doanh nghiệp tăng tốc phát triển ứng dụng AI, rút ngắn thời gian đưa sản phẩm ra thị trường, đảm bảo hiệu năng cao và chi phí tối ưu so với các phương pháp truyền thống. Trước sự bùng nổ toàn cầu của agentic AI nhằm tối ưu khả năng tự động hóa các tác vụ doanh nghiệp, việc LandingAI ứng dụng FPT AI Factory cho thấy vai trò của hạ tầng AI linh hoạt, hiệu suất vượt trội trong việc thúc đẩy đổi mới ở lĩnh vực giàu tiềm năng này. Các AI agents có thể xử lý nhiều tác vụ phức tạp thông qua ngôn ngữ tự nhiên, qua đó không chỉ thay đổi cách chúng ta tự động hóa và cộng tác, mà còn cho phép các nhà phát triển, kỹ sư và người dùng tại doanh nghiệp dễ dàng tiếp cận công nghệ AI hơn. Thị trường AI Agents được dự báo sẽ đạt 52,62 tỷ USD vào năm 2030, với tốc độ tăng trưởng kép hàng năm (CAGR) lên đến 46,3% trong giai đoạn 2025-2030. Được xây dựng trên nền tảng low-code hoặc no-code, AI Agents thúc đẩy việc ứng dụng AI nhanh chóng và mở ra cách thức cộng tác linh hoạt, hiệu quả giữa con người và AI trong nhiều ngành nghề. Sức mạnh xử lý và khả năng thích ứng vượt trội của FPT AI Factory chính là chìa khóa giúp doanh nghiệp nhanh chóng gia nhập và dẫn đầu kỷ nguyên tự động hóa thông minh đang tới. Ông Lê Hồng Việt, Tổng Giám đốc FPT Smart Cloud, Tập đoàn FPT chia sẻ: “FPT và LandingAI chia sẻ sứ mệnh bình dân hóa AI, đưa công nghệ này đến gần hơn với tất cả mọi người. Sự hợp tác này đánh dấu  bước tiến quan trọng trong mối quan hệ đối tác chiến lược giữa hai bên, đặt nền móng phát triển các công nghệ AI thế hệ mới như AI Agents, thúc đẩy đổi mới sáng tạo và mang lại giá trị thiết thực cho nhiều ngành nghề, lĩnh vực khác nhau.” Trong tương lai, FPT cam kết tiếp tục hoàn thiện FPT AI Factory nhằm loại bỏ các rào cản hạ tầng và đơn giản hóa quá trình phát triển AI, giúp doanh nghiệp khai phá tiềm năng AI nhanh chóng, hiệu quả. Về Tập đoàn FPT Là tập đoàn công nghệ toàn cầu, FPT tiên phong trong lĩnh vực chuyển đổi số, tư vấn, cung cấp và triển khai các dịch vụ, giải pháp công nghệ, viễn thông và giáo dục. AI được xem là một trong những công nghệ mũi nhọn của Tập đoàn FPT. FPT sẽ đưa AI vào mọi ngóc ngách của cuộc sống và tích hợp công nghệ này vào tất cả các sản phẩm, giải pháp thuộc hệ sinh thái Made by FPT mang lại lợi ích cho người dùng cuối. FPT đã và đang tập trung nâng cao năng lực trong mảng công nghệ này một cách toàn diện về cả nhân lực, nghiên cứu và phát triển, cơ sở vật chất và quan hệ đối tác với NVIDIA, AITOMATIC, Landing AI, gia nhập liên minh AI do IBM và Meta khởi xướng... AI được kỳ vọng sẽ tạo ra những lợi thế cạnh tranh khác biệt để FPT nhanh chóng hoàn thành mục tiêu 5 tỷ USD doanh thu dịch vụ CNTT từ thị trường nước ngoài vào năm 2030 và nâng cao vị thế trong nhóm doanh nghiệp CNTT tỷ đô trên toàn cầu.   Thông tin chi tiết tại https://fpt.com/ Về LandingAI LandingAI™ cung cấp các công nghệ agentic vision tiên tiến, giúp khách hàng khai thác giá trị từ dữ liệu hình ảnh. Nhờ các giải pháp của LandingAI, các doanh nghiệp có thể hiện thực hóa giá trị của AI và chuyển đổi dự án AI từ giai đoạn thử nghiệm đến triển khai thực tế. Ứng dụng phương pháp tiếp cận AI lấy dữ liệu làm trung tâm, sản phẩm chủ lực của LandingAI, LandingLens™, cho phép người dùng xây dựng, phát triển và triển khai các giải pháp Visual AI một cách nhanh chóng và dễ dàng. LandingAI là đơn vị tiên phong trong các công nghệ agentic vision, bao gồm Agentic Document Extraction và Agentic Object Detection, giúp nâng cao khả năng xử lý và hiểu dữ liệu hình ảnh quy mô lớn, đồng thời làm cho các công cụ Visual AI phức tạp trở nên dễ tiếp cận và hiệu quả hơn. Được thành lập bởi Tiến sĩ Andrew Ng — đồng sáng lập Coursera, Google Brain và từng làm việc tại Baidu với tư cách là nhà khoa học chính, LandingAI hướng tới mục tiêu đưa Visual AI trở thành công cụ đem lại lợi ích thực tiễn cho cộng đồng. Mọi thông tin chi tiết, vui lòng truy cập https://landing.ai/.

Hướng Dẫn Triển Khai Jupyter Notebook và Thử Nghiệm với Mô Hình AI trên FPT AI Factory

12:01 08/05/2025
Jupyter Notebook là môi trường truy cập qua trình duyệt, cho phép người dùng tương tác trực tiếp với mã nguồn và dữ liệu qua giao diện web thân thiện, thường được dùng trong các tác vụ AI như khảo sát dữ liệu, trích xuất đặc trưng, xây dựng và thử nghiệm mô hình..  Bài viết này hướng dẫn triển khai nhanh GPU Notebook trên FPT AI Factory, từ thiết lập hạ tầng đến truy cập và chạy thử các notebook AI cho các mục tiêu như phân tích dữ liệu, thiết kế features, huấn luyện mô hình và inference.  I. Điều kiện sử dụng dịch vụ Để triển khai GPU Notebook trên FPT AI Factory, người dùng cần:  Đăng ký tài khoản tại https://id.fptcloud.com.  Liên hệ bộ phận kinh doanh để đăng ký dịch vụ AI Factory – AI Infrastructure.  Sau khi đăng ký thành công, đội ngũ kỹ thuật sẽ khởi tạo các tài nguyên cần thiết để người dùng bắt đầu sử dụng dịch vụ.  II. Thiết lập và truy cập GPU Notebook Triển khai môi trường gồm hai máy ảo trong cùng VPC:  Jump Server: Trung gian truy cập từ bên ngoài qua SSH.  GPU VM: Máy ảo chính chạy Notebook và xử lý AI.   Bước 1: Tạo GPU VM  Tạo GPU VM với cấu hình H100 theo template đề xuất (16 CPU, 192 GB RAM, 80 GB GPU RAM). Tài liệu tham khảo: https://fptcloud.com/en/documents/gpu-virtual-machine-en/?doc=quick-start  Cấu hình mạng: Gán public IP, khai báo port notebook, cấp quyền truy cập qua Security Group.  Bước 2: Thiết lập môi trường  Cập nhật hệ thống và cài đặt driver:  [code lang="js"] sudo apt update && sudo apt upgrade -y sudo apt install -y nvidia-driver-565 nvidia-smi # kiểm tra trạng thái GPU [/code] Cài đặt Docker theo hướng dẫn chính thức: https://docs.docker.com/engine/install/ubuntu/  Cài NVIDIA Container Toolkit theo hướng dẫn từ NVIDIA: https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html  Bước 3: Khởi động container Jupyter Notebook  [code lang="js"] image="quay.io/jupyter/tensorflow-notebook:cuda-python-3.11" docker run -p 8888:8888 \ -v ~/work:/home/jovyan/work \ --detach \ --name notebook \ --gpus all \ $image [/code] Bước 4: Lấy token truy cập  [code lang="js"] docker ps # lấy container ID docker logs -f <ID> # tìm token trong log [/code] Bước 5: Truy cập notebook qua SSH Tunnel  [code lang="js"] ssh -L 13888:127.0.0.1:8888 -J <user_jump>@<jump_ip><user_vm>@<vm_ip> [/code] Mở trình duyệt để truy cập http://localhost:13888 với token đã lấy ở bước 4. III. Thực thi một số notebook cơ bản  Sau khi truy cập thành công vào Jupyter Notebook, người dùng có thể chạy các notebook để xác nhận hệ thống hoạt động đúng:  1. Kiểm tra GPU bằng TensorFlow  [code lang="js"] import tensorflow as tf tf.config.list_physical_devices() [/code] 2. Kiểm tra trực tiếp GPU driver  mnist-example 3. Thử nghiệm với stable-diffusion (Tuỳ chọn)  https://github.com/nebuly-ai/learning-hub/blob/main/notebooks/notebooks/stable-diffusion.ipynb  Kết luận  Hướng dẫn này cung cấp quy trình từng bước để triển khai môi trường GPU Notebook trên hạ tầng của FPT AI Factory. Qua đó, người dùng có thể dễ dàng khởi tạo máy ảo, cấu hình môi trường và chạy thử các mô hình AI cơ bản như TensorFlow hoặc inference với GPU.  Mô hình triển khai thông qua Jump Server giúp đảm bảo an toàn truy cập từ bên ngoài, đồng thời linh hoạt trong việc mở rộng và thử nghiệm các workloads AI chuyên sâu.  Đây là nền tảng phù hợp để các nhóm nghiên cứu, phát triển sản phẩm hoặc thử nghiệm mô hình AI trong doanh nghiệp nhanh chóng tiếp cận hạ tầng GPU mạnh mẽ mà không cần đầu tư phần cứng ban đầu.