Từ siêu chip đến siêu máy tính: NVIDIA làm chủ cuộc chơi AI

NVIDIA đã giới thiệu nền tảng GH200 Grace Hopper tân tiến, kết hợp từ siêu chip Grace Hopper cùng bộ xử lý HBM3e đầu tiên trên thế giới. Cải tiến được xây dựng nhằm đón đầu xu hướng điện toán nhanh và AI biến đổi, theo Tech Wire Asia.

Nền tảng mới sẽ có nhiều cấu hình khác nhau giúp xử lý một số tác vụ AI phức tạp nhất, bao gồm các mô hình ngôn ngữ lớn, hệ thống đề xuất và cơ sở dữ liệu vector.

Hệ thống cấu hình kép cải tiến có bộ nhớ lớn gấp 3,5 lần và nhanh gấp 3 lần tốc độ băng thông hiện tại, mang lại hiệu năng khổng lồ lên tới 10TB/giây. Máy chủ hệ thống được trang bị 282GB bộ nhớ HBM3e tiên tiến.

Các nhà sản xuất hàng đầu chắn chắn rất háo hức sử dụng siêu chip Grace Hopper. Nền tảng Grace Hopper thế hệ mới HBM3e, đảm bảo khả năng tương thích cao, cho phép nhà sản xuất tích hợp Grace Hopper vào hơn 100 mô hình máy chủ một cách liền mạch.

HỖ TRỢ NHÀ PHÁT TRIỂN VỚI NVIDIA AI WORKBENCH

Đối với các nhà phát triển, bộ công cụ NVIDIA AI Workbench cho phép thiết kế, đánh giá và điều chỉnh hiệu quả mô hình AI được đào tạo trước, giúp mô hình thích ứng với mọi trung tâm dữ liệu, đám mây công cộng và đặc biệt là NVIDIA DGX Cloud.

AI Workbench hướng tới mục tiêu đơn giản hóa quy trình bắt đầu dự án AI tại doanh nghiệp. Giao diện hệ thống cục bộ thân thiện với người dùng cho phép nhà phát triển truy cập dễ dàng vào các kho lưu trữ phổ biến như Hugging Face, GitHub hay NVIDIA NGC. Hơn nữa, các mô hình này có thể được chia sẻ nhanh chóng trên nhiều nền tảng đa dạng.

Đồng thời, NVIDIA đã tiết lộ nỗ lực hợp tác với Hugging Face nhằm tạo ra siêu máy tính AI phát triển tập trung vào các mô hình ngôn ngữ lớn và công cụ AI tân tiến.

Nhà sáng lập và CEO NVIDIA Jensen Huang bày tỏ rằng sức mạnh tổng hợp giữa các nhà nghiên cứu, nhà phát triển và AI đang cách mạng hóa tất cả ngành công nghiệp. Hugging Face và NVIDIA mong muốn thu hẹp khoảng cách giữa cộng đồng AI và nền tảng điện toán hiện đại của NVIDIA. Bản chất của sự hợp tác là giúp cho điện toán NVIDIA AI có thể truy cập liền mạch vào kho dữ liệu của Hugging Face.

Tóm tắt về Hugging Face, công ty cung cấp nền tảng cho các nhà phát triển nhằm xây dựng, tinh chỉnh và triển khai mô hình AI tân tiến bằng cách sử dụng các công cụ nguồn mở. Hugging Face tự hào sở hữu nhóm khách hàng hơn 15.000 tổ chức, góp phần tạo nên hơn 250.000 mô hình và 50.000 bộ dữ liệu.

Việc DGX Cloud thuộc NVIDIA tích hợp với Hugging Face đảm bảo truy cập dễ dàng vào nền tảng siêu máy tính AI mở rộng của NVIDIA. Người dùng Hugging Face sẽ được hưởng lợi từ chức năng đào tạo nâng cao và tùy chỉnh mô hình nền tảng, từ đó gia tăng sáng kiến mô hình ngôn ngữ lớn tại  doanh nghiệp. 

Với một loạt các mô hình đào tạo sẵn, việc tùy chỉnh hệ thống bằng nhiều công cụ nguồn mở khác nhau có thể gặp khó khăn. Mô hình AI phải được sàng lọc qua nhiều kho lưu trữ trực tuyến để tìm ra công cụ và khung vận hành phù hợp. Tuy nhiên, với NVIDIA AI Workbench, hiện nay quá trình này đã trở nên dễ dàng hơn. Các nhà phát triển có thể tổng hợp tất cả công cụ cấp doanh nghiệp thiết yếu từ kho lưu trữ nguồn mở của NVIDIA.

Những gã khổng lồ cơ sở hạ tầng AI như Dell, Hewlett Packard, HP, Lambda, Lenovo và Supermicro đều đang ra sức ủng hộ AI Workbench. Các công ty nhìn thấy tiềm năng trong việc nâng cấp máy tính đa GPU, thiết bị di động cao cấp và máy trạm ảo.

THÊM “ĐỒ CHƠI” CHO AI TẠO SINH

Nhằm đẩy mạnh hơn nữa khả năng tiếp cận của AI tạo sinh, NVIDIA đã tung ra phiên bản mới nhất của phần mềm doanh nghiệp NVIDIA AI Enterprise 4.0. Phiên bản này cung cấp cho các công ty nhiều nguồn lực để tích hợp AI, đảm bảo tính bảo mật và ổn định API.

Các công cụ mới nhất có sẵn trong NVIDIA AI Enterprise bao gồm NVIDIA NeMo hỗ trợ thiết kế, điều chỉnh và triển khai các mô hình ngôn ngữ lớn; NVIDIA Triton Management Service được xây dựng để triển khai sản xuất hiệu quả, đảm bảo khả năng mở rộng AI được tối ưu hóa; NVIDIA Base Command Manager Essentials là một phần mềm quản lý cụm hỗ trợ các doanh nghiệp tối ưu hóa hiệu suất và sử dụng máy chủ AI trên nhiều môi trường khác nhau. NVIDIA AI Enterprise được thiết kế cho các giải pháp AI toàn diện trên đám mây, trung tâm dữ liệu và biên. 

Khi thế giới đang đứng trên đỉnh của cuộc cách mạng AI, các dịch vụ gần đây của NVIDIA nhấn mạnh cam kết dân chủ hóa AI tân tiến cho tất cả ngành công nghiệp, nhà phát triển và người tiêu dùng. Những công ty tiên phong như NVIDIA đảm bảo tiềm năng lớn và tương lai của AI, sẵn sàng cho những thành tựu “có một không hai”.