Từ siêu chip đến siêu máy tính: NVIDIA làm chủ cuộc chơi AI

Bảo Ngọc
Chia sẻ

Trong hội nghị Siggraph được tổ chức tại Los Angeles, NVIDIA một lần nữa gây chú ý khi giới thiệu bộ xử lý tân tiến phá vỡ ranh giới về tốc độ và dung lượng hiện tại. Động thái chiến lược khẳng định vị trí của NVIDIA trong thị trường AI đang phát triển nhanh chóng…

Nhà sáng lập, CEO NVIDIA Jensen Huang công bố nền tảng NVIDIA GH200 Grace Hopper tân tiến - được xây dựng phục vụ kỷ nguyên AI.
Nhà sáng lập, CEO NVIDIA Jensen Huang công bố nền tảng NVIDIA GH200 Grace Hopper tân tiến - được xây dựng phục vụ kỷ nguyên AI.

NVIDIA đã giới thiệu nền tảng GH200 Grace Hopper tân tiến, kết hợp từ siêu chip Grace Hopper cùng bộ xử lý HBM3e đầu tiên trên thế giới. Cải tiến được xây dựng nhằm đón đầu xu hướng điện toán nhanh và AI biến đổi, theo Tech Wire Asia.

Nền tảng mới sẽ có nhiều cấu hình khác nhau giúp xử lý một số tác vụ AI phức tạp nhất, bao gồm các mô hình ngôn ngữ lớn, hệ thống đề xuất và cơ sở dữ liệu vector.

Hệ thống cấu hình kép cải tiến có bộ nhớ lớn gấp 3,5 lần và nhanh gấp 3 lần tốc độ băng thông hiện tại, mang lại hiệu năng khổng lồ lên tới 10TB/giây. Máy chủ hệ thống được trang bị 282GB bộ nhớ HBM3e tiên tiến.

Các nhà sản xuất hàng đầu chắn chắn rất háo hức sử dụng siêu chip Grace Hopper. Nền tảng Grace Hopper thế hệ mới HBM3e, đảm bảo khả năng tương thích cao, cho phép nhà sản xuất tích hợp Grace Hopper vào hơn 100 mô hình máy chủ một cách liền mạch.

HỖ TRỢ NHÀ PHÁT TRIỂN VỚI NVIDIA AI WORKBENCH

Đối với các nhà phát triển, bộ công cụ NVIDIA AI Workbench cho phép thiết kế, đánh giá và điều chỉnh hiệu quả mô hình AI được đào tạo trước, giúp mô hình thích ứng với mọi trung tâm dữ liệu, đám mây công cộng và đặc biệt là NVIDIA DGX Cloud.

AI Workbench hướng tới mục tiêu đơn giản hóa quy trình bắt đầu dự án AI tại doanh nghiệp. Giao diện hệ thống cục bộ thân thiện với người dùng cho phép nhà phát triển truy cập dễ dàng vào các kho lưu trữ phổ biến như Hugging Face, GitHub hay NVIDIA NGC. Hơn nữa, các mô hình này có thể được chia sẻ nhanh chóng trên nhiều nền tảng đa dạng.

Đồng thời, NVIDIA đã tiết lộ nỗ lực hợp tác với Hugging Face nhằm tạo ra siêu máy tính AI phát triển tập trung vào các mô hình ngôn ngữ lớn và công cụ AI tân tiến.

Nhà sáng lập và CEO NVIDIA Jensen Huang bày tỏ rằng sức mạnh tổng hợp giữa các nhà nghiên cứu, nhà phát triển và AI đang cách mạng hóa tất cả ngành công nghiệp. Hugging Face và NVIDIA mong muốn thu hẹp khoảng cách giữa cộng đồng AI và nền tảng điện toán hiện đại của NVIDIA. Bản chất của sự hợp tác là giúp cho điện toán NVIDIA AI có thể truy cập liền mạch vào kho dữ liệu của Hugging Face.

Tóm tắt về Hugging Face, công ty cung cấp nền tảng cho các nhà phát triển nhằm xây dựng, tinh chỉnh và triển khai mô hình AI tân tiến bằng cách sử dụng các công cụ nguồn mở. Hugging Face tự hào sở hữu nhóm khách hàng hơn 15.000 tổ chức, góp phần tạo nên hơn 250.000 mô hình và 50.000 bộ dữ liệu.

Việc DGX Cloud thuộc NVIDIA tích hợp với Hugging Face đảm bảo truy cập dễ dàng vào nền tảng siêu máy tính AI mở rộng của NVIDIA. Người dùng Hugging Face sẽ được hưởng lợi từ chức năng đào tạo nâng cao và tùy chỉnh mô hình nền tảng, từ đó gia tăng sáng kiến mô hình ngôn ngữ lớn tại  doanh nghiệp. 

Với một loạt các mô hình đào tạo sẵn, việc tùy chỉnh hệ thống bằng nhiều công cụ nguồn mở khác nhau có thể gặp khó khăn. Mô hình AI phải được sàng lọc qua nhiều kho lưu trữ trực tuyến để tìm ra công cụ và khung vận hành phù hợp. Tuy nhiên, với NVIDIA AI Workbench, hiện nay quá trình này đã trở nên dễ dàng hơn. Các nhà phát triển có thể tổng hợp tất cả công cụ cấp doanh nghiệp thiết yếu từ kho lưu trữ nguồn mở của NVIDIA.

Những gã khổng lồ cơ sở hạ tầng AI như Dell, Hewlett Packard, HP, Lambda, Lenovo và Supermicro đều đang ra sức ủng hộ AI Workbench. Các công ty nhìn thấy tiềm năng trong việc nâng cấp máy tính đa GPU, thiết bị di động cao cấp và máy trạm ảo.

THÊM “ĐỒ CHƠI” CHO AI TẠO SINH

Nhằm đẩy mạnh hơn nữa khả năng tiếp cận của AI tạo sinh, NVIDIA đã tung ra phiên bản mới nhất của phần mềm doanh nghiệp NVIDIA AI Enterprise 4.0. Phiên bản này cung cấp cho các công ty nhiều nguồn lực để tích hợp AI, đảm bảo tính bảo mật và ổn định API.

Các công cụ mới nhất có sẵn trong NVIDIA AI Enterprise bao gồm NVIDIA NeMo hỗ trợ thiết kế, điều chỉnh và triển khai các mô hình ngôn ngữ lớn; NVIDIA Triton Management Service được xây dựng để triển khai sản xuất hiệu quả, đảm bảo khả năng mở rộng AI được tối ưu hóa; NVIDIA Base Command Manager Essentials là một phần mềm quản lý cụm hỗ trợ các doanh nghiệp tối ưu hóa hiệu suất và sử dụng máy chủ AI trên nhiều môi trường khác nhau. NVIDIA AI Enterprise được thiết kế cho các giải pháp AI toàn diện trên đám mây, trung tâm dữ liệu và biên. 

Khi thế giới đang đứng trên đỉnh của cuộc cách mạng AI, các dịch vụ gần đây của NVIDIA nhấn mạnh cam kết dân chủ hóa AI tân tiến cho tất cả ngành công nghiệp, nhà phát triển và người tiêu dùng. Những công ty tiên phong như NVIDIA đảm bảo tiềm năng lớn và tương lai của AI, sẵn sàng cho những thành tựu “có một không hai”.

Khởi nghiệp

Hồ sơ Startup

Citigo là công ty công nghệ cung cấp những giải pháp đơn giản với chi phí tiết kiệm, giúp khách hàng nâng cao hiệu quả kinh doanh. Citigo hướng tới tầm nhìn trở thành công ty cung cấp giải pháp công nghệ cho doanh nghiệp phổ biến tại Đông Nam Á
ESBT là công ty hoạt động trọng lĩnh vực công nghệ thông tin, chúng tôi xây dựng những sản phẩm phần mềm cho cộng đồng và cung cấp dịch vụ phát triển phần mềm cho các doanh nghiệp
Lozi là một trong những ứng dụng thương mại điện tử được yêu thích nhất tại Việt Nam, kết nối hàng triệu người mua và người bán nhằm phục vụ nhu cầu mua bán trực tuyến ngày càng cao. Không chỉ là một cầu nối thương mại điện tử đáng tin cậy, Lozi còn cung cấp dịch vụ giao hàng nhanh chóng và tiện lợi chỉ trong 1 giờ, đem đến cho khách hàng những trải nghiệm mua sắm trực tuyến hiệu quả và tối ưu
Bắt nguồn từ mong muốn mang chất lượng dạy Tiếng Anh tại Trường Quốc tế đến với mọi học sinh Việt Nam, để các bạn nhỏ dù không có điều kiện kinh tế theo học tại các Trường Quốc Tế hay Trung Tâm đắt tiền vẫn có thể sử dụng Tiếng Anh tốt như người bản ngữ. Đây chính là hành trang chuẩn bị cho các em tương lai vươn ra thế giới. Chính vì lý do trên, đội ngũ sáng lập đã bắt tay vào xây dựng sản phẩm đầu tiên có tên “Chương trình học Tiếng Anh Online EDUPIA”.
Công ty TNHH SA-ACH định vị về lĩnh vững trồng rừng, phát triển gồm 3 loại cây và bốn tầng cây trên một hecta đất nhằm tạo hệ sinh thái bền vững, và nâng cao thu nhập cho bà con