Nvidia ra mắt siêu máy tính AI cá nhân Project Digits nhỏ nhất thế giới

Mới đây, Nvidia chính thức giới thiệu Project Digits, siêu máy tính AI cá nhân dành cho các nhà nghiên cứu AI, nhà khoa học dữ liệu, sinh viên và mọi người trên toàn thế giới quyền truy cập vào sức mạnh nền tảng Nvidia Grace Blackwell. 

Theo Tech Power Up, Project Digits sở hữu siêu chip Nvidia GB10 Grace Blackwell mới, cung cấp hiệu suất điện toán AI khổng lồ để tạo mẫu, tinh chỉnh và chạy mô hình AI lớn. Sản phẩm dự kiến ra mắt vào tháng 5 năm nay, giá khởi điểm của sản phẩm là 3.000 USD (tương đương khoảng 72 triệu đồng).

Với Project Digits, người dùng có thể phát triển và chạy suy luận trên mô hình bằng hệ thống máy tính để bàn của riêng họ, sau đó triển khai liền mạch mô hình trên cơ sở hạ tầng trung tâm dữ liệu hoặc đám mây. 

"AI là xu hướng ứng dụng chủ đạo trong mọi ngành nghề, lĩnh vực. Với Project Digits, Grace Blackwell Superchip sẽ đến với hàng triệu nhà phát triển", ông Jensen Huang, người sáng lập kiêm Giám đốc Điều hành Nvidia cho biết. "Đặt một siêu máy tính AI trên bàn làm việc, các nhà khoa học dữ liệu, nhà nghiên cứu AI và tất cả mọi người sẽ cùng tham gia định hình thời đại của AI". 

SIÊU CHIP GB10 SỞ HỮU HIỆU SUẤT 1 PETAFLOP

Siêu chip GB10 là một hệ thống trên chip (SoC) dựa trên kiến trúc NVIDIA Grace Blackwell, cung cấp hiệu suất AI lên tới 1 petaflop (thước đo tốc độ xử lý của máy tính) với độ chính xác FP4.

GB10 được trang bị GPU Nvidia Blackwell với lõi Cuda thế hệ mới nhất và lõi Tensor thế hệ thứ năm, kết nối qua giao thức NVLink - C2C (chip-to-chip) đến CPU Nvidia Grace hiệu suất cao, với 20 lõi tiết kiệm năng lượng xây dựng trên kiến trúc Arm. MediaTek, công ty dẫn đầu trong thiết kế SoC dựa trên Arm, hợp tác cùng thiết kế GB10, góp phần mang đến sự vượt trội về hiệu suất, tiết kiệm năng lượng và khả năng kết nối của sản phẩm.

Siêu chip GB10 cho phép Project Digits mang lại hiệu suất mạnh mẽ và chỉ yêu cầu ổ cắm điện tiêu chuẩn để hoạt động. Mỗi Project Digits có 128 GB bộ nhớ thống nhất, mạch lạc và dung lượng lưu trữ NVMe lên đến 4 TB. 

Với siêu máy tính, nhà phát triển có thể chạy mô hình ngôn ngữ lớn lên đến 200 tỷ tham số để thúc đẩy đổi mới sáng tạo cho AI. Ngoài ra, sử dụng mạng Nvidia ConnectX, hai siêu máy tính Project Digits AI có thể được liên kết để chạy những mô hình sở hữu đến 405 tỷ tham số.

SIÊU MÁY TÍNH AI GRACE BLACKWELL PHÙ HỢP VỚI MỌI NHU CẦU SỬ DỤNG

Với kiến trúc Grace Blackwell, doanh nghiệp và nhà nghiên cứu có thể tạo mẫu, tinh chỉnh và thử nghiệm mô hình trên các hệ thống Project Digits cục bộ chạy hệ điều hành Nvidia DGX OS dựa trên Linux, sau đó triển khai chúng một cách liền mạch trên Nvidia DGX Cloud, các phiên bản đám mây tăng tốc hoặc cơ sở hạ tầng trung tâm dữ liệu.

Điều này cho phép nhà phát triển tạo nguyên mẫu AI trên Project Digits và sau đó mở rộng quy mô trên cơ sở hạ tầng đám mây hoặc trung tâm dữ liệu, sử dụng cùng một kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise.

Người dùng Project Digits có thể truy cập thư viện mở rộng phần mềm Nvidia AI để thử nghiệm và tạo mẫu, bao gồm bộ công cụ phát triển phần mềm, công cụ điều phối, khung và mô hình có sẵn trong danh mục Nvidia mô hình bằng khung Nvidia NeMo, tăng tốc dữ liệu khoa học với thư viện Nvidia Rapids và chạy một số khung phổ biến như sổ ghi chép PyTorch, Python và Jupyter.

Để xây dựng ứng dụng AI tác nhân, người dùng cũng có thể khai thác Nvidia Blueprints và Nvidia NIM microservices, hiện đang có sẵn để nghiên cứu, phát triển và thử nghiệm thông qua Chương trình nhà phát triển Nvidia. 

Khi ứng dụng AI đã sẵn sàng chuyển từ môi trường thử nghiệm sang môi trường sản xuất, giấy phép Nvidia AI Enterprise sẽ cung cấp chính sách bảo mật, hỗ trợ cấp cho doanh nghiệp và phát hành sản phẩm phần mềm Nvidia AI.

Tuy nhiên, nhiều sản phẩm và tính năng trên vẫn đang trong giai đoạn khác nhau và sẽ được cung cấp khi sẵn sàng. Nvidia lưu ý thêm, việc phát hành bất kỳ tính năng hoặc chức năng nào được mô tả cho các sản phẩm có thể thay đổi và theo quyết định riêng của công ty. 

Trước đây, Nvidia cũng từng ra mắt Jetson Orin Nano Super – hệ thống AI nhỏ gọn giá chỉ 249 USD (tương đương khoảng 6 triệu đồng), hướng đến giới startup và người dùng đam mê công nghệ với khả năng xử lý mô hình lên đến 8 tỷ tham số. Project Digits, với sức mạnh vượt trội hơn, là bước tiếp theo trong chiến lược phổ biến AI của Nvidia.