Startup Ấn Độ tiết lộ hệ thống AI đột phá, không cần các loại chip cao cấp

Hệ thống này cho phép chạy các mô hình AI lớn trên các bộ xử lý trung tâm (CPU) thông thường, thay vì phụ thuộc vào các bộ xử lý đồ họa (GPU) đắt đỏ từ những gã khổng lồ như Nvidia. Theo hãng tin Bloomberg, thành tựu này không chỉ mở ra cơ hội tiếp cận AI cho các doanh nghiệp nhỏ và khu vực công, mà còn góp phần thu hẹp khoảng cách công nghệ toàn cầu.

Trong một sự kiện trình diễn gần đây, nhóm nghiên cứu từ Ziroh Labs và IIT Madras đã chứng minh khả năng của Kompact AI trên một laptop sử dụng bộ xử lý Intel Xeon thông thường. Họ đã chạy thành công các mô hình AI nổi tiếng như Llama 2 của Meta và Qwen2.5 của Alibaba, cho thấy kết quả ấn tượng về hiệu suất và chất lượng.

KOMPACT AI: GIẢI PHÁP AI GIÁ RẺ 

Theo Ziroh Labs, công nghệ này tập trung chủ yếu vào giai đoạn suy luận (inference) – quá trình vận hành các mô hình AI sau khi đã được huấn luyện. Đây là một bước quan trọng, vì suy luận chiếm phần lớn chi phí vận hành trong các ứng dụng AI thực tế, từ chatbot đến phân tích dữ liệu.

Sự ra đời của Kompact AI đến trong bối cảnh các nhà phát triển AI trên toàn cầu, bao gồm cả Ấn Độ, đang đối mặt với thách thức lớn về chi phí và nguồn cung chip cao cấp. Các GPU của Nvidia, được coi là "trái tim" của cuộc cách mạng AI, không chỉ đắt đỏ mà còn khan hiếm, khiến nhiều startup và doanh nghiệp nhỏ khó cạnh tranh.

Kamakoti, Giám đốc IIT Madras, đã ví von: “Chúng tôi đang chứng minh rằng bạn không cần một khẩu súng lục để diệt một con muỗi”. Ý tưởng của ông nhấn mạnh rằng các giải pháp AI phức tạp không nhất thiết phải dựa vào phần cứng đắt tiền. Thay vào đó, việc tối ưu hóa phần mềm và tận dụng tài nguyên hiện có có thể mang lại kết quả tương đương, thậm chí vượt trội, với chi phí thấp hơn nhiều.

William Raduchel, cựu Giám đốc Chiến lược của Sun Microsystems và cố vấn công nghệ cho Ziroh Labs, nhận định rằng công nghệ này sẽ tạo ra “tác động sâu sắc đến thị trường trong những năm tới”. Ông nhấn mạnh tiềm năng của Kompact AI trong việc dân chủ hóa công nghệ, giúp các quốc gia đang phát triển như Ấn Độ bắt kịp cuộc đua AI toàn cầu.

Sự hợp tác giữa Ziroh Labs và IIT Madras không chỉ là một thành tựu công nghệ mà còn là biểu tượng cho tham vọng của Ấn Độ trong việc định hình tương lai AI. Trong bối cảnh các cường quốc như Mỹ và Trung Quốc đang chi hàng tỷ USD cho AI, các giải pháp giá rẻ như Kompact AI có thể giúp các quốc gia đang phát triển tạo dấu ấn riêng.

XU HƯỚNG XÂY DỰNG AI GIÁ RẺ

Ziroh Labs không phải là đơn vị duy nhất theo đuổi mục tiêu xây dựng AI giá rẻ. Trên toàn cầu, các công ty đang chạy đua để giảm sự phụ thuộc vào GPU và tối ưu hóa hiệu suất AI. Một ví dụ nổi bật là DeepSeek của Trung Quốc, startup này đã gây chú ý khi phát triển một mô hình AI cạnh tranh với chi phí chỉ bằng một phần nhỏ so với các đối thủ Mỹ. Thành công của DeepSeek đã truyền cảm hứng cho nhiều nhà phát triển tìm kiếm giải pháp tiết kiệm, từ việc tối ưu hóa thuật toán đến sử dụng phần cứng phổ thông.

Tại Ấn Độ, nơi nguồn lực tài chính và hạ tầng công nghệ còn hạn chế, nhu cầu về các giải pháp AI giá rẻ càng trở nên cấp thiết. Theo báo cáo từ Nasscom, ngành công nghệ Ấn Độ dự kiến đạt giá trị 245 tỷ USD vào năm 2025, với AI là một trong những động lực chính. Tuy nhiên, nếu không giải quyết được bài toán chi phí, nhiều doanh nghiệp vừa và nhỏ sẽ bị bỏ lại phía sau.

Kompact AI của Ziroh Labs là một bước tiến quan trọng trong việc giải quyết vấn đề này. Công nghệ của họ đã được kiểm nghiệm bởi các gã khổng lồ chip như Intel và AMD, cho thấy tiềm năng ứng dụng rộng rãi không chỉ ở Ấn Độ mà còn trên thị trường quốc tế.

Việc sử dụng CPU thay vì GPU để vận hành các mô hình AI lớn mang lại nhiều lợi ích đáng kể. Trước hết, giải pháp này giúp tiết kiệm chi phí, cho phép các doanh nghiệp nhỏ và khu vực công triển khai AI mà không cần đầu tư hàng triệu USD vào phần cứng đắt đỏ.

Đồng thời, cách làm này cũng tăng khả năng tiếp cận công nghệ, khi các mô hình AI có thể hoạt động trên các thiết bị thông thường như laptop hay máy chủ giá rẻ, từ đó phổ biến AI đến các vùng nông thôn và các quốc gia đang phát triển. Bằng cách loại bỏ sự phụ thuộc vào phần cứng cao cấp, các nhà phát triển được tự do tập trung vào sáng tạo thuật toán và phát triển các ứng dụng mới, thúc đẩy sự đổi mới trong lĩnh vực trí tuệ nhân tạo.

Tuy nhiên, giải pháp này cũng đối mặt với thách thức. Việc tối ưu hóa AI trên CPU đòi hỏi kỹ thuật phức tạp, và hiệu suất có thể không sánh bằng GPU trong một số trường hợp, đặc biệt với các mô hình AI cực lớn hoặc các tác vụ huấn luyện nặng. Ziroh Labs hiện tập trung vào suy luận, nhưng việc mở rộng công nghệ sang huấn luyện sẽ là bước tiếp theo đầy thách thức.