Theo các nguồn tin trong ngành, chi phí chuyển đổi quá cao đang khiến các nhà phát triển AI tại Trung Quốc lựa chọn tiếp tục phụ thuộc vào chip Nvidia, thay vì chuyển sang công nghệ trong nước…

Tờ South China Morning Post dẫn nguồn tin từ một số công ty đang phát triển các mô hình ngôn ngữ lớn (LLM) hàng đầu Trung Quốc, cho biết những mô hình AI tiên tiến nhất của nước này hiện vẫn chủ yếu được huấn luyện trên chip Nvidia. 

Nguyên nhân là vì chi phí chuyển đổi sang chip bán dẫn trong nước quá lớn. 

Dù năng lực phần cứng nước này ngày càng tiến bộ, việc chuyển nền tảng chip vẫn đặt ra những thách thức kỹ thuật không nhỏ. Một trong những trở ngại lớn nhất nằm ở hệ sinh thái phần mềm.

Nền tảng CUDA (Compute Unified Device Architecture) của Nvidia đã được sử dụng rộng rãi trong ngành công nghiệp AI trong nhiều năm và trở thành nền tảng quen thuộc đối với các nhà phát triển.

Trong khi đó, nền tảng CANN (Compute Architecture for Neural Networks) của Huawei Technologies, được phát triển để phục vụ các chip AI Ascend, lại đòi hỏi các nhà phát triển phải viết lại và tối ưu hóa một lượng lớn mã nguồn. 

James Wang, người phát triển các mô hình AI tại một viện nghiên cứu trực thuộc một trường đại học ở Thượng Hải, cho biết: “Các quy trình huấn luyện hiện tại của chúng tôi phụ thuộc vào CUDA. Mã nguồn CUDA không thể chạy trực tiếp trên chip Ascend mà cần phải viết lại rất nhiều”.

Theo ông Wang, việc chuyển các quy trình làm việc hiện có sang chip Ascend của Huawei có thể khiến nhóm của ông phải mất thêm ít nhất 50% thời gian và chi phí.

Một kỹ sư tại Bắc Kinh, người trực tiếp tham gia chuyển đổi các tác vụ huấn luyện LLM sang chip Ascend, cho biết thời gian cần thiết để thay đổi nền tảng chip trong hệ thống sẽ phụ thuộc vào nhiều yếu tố, trong đó có mức độ mở của mô hình và mức độ hoàn thiện của hệ sinh thái phần mềm đi kèm.

Đối với các mô hình mã nguồn mở như DeepSeek của Trung Quốc và các phiên bản rút gọn từ mô hình này, việc huấn luyện trên chip Ascend có thể khiến một nhóm từ hai đến ba kỹ sư phải mất thêm khoảng một tháng so với khi sử dụng chip Nvidia. Trong khi nếu tiếp tục dùng chip Nvidia, các nhà phát triển có thể tận dụng hệ sinh thái phần mềm và các công cụ hỗ trợ sẵn có của nhà cung cấp này. 

Chẳng hạn với một mô hình như Kimi K3 của Moonshot AI, dựa trên công bố trọng số, tức các tham số nền tảng tạo nên khả năng xử lý của mô hình, theo vị kỹ sư, quá trình chuyển sang chip Ascend có thể đòi hỏi một nhóm khoảng 10 kỹ sư phải làm việc thêm hơn 6 tháng.

Việc các doanh nghiệp Trung Quốc vẫn phải dựa vào chip Nvidia cho thấy những khó khăn mà nước này đang đối mặt trong nỗ lực giảm phụ thuộc vào nguồn cung công nghệ nước ngoài, ngay cả khi các phòng thí nghiệm và công ty trong nước đang chạy đua nâng cao năng lực AI.

Quá trình phát triển một hệ thống AI thường gồm hai giai đoạn chính là huấn luyện và suy luận. Trong đó, suy luận là quá trình đưa một mô hình đã được huấn luyện vào sử dụng để xử lý dữ liệu mới và đưa ra dự đoán. Nếu huấn luyện mô hình đòi hỏi lượng tài nguyên tính toán lớn cùng quy trình kỹ thuật phức tạp, thì suy luận thường đơn giản hơn đáng kể.

Các hệ thống như DeepSeek-V4 và Kimi K3 của Moonshot đã được triển khai thành công trên những nền tảng phần cứng của Trung Quốc như Huawei và Alibaba Group Holding. Tuy nhiên, cả DeepSeek và Moonshot đều không công bố loại chip AI được sử dụng trong quá trình huấn luyện các mô hình này.

Theo một báo cáo của trang tin The Information hồi tháng 7, Kimi K3 được cho là đã được huấn luyện trên chip Nvidia, trong đó có cả các bộ xử lý Blackwell thế hệ mới.

Báo cáo cũng cho biết các công ty AI Trung Quốc vẫn tiếp tục dựa vào phần cứng Nvidia để huấn luyện những mô hình AI tiên tiến nhất, bất chấp nỗ lực mở rộng các lựa chọn thay thế do Trung Quốc tự phát triển.

Tuy nhiên, một số nhóm phát triển AI tại Trung Quốc đã bắt đầu đưa chip nội địa vào quá trình huấn luyện. Tháng 6 vừa qua, Meituan ra mắt LongCat-2.0, một mô hình có 1,6 nghìn tỷ tham số.

Công ty cho biết mô hình này được huấn luyện và vận hành hoàn toàn trên một cụm máy chủ trong nước, sử dụng 50.000 card xử lý. Tuy nhiên, Meituan không công bố nhà cung cấp cụm thiết bị này.