Rất ít công ty Trung Quốc có thể mua được chip GPU để vận hành ChatGPT

Open AI, một công ty khởi nghiệp về AI do Microsoft đầu tư đã ra mắt robot trò chuyện ChatGPT vào tháng 12/2022. Dịch vụ đám mây Azure của Microsoft đã phải xây dựng một cụm máy tính AI hơn 10.000 chip GPU Nvidia A100 cho ChatGPT. Bản chất của robot trò chuyện này là mô hình ngôn ngữ lớn và chứa tới hơn 180 tỷ tham số. Đây là điều mà rất ít công ty tại Trung Quốc có thể thực hiện được bởi quốc gia này thiếu hụt trầm trọng những chiếc GPU hiệu suất cao.

Theo công ty nghiên cứu thị trường Mỹ TrendForce, để xử lý được mô hình lớn GPT-3.5 và hơn 180 tỷ tham số, họ cần tới 20.000 chip GPU. Thậm chí, trong tương lai lượng chip GPU cần sử dụng có thể lên tới 30.000. Trước đó, vào tháng 11/2022, Nvidia đã thông báo chính thức trên web của mình rằng, hàng chục nghìn chiếc chip A100/H100 đã được triển khai trên Microsoft Azure. Đây được coi là cụm máy tính AI quy mô lớn đầu tiên được xây dựng bằng GPU cao cấp của Nvidia. 

Trong tháng 2 vừa qua, các công ty lớn tại Trung Quốc như Alibaba và Baidu cũng thông báo sẽ phát triển các sản phẩm tương tự như ChatGPT hoặc đầu tư và nghiên cứu phát triển AI tổng hợp.Tuy nhiên, sức mạnh điện toán AI, mô hình AI lớn và AI tổng hợp chỉ vừa đủ dùng cho các nhà cung cấp điện toán đám mây. Sự thiếu hụt chip GPU hiệu suất cao, chi phí mua sắm phần cứng và chi phí vận hành cao đã trở thành rào cản trong thương mại hóa ngắn hạn tại thị trường nội địa ở Trung Quốc. Theo Financial Eleven, chỉ có khoảng 2-3 công ty trong nước có dự trữ vốn, có chiến lược và có khả năng thực hiện. 

Nvidia là nhà sản xuất chất bán dẫn nổi tiếng thế giới, chiếm hơn 90% thị trường GPU trung tâm dữ liệu. Chip Nvidia A100 được ra mắt vào năm 2020 và dành riêng cho các tình huống đào tạo hoặc lý luận AI như lái xe tự hành, sản xuất cao cấp và các ngành y tế và dược phẩm. Năm 2022, Nvidia tung ra sản phẩm thế hệ mới với hiệu năng mạnh mẽ hơn là H100. A100/H100 hiện là GPU chuyên dụng mạnh nhất cho trung tâm dữ liệu và hầu như không có giải pháp thay thế quy mô lớn nào trên thị trường. Các doanh nghiệp bao gồm Tesla và Facebook đã sử dụng chip A100 để xây dựng các cụm máy tính AI và quy mô mua hàng đã vượt quá 7.000.

Để vận hành ChatGPT, công ty xây dựng phải sử dụng một nguồn chip GPU hiệu suất cao rất lớn, ít nhất cũng cần tới 10.000 chip. Tuy nhiên, lượng chip A100/H100 tại Trung Quốc hiện nay rất khan hiếm do hạn chế thương mại của chính phủ Mỹ áp đặt lên Trung Quốc vào tháng 8/2022. Theo Tech163, lượng chip A100 dự trữ hiện tại của quốc gia này chỉ còn thời hạn sử dụng từ 4-6 năm nữa. 

Ngoài ra, vào ngày 31/8/2022, các sản phẩm GPU do hai công ty bán dẫn Nvidia và AMD sản xuất đã bị Mỹ đưa vào phạm vi hạn chế. Các sản phẩm bị hạn chế của Nvidia bao gồm A100 và H100 và các sản phẩm GPU được quản lý của AMD bao gồm MI250. Theo yêu cầu của chính phủ Mỹ, các sản phẩm GPU có hiệu suất cao nhất trong tương lai bằng hoặc vượt A100 cũng bị hạn chế bán.

Dù vậy, Trung Quốc vẫn có thể lựa chọn một loại chip khác thay thế, đó là A800 của Nvidia, một “phiên bản thấp” hơn của A100. Đây được coi là giải pháp tốt nhất sau khi A100 bị cấm giao dịch tại thị trường Trung Quốc, Nvidia cũng đã tung ngay A800, một phiên bản đặc biệt cho thị trường này. Hiệu suất tính toán của sản phẩm này về cơ bản giống như của A100, nhưng tốc độ truyền dữ liệu giảm 30%. Điều này gây ảnh hưởng trực tiếp đến tốc độ truyền tải và hiệu quả của cụm AI.

Tuy nhiên, tính tới thời điểm này, chip A800 cũng thiếu hụt trầm trọng tại thị trường Trung Quốc. Dù là “phiên bản thấp” của A100 nhưng giá của A800 trên web mua bán JD.com cũng vượt mức 80.000 NDT/chiếc, đắt hơn giá chính thức của A100 (10.000 USD/chiếc). Dù vậy, A800 vẫn hết sạch hàng trên JD.com vì nó lại trở thành mặt hàng khan hiếm của thị trường Trung Quốc. 

Do số lượng và hiệu suất của GPU không đủ, nên độ chính xác về suy luận và sức truyền tải của AI trở nên thấp hơn. Điều này trực tiếp dẫn đến một thực tế là ngay cả khi các công ty Trung Quốc tạo ra những robot đối thoại tương tự, thì "IQ" của robot này vẫn sẽ thấp hơn nhiều so với ChatGPT. Sự thiếu hụt chip GPU hiệu suất cao từ các nhà sản xuất đám mây trong nước đang trở thành yếu tố trực tiếp nhất hạn chế sự ra đời của ChatGPT phiên bản Trung Quốc.

Ngoài ra, ngay cả khi có đủ GPU hiệu suất cao các nhà cung cấp đám mây Trung Quốc vẫn phải đối mặt với chi phí mua sắm phần cứng cao, chi phí đào tạo mô hình và chi phí vận hành hàng ngày.

OpenAI có thể phát triển ChatGPT là một phần nhờ Microsoft cung cấp vốn và sức mạnh tính toán. Năm 2019, Microsoft đã đầu tư 1 tỷ USD vào OpenAI. Tới năm 2021, Microsoft lại tiến hành một vòng đầu tư khác với số tiền không được tiết lộ. Cho tới tháng 1 năm nay, Microsoft thông báo rằng họ sẽ đầu tư 10 tỷ USD vào OpenAI trong vài năm tới.

Microsoft mua GPU trên quy mô lớn để xây dựng các cụm máy tính thông minh, điều này hợp lý về mặt logic kinh doanh. Vào năm 2022, khoản đầu tư của Microsoft vào cơ sở hạ tầng điện toán đám mây vượt quá 25 tỷ USD và lợi nhuận hoạt động trên nền tảng đám mây của Microsoft cũng đã vượt 40 tỷ USD. Lợi nhuận lớn hơn chi tiêu và đầu tư quy mô lớn vào sức mạnh điện toán AI và mô hình kinh doanh quy mô lớn phù hợp với tình trạng tài chính của Microsoft. Điện toán AI của Microsoft có sản phẩm, khách hàng và doanh thu, tạo thành một điểm tăng trưởng mới. Khách hàng của Microsoft thường thuê hàng nghìn GPU hiệu suất cao trên đám mây để học mô hình ngôn ngữ nhằm sử dụng AI thế hệ mới của riêng họ.

Về phần các công ty Trung Quốc, vốn chi tiêu dành cho cơ sở hạ tầng đám mây và việc đầu tư vào các cụm điện toán thông minh và các mô hình lớn AI bị hạn chế. Trở ngại lớn hơn của họ là không thể kiếm được lợi nhuận trong ngắn hạn và trung hạn, thậm chí còn mất nhiều tiền hơn. Việc thương mại hóa sức mạnh tính toán AI và các mô hình lớn tại thị trường Trung Quốc vẫn còn ở giai đoạn sơ khai.

Trung Quốc hiện không có đủ GPU hiệu suất cao để đào tạo mô hình AI quy mô lớn, vì vậy trước tiên, các mô hình nhỏ có thể được tạo trong các lĩnh vực được chia nhỏ. Sự phát triển nhanh chóng của công nghệ AI đã vượt quá nhận thức của con người, đối với các công ty Trung Quốc, cách cơ bản là tiếp tục nỗ lực triển khai các chiến lược.