Tencent tăng cường hiệu quả đào tạo AI mà không cần chip tiên tiến nhất của Nvidia
Nguyễn Hà
05/07/2024
Tencent đã đạt được bước tiến đáng kể trong việc nâng cao hiệu quả đào tạo trí tuệ nhân tạo (AI), tăng 20% hiệu suất mà không cần sử dụng chip Nvidia tiên tiến nhất…
Tencent Holdings đã thực hiện nâng cấp cho mạng lưới máy tính hiệu suất cao (HPC) và trí tuệ nhân tạo (AI) của họ. Động thái này diễn ra trong bối cảnh các tập đoàn công nghệ Trung Quốc đang đẩy mạnh nỗ lực phát triển mô hình ngôn ngữ lớn (LLM) bằng cách sử dụng các hệ thống và thiết bị hiện có trong nước, nhằm giảm thiểu sự phụ thuộc vào công nghệ nước ngoài và thúc đẩy tự chủ công nghệ.
XINGMAI 2.0 MANG ĐẾN NHỮNG CẢI TIẾN VƯỢT TRỘI VỀ HIỆU SUẤT
Tencent Cloud đã chính thức giới thiệu phiên bản 2.0 của Mạng thông minh hiệu suất cao (HPC) mang tên Xingmai. Theo công ty, Xingmai 2.0 mang đến những cải tiến vượt trội về hiệu suất, giúp nâng cao tốc độ truyền dữ liệu và đào tạo mô hình LLM lần lượt 60% và 20%.
Mạng HPC kết nối các cụm bộ xử lý đồ họa (GPU) mạnh mẽ để xử lý dữ liệu và giải quyết vấn đề ở tốc độ cực cao. Việc cải thiện hiệu suất của Xingmai 2.0 được thực hiện trong bối cảnh Trung Quốc gia tăng nỗ lực phát triển AI bất chấp hạn chế tiếp cận chip tiên tiến Nvidia do quy định xuất khẩu của Mỹ.
Tencent, gã khổng lồ công nghệ có giá trị nhất của Trung Quốc, đã đạt được mức tăng hiệu suất bằng cách tối ưu hóa các cơ sở hiện có thay vì cố gắng cạnh tranh trực tiếp với các đối thủ Mỹ như OpenAI về tiềm lực tài chính và công nghệ bán dẫn tiên tiến.
Tencent đã phát hiện ra rằng các cụm máy tính trong mạng lưới HPC truyền thống dành phần lớn thời gian cho việc trao đổi thông tin, dẫn đến lãng phí đáng kể năng lực GPU. Để giải quyết vấn đề này, công ty đã thực hiện nâng cấp mạng lưới nhằm tăng tốc độ giao tiếp đồng thời giảm chi phí vận hành.
Việc tối ưu hóa mạng lưới HPC của Tencent là một ví dụ điển hình về cách thức các công ty có thể tận dụng hiệu quả các nguồn lực hiện có để đạt được hiệu quả cao hơn. Cách tiếp cận này có thể được áp dụng cho nhiều lĩnh vực khác nhau, góp phần thúc đẩy đổi mới và tiết kiệm chi phí.
Theo công ty, mạng Xingmai có thể hỗ trợ một cụm máy tính duy nhất với hơn 100.000 GPU, tăng gấp đôi quy mô so với phiên bản mạng ban đầu được phát hành vào năm 2023. Tencent cho biết hiệu suất được cải thiện giúp rút ngắn thời gian cần thiết để xác định sự cố xuống chỉ còn vài phút, thay vì nhiều ngày như trước đây.
VIỆC ỨNG DỤNG CÔNG NGHỆ NHANH CHÓNG TẠO RA CUỘC CHIẾN GIÁ CẢ TRONG NGÀNH AI TRUNG QUỐC
Tencent, tập đoàn công nghệ khổng lồ Trung Quốc, đang thực hiện những bước tiến mạnh mẽ trong lĩnh vực AI đầy tiềm năng. Công ty tập trung vào hai hướng chính bao gồm giới thiệu các mô hình LLM do chính công ty phát triển, cung cấp cho doanh nghiệp các giải pháp AI mạnh mẽ và hiệu quả.
Bên cạnh đó, Tencent cung cấp các dịch vụ hỗ trợ các công ty khác xây dựng và triển khai mô hình AI của riêng họ, giúp công ty tận dụng tối đa tiềm năng của AI trong hoạt động kinh doanh.
Ngành công nghiệp AI Trung Quốc đang chứng kiến một cuộc chiến giá cả gay gắt, xuất phát từ việc áp dụng dịch vụ AI tạo sinh ngày càng nhanh chóng. Các công ty lớn trong lĩnh vực này đang đua nhau giảm giá dịch vụ xuống mức thấp hơn nhiều so với các công ty phương Tây.
Tháng 5 vừa qua, Tencent đã thực hiện một bước đi quan trọng trong cuộc chiến giá AI đang diễn ra sôi nổi tại Trung Quốc. Công ty đã tung ra phiên bản lite miễn phí của mô hình LLM Hunyuan, đồng thời giảm giá cho các phiên bản tiêu chuẩn.
Động thái này diễn ra sau khi các đối thủ cạnh tranh lớn như ByteDance (chủ sở hữu TikTok), Baidu và Alibaba (sở hữu tờ báo South China Morning Post) cũng thực hiện các chiến lược giảm giá và cung cấp dịch vụ miễn phí tương tự. Mục tiêu chung của các công ty này là thu hút khách hàng và thúc đẩy thương mại hóa công nghệ AI của họ.
Nâng cao hiệu quả đào tạo mô hình, vốn là một quá trình tốn kém và tiêu tốn nhiều năng lượng, đóng vai trò then chốt trong cuộc chiến giá cả đang diễn ra sôi nổi trong lĩnh vực AI tại Trung Quốc. Việc cải thiện hiệu quả đào tạo giúp giảm chi phí vận hành, cho phép các công ty cung cấp dịch vụ AI với giá rẻ hơn, thu hút nhiều khách hàng hơn và cạnh tranh hiệu quả hơn.
Khi chi phí đào tạo thấp hơn, AI trở nên dễ tiếp cận hơn với các doanh nghiệp và cá nhân có nguồn lực hạn chế, thúc đẩy sự phát triển và ứng dụng AI rộng rãi hơn.
Baidu, gã khổng lồ công nghệ Trung Quốc, cũng đã đạt được những bước tiến đáng kể trong việc cải thiện hiệu quả của mô hình LLM hàng đầu của họ – Ernie. Theo thông tin từ CEO Robin Li Yanhong vào tháng 4 năm nay, hiệu quả đào tạo Ernie LLM đã được cải thiện hơn năm lần trong vòng một năm.
Ông Li cho biết hiệu suất xử lý thông tin của mô hình tăng 105 lần, đồng thời chi phí suy giảm 99%. Những tiến bộ này là kết quả của nỗ lực nghiên cứu và phát triển không ngừng của Baidu trong lĩnh vực AI
Từ khóa:
Thay vì dừng lại ở các cam kết định hướng, EmbedIT và VNFITE ký kết hợp tác chiến lược, lấy việc đánh giá toàn diện hệ thống hiện hữu làm tiền đề cho các bài toán công nghệ chuyên sâu...
Nền tảng số văn hóa - du lịch tích hợp trên siêu ứng dụng iHanoi, ứng dụng di động và nền tảng web, cung cấp hệ sinh thái tiện ích, hỗ trợ người dân và du khách tra cứu thông tin, khám phá điểm đến và tổ chức hành trình trải nghiệm Thủ đô…
Thỏa thuận hợp tác chiến lược chỉ định VNet trở thành đối tác tích hợp, nội địa hóa, thương mại hóa và dịch vụ của Quantropi tại Việt Nam, song song với việc triển khai Chương trình Đánh giá Mức độ Sẵn sàng Phân phối Khóa Bảo mật Lượng tử (QSKD).
Diamond Foundry công bố chế tạo thành công tinh thể kim cương đơn tinh thể đường kính 200 mm, đánh dấu bước tiến trong nỗ lực đưa một trong những vật liệu dẫn nhiệt tốt nhất tự nhiên vào ngành công nghiệp bán dẫn...
Agility Robotics, doanh nghiệp phát triển robot hình người được Nvidia hậu thuẫn, đã chính thức niêm yết trên sàn Nasdaq, trở thành công ty robot hình người chuyên biệt đầu tiên tại Mỹ có mặt trên thị trường chứng khoán…
Esports không chỉ là hoạt động thi đấu và giải trí trên nền tảng trực tuyến, mà đang mở rộng thành không gian gặp gỡ, giao lưu của một cộng đồng có chung sở thích…
Thị trường E Ink năm 2026 không còn giới hạn ở máy đọc sách truyền thống mà đang hình thành một hệ sinh thái thiết bị với nhiều kích thước, thiết kế và mục đích sử dụng khác nhau, từ phục vụ nhu cầu học tập, làm việc đến tranh nghệ thuật kỹ thuật số và trang trí nội thất…
Nhật Bản sẽ ưu tiên đầu tư vào các lĩnh vực như điện toán đám mây và trung tâm dữ liệu phục vụ AI trong quá trình triển khai chiến lược tăng trưởng quốc gia...
Tại Việt Nam, nhiều giống lúa truyền thống và lúa hoang vẫn được lưu giữ ở các ngân hàng gen, viện nghiên cứu và trường đại học. Đây là nguồn vật liệu quý cho nghiên cứu và lai tạo giống...
Alif được cho là công ty đang định nghĩa lại trí tuệ biên (edge intelligence) với một nền tảng tiên tiến gồm các vi điều khiển và bộ xử lý tích hợp AI-native có hiệu suất cao.