Tencent tăng cường hiệu quả đào tạo AI mà không cần chip tiên tiến nhất của Nvidia
Nguyễn Hà
05/07/2024
Tencent đã đạt được bước tiến đáng kể trong việc nâng cao hiệu quả đào tạo trí tuệ nhân tạo (AI), tăng 20% hiệu suất mà không cần sử dụng chip Nvidia tiên tiến nhất…
Tencent Holdings đã thực hiện nâng cấp cho mạng lưới máy tính hiệu suất cao (HPC) và trí tuệ nhân tạo (AI) của họ. Động thái này diễn ra trong bối cảnh các tập đoàn công nghệ Trung Quốc đang đẩy mạnh nỗ lực phát triển mô hình ngôn ngữ lớn (LLM) bằng cách sử dụng các hệ thống và thiết bị hiện có trong nước, nhằm giảm thiểu sự phụ thuộc vào công nghệ nước ngoài và thúc đẩy tự chủ công nghệ.
XINGMAI 2.0 MANG ĐẾN NHỮNG CẢI TIẾN VƯỢT TRỘI VỀ HIỆU SUẤT
Tencent Cloud đã chính thức giới thiệu phiên bản 2.0 của Mạng thông minh hiệu suất cao (HPC) mang tên Xingmai. Theo công ty, Xingmai 2.0 mang đến những cải tiến vượt trội về hiệu suất, giúp nâng cao tốc độ truyền dữ liệu và đào tạo mô hình LLM lần lượt 60% và 20%.
Mạng HPC kết nối các cụm bộ xử lý đồ họa (GPU) mạnh mẽ để xử lý dữ liệu và giải quyết vấn đề ở tốc độ cực cao. Việc cải thiện hiệu suất của Xingmai 2.0 được thực hiện trong bối cảnh Trung Quốc gia tăng nỗ lực phát triển AI bất chấp hạn chế tiếp cận chip tiên tiến Nvidia do quy định xuất khẩu của Mỹ.
Tencent, gã khổng lồ công nghệ có giá trị nhất của Trung Quốc, đã đạt được mức tăng hiệu suất bằng cách tối ưu hóa các cơ sở hiện có thay vì cố gắng cạnh tranh trực tiếp với các đối thủ Mỹ như OpenAI về tiềm lực tài chính và công nghệ bán dẫn tiên tiến.
Tencent đã phát hiện ra rằng các cụm máy tính trong mạng lưới HPC truyền thống dành phần lớn thời gian cho việc trao đổi thông tin, dẫn đến lãng phí đáng kể năng lực GPU. Để giải quyết vấn đề này, công ty đã thực hiện nâng cấp mạng lưới nhằm tăng tốc độ giao tiếp đồng thời giảm chi phí vận hành.
Việc tối ưu hóa mạng lưới HPC của Tencent là một ví dụ điển hình về cách thức các công ty có thể tận dụng hiệu quả các nguồn lực hiện có để đạt được hiệu quả cao hơn. Cách tiếp cận này có thể được áp dụng cho nhiều lĩnh vực khác nhau, góp phần thúc đẩy đổi mới và tiết kiệm chi phí.
Theo công ty, mạng Xingmai có thể hỗ trợ một cụm máy tính duy nhất với hơn 100.000 GPU, tăng gấp đôi quy mô so với phiên bản mạng ban đầu được phát hành vào năm 2023. Tencent cho biết hiệu suất được cải thiện giúp rút ngắn thời gian cần thiết để xác định sự cố xuống chỉ còn vài phút, thay vì nhiều ngày như trước đây.
VIỆC ỨNG DỤNG CÔNG NGHỆ NHANH CHÓNG TẠO RA CUỘC CHIẾN GIÁ CẢ TRONG NGÀNH AI TRUNG QUỐC
Tencent, tập đoàn công nghệ khổng lồ Trung Quốc, đang thực hiện những bước tiến mạnh mẽ trong lĩnh vực AI đầy tiềm năng. Công ty tập trung vào hai hướng chính bao gồm giới thiệu các mô hình LLM do chính công ty phát triển, cung cấp cho doanh nghiệp các giải pháp AI mạnh mẽ và hiệu quả.
Bên cạnh đó, Tencent cung cấp các dịch vụ hỗ trợ các công ty khác xây dựng và triển khai mô hình AI của riêng họ, giúp công ty tận dụng tối đa tiềm năng của AI trong hoạt động kinh doanh.
Ngành công nghiệp AI Trung Quốc đang chứng kiến một cuộc chiến giá cả gay gắt, xuất phát từ việc áp dụng dịch vụ AI tạo sinh ngày càng nhanh chóng. Các công ty lớn trong lĩnh vực này đang đua nhau giảm giá dịch vụ xuống mức thấp hơn nhiều so với các công ty phương Tây.
Tháng 5 vừa qua, Tencent đã thực hiện một bước đi quan trọng trong cuộc chiến giá AI đang diễn ra sôi nổi tại Trung Quốc. Công ty đã tung ra phiên bản lite miễn phí của mô hình LLM Hunyuan, đồng thời giảm giá cho các phiên bản tiêu chuẩn.
Động thái này diễn ra sau khi các đối thủ cạnh tranh lớn như ByteDance (chủ sở hữu TikTok), Baidu và Alibaba (sở hữu tờ báo South China Morning Post) cũng thực hiện các chiến lược giảm giá và cung cấp dịch vụ miễn phí tương tự. Mục tiêu chung của các công ty này là thu hút khách hàng và thúc đẩy thương mại hóa công nghệ AI của họ.
Nâng cao hiệu quả đào tạo mô hình, vốn là một quá trình tốn kém và tiêu tốn nhiều năng lượng, đóng vai trò then chốt trong cuộc chiến giá cả đang diễn ra sôi nổi trong lĩnh vực AI tại Trung Quốc. Việc cải thiện hiệu quả đào tạo giúp giảm chi phí vận hành, cho phép các công ty cung cấp dịch vụ AI với giá rẻ hơn, thu hút nhiều khách hàng hơn và cạnh tranh hiệu quả hơn.
Khi chi phí đào tạo thấp hơn, AI trở nên dễ tiếp cận hơn với các doanh nghiệp và cá nhân có nguồn lực hạn chế, thúc đẩy sự phát triển và ứng dụng AI rộng rãi hơn.
Baidu, gã khổng lồ công nghệ Trung Quốc, cũng đã đạt được những bước tiến đáng kể trong việc cải thiện hiệu quả của mô hình LLM hàng đầu của họ – Ernie. Theo thông tin từ CEO Robin Li Yanhong vào tháng 4 năm nay, hiệu quả đào tạo Ernie LLM đã được cải thiện hơn năm lần trong vòng một năm.
Ông Li cho biết hiệu suất xử lý thông tin của mô hình tăng 105 lần, đồng thời chi phí suy giảm 99%. Những tiến bộ này là kết quả của nỗ lực nghiên cứu và phát triển không ngừng của Baidu trong lĩnh vực AI
Từ khóa:
Việc kết hợp năng lực của một tập đoàn bảo hiểm với một tập đoàn công nghệ được kỳ vọng sẽ mở ra những giải pháp bảo vệ toàn diện hơn, thuận tiện hơn, đồng thời góp phần thúc đẩy các mô hình bảo hiểm gắn với công nghệ và chuyển đổi số tại Việt Nam.
OpenAI, Meta và Anthropic đang gắn các công cụ và tác nhân trí tuệ nhân tạo (AI) với những nhân vật hoạt hình dễ thương, trong nỗ lực khiến công nghệ trở nên gần gũi và dễ tiếp cận hơn với người dùng…
Alphabet đưa các chip AI do Google tự phát triển lên quỹ đạo bằng tên lửa Falcon 9 của SpaceX, trong bước thử nghiệm đầu tiên nhằm triển khai tham vọng xây dựng hạ tầng điện toán AI trong không gian...
Nền tảng tích hợp công nghệ AI này đóng vai trò như một đầu mối duy nhất, hỗ trợ người dân tìm kiếm thông tin và tiếp cận các dịch vụ của chính quyền liên bang một cách thuận tiện.
OpenAI đã quyết định không phát hành mô hình trí tuệ nhân tạo (AI) GPT-6.1 Astra sau khi đánh giá cho thấy hệ thống chưa đáp ứng đầy đủ các tiêu chuẩn an toàn của công ty…
Các công cụ tạo video bằng AI đang cho phép sản xuất những đoạn phim có hình ảnh ngày càng chân thực trong thời gian ngắn hơn, với chi phí thấp hơn đáng kể so với phương thức quay phim người thật truyền thống...
Thay vì chỉ chạy đua về quy mô dữ liệu đám mây, các doanh nghiệp công nghệ đang phát triển trợ lý AI có khả năng ghi nhớ dài hạn và xử lý dữ liệu riêng tư ngay trên hệ sinh thái phần cứng cá nhân.
Hội nghị thượng đỉnh sắp tới giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình dự kiến sẽ đưa những quan ngại về rủi ro từ AI vào nghị trình nghị sự.
Anthropic và OpenAI đồng loạt tung các phiên bản mô hình AI có chi phí thấp hơn. Điều này diễn ra khi các phòng thí nghiệm AI Mỹ phải cạnh tranh về giá bên cạnh năng lực mô hình, trước sức ép từ các đối thủ Trung Quốc…
Một startup tại Mỹ đang phát triển công nghệ sử dụng CO2 siêu tới hạn để tận dụng phần nhiệt thải từ các turbine khí, qua đó nâng hiệu suất phát điện cho các trung tâm dữ liệu mà không làm tăng thêm lượng phát thải từ quá trình vận hành turbine...