Tencent tăng cường hiệu quả đào tạo AI mà không cần chip tiên tiến nhất của Nvidia
Nguyễn Hà
05/07/2024
Tencent đã đạt được bước tiến đáng kể trong việc nâng cao hiệu quả đào tạo trí tuệ nhân tạo (AI), tăng 20% hiệu suất mà không cần sử dụng chip Nvidia tiên tiến nhất…
Tencent Holdings đã thực hiện nâng cấp cho mạng lưới máy tính hiệu suất cao (HPC) và trí tuệ nhân tạo (AI) của họ. Động thái này diễn ra trong bối cảnh các tập đoàn công nghệ Trung Quốc đang đẩy mạnh nỗ lực phát triển mô hình ngôn ngữ lớn (LLM) bằng cách sử dụng các hệ thống và thiết bị hiện có trong nước, nhằm giảm thiểu sự phụ thuộc vào công nghệ nước ngoài và thúc đẩy tự chủ công nghệ.
XINGMAI 2.0 MANG ĐẾN NHỮNG CẢI TIẾN VƯỢT TRỘI VỀ HIỆU SUẤT
Tencent Cloud đã chính thức giới thiệu phiên bản 2.0 của Mạng thông minh hiệu suất cao (HPC) mang tên Xingmai. Theo công ty, Xingmai 2.0 mang đến những cải tiến vượt trội về hiệu suất, giúp nâng cao tốc độ truyền dữ liệu và đào tạo mô hình LLM lần lượt 60% và 20%.
Mạng HPC kết nối các cụm bộ xử lý đồ họa (GPU) mạnh mẽ để xử lý dữ liệu và giải quyết vấn đề ở tốc độ cực cao. Việc cải thiện hiệu suất của Xingmai 2.0 được thực hiện trong bối cảnh Trung Quốc gia tăng nỗ lực phát triển AI bất chấp hạn chế tiếp cận chip tiên tiến Nvidia do quy định xuất khẩu của Mỹ.
Tencent, gã khổng lồ công nghệ có giá trị nhất của Trung Quốc, đã đạt được mức tăng hiệu suất bằng cách tối ưu hóa các cơ sở hiện có thay vì cố gắng cạnh tranh trực tiếp với các đối thủ Mỹ như OpenAI về tiềm lực tài chính và công nghệ bán dẫn tiên tiến.
Tencent đã phát hiện ra rằng các cụm máy tính trong mạng lưới HPC truyền thống dành phần lớn thời gian cho việc trao đổi thông tin, dẫn đến lãng phí đáng kể năng lực GPU. Để giải quyết vấn đề này, công ty đã thực hiện nâng cấp mạng lưới nhằm tăng tốc độ giao tiếp đồng thời giảm chi phí vận hành.
Việc tối ưu hóa mạng lưới HPC của Tencent là một ví dụ điển hình về cách thức các công ty có thể tận dụng hiệu quả các nguồn lực hiện có để đạt được hiệu quả cao hơn. Cách tiếp cận này có thể được áp dụng cho nhiều lĩnh vực khác nhau, góp phần thúc đẩy đổi mới và tiết kiệm chi phí.
Theo công ty, mạng Xingmai có thể hỗ trợ một cụm máy tính duy nhất với hơn 100.000 GPU, tăng gấp đôi quy mô so với phiên bản mạng ban đầu được phát hành vào năm 2023. Tencent cho biết hiệu suất được cải thiện giúp rút ngắn thời gian cần thiết để xác định sự cố xuống chỉ còn vài phút, thay vì nhiều ngày như trước đây.
VIỆC ỨNG DỤNG CÔNG NGHỆ NHANH CHÓNG TẠO RA CUỘC CHIẾN GIÁ CẢ TRONG NGÀNH AI TRUNG QUỐC
Tencent, tập đoàn công nghệ khổng lồ Trung Quốc, đang thực hiện những bước tiến mạnh mẽ trong lĩnh vực AI đầy tiềm năng. Công ty tập trung vào hai hướng chính bao gồm giới thiệu các mô hình LLM do chính công ty phát triển, cung cấp cho doanh nghiệp các giải pháp AI mạnh mẽ và hiệu quả.
Bên cạnh đó, Tencent cung cấp các dịch vụ hỗ trợ các công ty khác xây dựng và triển khai mô hình AI của riêng họ, giúp công ty tận dụng tối đa tiềm năng của AI trong hoạt động kinh doanh.
Ngành công nghiệp AI Trung Quốc đang chứng kiến một cuộc chiến giá cả gay gắt, xuất phát từ việc áp dụng dịch vụ AI tạo sinh ngày càng nhanh chóng. Các công ty lớn trong lĩnh vực này đang đua nhau giảm giá dịch vụ xuống mức thấp hơn nhiều so với các công ty phương Tây.
Tháng 5 vừa qua, Tencent đã thực hiện một bước đi quan trọng trong cuộc chiến giá AI đang diễn ra sôi nổi tại Trung Quốc. Công ty đã tung ra phiên bản lite miễn phí của mô hình LLM Hunyuan, đồng thời giảm giá cho các phiên bản tiêu chuẩn.
Động thái này diễn ra sau khi các đối thủ cạnh tranh lớn như ByteDance (chủ sở hữu TikTok), Baidu và Alibaba (sở hữu tờ báo South China Morning Post) cũng thực hiện các chiến lược giảm giá và cung cấp dịch vụ miễn phí tương tự. Mục tiêu chung của các công ty này là thu hút khách hàng và thúc đẩy thương mại hóa công nghệ AI của họ.
Nâng cao hiệu quả đào tạo mô hình, vốn là một quá trình tốn kém và tiêu tốn nhiều năng lượng, đóng vai trò then chốt trong cuộc chiến giá cả đang diễn ra sôi nổi trong lĩnh vực AI tại Trung Quốc. Việc cải thiện hiệu quả đào tạo giúp giảm chi phí vận hành, cho phép các công ty cung cấp dịch vụ AI với giá rẻ hơn, thu hút nhiều khách hàng hơn và cạnh tranh hiệu quả hơn.
Khi chi phí đào tạo thấp hơn, AI trở nên dễ tiếp cận hơn với các doanh nghiệp và cá nhân có nguồn lực hạn chế, thúc đẩy sự phát triển và ứng dụng AI rộng rãi hơn.
Baidu, gã khổng lồ công nghệ Trung Quốc, cũng đã đạt được những bước tiến đáng kể trong việc cải thiện hiệu quả của mô hình LLM hàng đầu của họ – Ernie. Theo thông tin từ CEO Robin Li Yanhong vào tháng 4 năm nay, hiệu quả đào tạo Ernie LLM đã được cải thiện hơn năm lần trong vòng một năm.
Ông Li cho biết hiệu suất xử lý thông tin của mô hình tăng 105 lần, đồng thời chi phí suy giảm 99%. Những tiến bộ này là kết quả của nỗ lực nghiên cứu và phát triển không ngừng của Baidu trong lĩnh vực AI
Từ khóa:
Đáng chú ý, làn sóng vốn mới đổ vào robot Trung Quốc đang chuyển sang trọng tâm xây dựng “bộ não” cho robot hình người…
UpScrolled muốn tạo ra không gian nơi người dùng có thể “tự do bày tỏ suy nghĩ, chia sẻ khoảnh khắc và kết nối mọi người” bên ngoài các nền tảng Big Tech truyền thống…
Khi các nội dung AI na ná nhau xuất hiện ngày càng nhiều, cuộc đua tìm kiếm những con người có thể kể chuyện thật sự ngày càng khốc liệt hơn…
Mô hình AI của Google DeepMind có thể giải mã DNA và dự đoán một số đột biến, mở ra hướng đi mới cho nghiên cứu chữa bệnh…
Các bác sĩ cho biết kết quả ban đầu của Neuralink rất đáng khích lệ, nhưng công nghệ hiện vẫn trong giai đoạn thử nghiệm…
Các đối thủ đã kiếm được hàng tỷ đô la trong lĩnh vực kinh doanh chip năm qua, cho thấy rằng Nvidia không phải là người duy nhất thống trị thị trường…
Khi các tính năng sản phẩm và sự hỗ trợ của AI dần trở nên bão hòa, cảm xúc trở thành "chiến trường" cuối cùng để các thương hiệu giành lấy niềm tin khách hàng...
Công nghệ giáo dục đang chuyển sang một kỷ nguyên thích ứng, nơi các hệ thống vận hành như một hệ sinh thái số thống nhất và không ngừng phát triển…
Sự hợp tác được thúc đẩy bởi nhu cầu hiện đại hóa và tình trạng thiếu hụt nhân sự tại Nhật Bản, giữa lúc Việt Nam nổi lên là điểm đến tối ưu nhờ năng lực chuyên môn, khả năng mở rộng đội ngũ và kinh nghiệm làm việc dày dặn với khách hàng Nhật...
Hackathon nhấn mạnh cách tiếp cận giải quyết vấn đề từ thực tiễn, việc sử dụng AI một cách có trách nhiệm và đạo đức, cũng như sự phù hợp của giải pháp với điều kiện khí hậu và bối cảnh địa phương của Đồng bằng sông Cửu Long...