ChatGPT chỉ tiêu tốn 1/10 năng lượng so với tưởng tượng ban đầu

Việc chỉ trích trí tuệ nhân tạo (AI) dưới mọi hình thức là điều không khó bắt gặp và nhiều nhà phê bình vẫn làm khá thường xuyên. Tuy nhiên, nghiên cứu gần đây từ Epoch AI chỉ ra rằng có thể mọi người đã quá vội vàng khi đánh giá mức tiêu thụ năng lượng của AI, theo Yahoo Tech.

Epoch AI, đơn vị thực hiện nghiên cứu, cho biết ChatGPT có thể chỉ tiêu thụ khoảng 0,3 Wh điện năng, "ít hơn gấp 10 lần" so với ước tính cũ, khoảng 3 Wh.

Dựa trên một lần tìm kiếm Google tiêu tốn khoảng 0,0003 kWh điện và ước tính cũ của ChatGPT là 3 Wh, Chủ tịch Alphabet, ông John Hennessey, từng tuyên bố một lần hỏi đáp với mô hình ngôn ngữ lớn (LLM) có thể tiêu tốn gấp 10 lần năng lượng so với tìm kiếm trên Google. Nếu ước tính mới của Epoch AI là chính xác, thì cuộc trò chuyện với GPT-4o thực tế chỉ tiêu thụ lượng năng lượng tương đương với một lần tìm kiếm trên Google.

Việc tiêu thụ năng lượng máy chủ không phải điều mà hầu hết mọi người nghĩ đến khi sử dụng dịch vụ đám mây. Bên cạnh đó, nhiều người thường quên còn có những chi phí năng lượng khác ngoài thiết bị cá nhân tiêu thụ khi sử dụng ChatGPT.

Đầu tiên, các LLM phải trải qua quá trình huấn luyện dữ liệu khổng lồ (tiêu tốn rất nhiều năng lượng), ngay cả khi đã huấn luyện xong và đi vào vận hành, công cụ vẫn cần truy xuất từ những mô hình lớn để xử lý, ngay cả với câu hỏi đơn giản. Đó chính là bản chất vấn đề và “cỗ máy quái vật” này cần được cung cấp năng lượng để duy trì hoạt động.

Thế nhưng, rõ ràng là mức năng lượng tiêu thụ này ít hơn mức con người tính toán ban đầu theo từng lượt tương tác. Để đưa ra cái nhìn rõ hơn, 0,3 watt-giờ ít hơn lượng điện mà một bóng đèn LED hoặc một chiếc laptop tiêu thụ trong vài phút. Ngay cả với người dùng chat nhiều, chi phí năng lượng của ChatGPT vẫn chỉ chiếm một phần rất nhỏ so với tổng mức tiêu thụ điện năng của một cư dân ở quốc gia phát triển.

Epoch AI giải thích rằng có sự khác biệt giữa cách tính toán ước tính mới của công ty và cách ước tính 3 Wh ban đầu. Cơ bản là phương pháp ước tính mới sử dụng "giả định thực tế hơn về số lượng token đầu ra trong một lần sử dụng chatbot điển hình", trong khi cách ước tính ban đầu giả định số token đầu ra tương đương với khoảng 1.500 từ trung bình (token là đơn vị văn bản, như một từ). Ước tính mới cũng giả định chỉ sử dụng 70% công suất tối đa của máy chủ và việc tính toán được thực hiện trên con chip mới (Nvidia H100 thay vì A100).

Tất cả những thay đổi này đang tạo nên bức tranh về một ChatGPT tiêu thụ ít năng lượng hơn. Tuy nhiên, Epoch AI cũng chỉ ra "vẫn còn nhiều điều không chắc chắn liên quan đến số lượng tham số, mức độ sử dụng và một vài yếu tố khác". Chẳng hạn, truy vấn dài hơn có thể khiến việc tiêu thụ năng lượng "tăng đáng kể từ 2,5 đến 40 watt/giờ".

XÉT TRÊN NHIỀU GÓC ĐỘ

Đây là bài toán phức tạp, cần xem xét ở nhiều khía cạnh, cụ thể là những lợi ích của AI đối với việc tiêu thụ năng lượng. 

Sau tất cả, công nghệ năng suất cao không thể tồn tại trong môi trường khép kín. Chẳng hạn, việc sử dụng AI như ChatGPT giúp tạo ra đột phá trong sản xuất năng lượng, giảm thiểu tiêu thụ năng lượng trên toàn cầu. 

Hơn nữa, việc sử dụng AI có thể nâng cao năng suất, giúp tiết kiệm năng lượng. Ví dụ, một công việc thủ công trước đây yêu cầu phải giữ máy tính bật và tiêu thụ năng lượng trong 10 phút, nhưng với sự trợ giúp của AI, công việc đó có thể hoàn thành trong một phút.

Mặt khác, nghiên cứu cũng cần xem xét chi phí đào tạo AI. Tuy nhiên, mô hình ngôn ngữ lớn hiện nay đang dần ổn định, có nghĩa là việc huấn luyện dữ liệu quy mô lớn sẽ giảm đi trong tương lai. Thêm vào đó, với mỗi lượt tìm kiếm Google, không chỉ có chi phí từ mỗi lần tìm kiếm và tạo trang kết quả, mà còn phải nhắc đến chi phí lập chỉ mục web và những yếu tố khác.

Nói cách khác, đây là bài toán phức tạp, giống như tất cả công nghệ khác, có lẽ không nên đánh giá AI trong môi trường khép kín, việc tiêu thụ năng lượng không bao giờ là biến số độc lập. 

Điều con người quan tâm là sức khỏe và năng suất của toàn bộ hệ thống, nền kinh tế, xã hội và yếu tố khác. Để ra được kết quả, đòi hỏi con người phải xem xét các phương trình đa biến, gắn chặt với phân tích chi phí-lợi ích, và thật khó để có cái nhìn đầy đủ, đặc biệt khi phần lớn bài toán đó phụ thuộc vào một tương lai không chắc chắn.

Con số 0,3 Wh mới chắc chắn là bước tiến tích cực, nhưng đây vẫn chỉ là ước tính, và Epoch AI hiểu rõ ràng về điều này: "Sự minh bạch hơn từ OpenAI và doanh nghiệp công nghệ lớn khác sẽ giúp nghiên cứu ước tính chính xác hơn".