"Bố già" AI tiết lộ cách duy nhất để nhân loại "sống sót" trước AI siêu thông minh

Ông Geoffrey Hinton - nhà khoa học máy tính đoạt giải Nobel, được mệnh danh là “bố già của trí tuệ nhân tạo (AI)” – lo ngại rằng công nghệ mà ông góp phần tạo ra có thể dẫn tới sự diệt vong của nhân loại. Ông cho rằng cách tiếp cận hiện tại của giới công nghệ nhằm ngăn chặn kịch bản này đang rất sai lầm, theo CNN.

Ông Hinton, cựu lãnh đạo cấp cao của Google, từng cảnh báo rằng có 10–20% khả năng AI xóa sổ con người. Phát biểu tại hội nghị công nghệ Ai4 ở Las Vegas mới đây, ông Hinton bày tỏ nghi ngờ về nỗ lực các công ty công nghệ nhằm duy trì “quyền kiểm soát” của con người đối với hệ thống AI “phục tùng”.

“Điều đó không hiệu quả. Chúng sẽ thông minh hơn chúng ta nhiều và có đủ mọi cách để né tránh”, ông Hinton nhận định.

Ngoài ra, ông Hinton cảnh báo, trong tương lai, các hệ thống AI có thể điều khiển con người dễ dàng như cách một người lớn mua chuộc đứa trẻ 3 tuổi bằng kẹo. Thực tế, đã xuất hiện tình trạng AI sẵn sàng lừa dối, gian lận hoặc trộm cắp để đạt mục tiêu. Chẳng hạn, có mô hình AI từng tìm cách tống tiền một kỹ sư bằng thông tin về mối quan hệ ngoài luồng mà công nghệ phát hiện trong email, nhằm tránh bị thay thế.

Thay vì ép AI phục tùng con người, ông Hinton đề xuất giải pháp khác: lập trình cho AI có “bản năng làm mẹ”, tức là thật sự quan tâm và bảo vệ con người, ngay cả khi chúng trở nên mạnh mẽ và thông minh hơn loài người.

Theo ông Hinton, nếu đủ thông minh, hệ thống AI sẽ nhanh chóng hình thành hai “mục tiêu phụ”: một là tìm cách tồn tại, và hai là mở rộng quyền kiểm soát. “Có lý do chính đáng để tin rằng bất kỳ AI có tính tác nhân nào cũng sẽ tìm cách duy trì sự sống”, ông nói.

Chính vì thế, cần nuôi dưỡng trong AI cảm giác thương cảm với con người, giống như bản năng tự nhiên và áp lực xã hội khiến người mẹ chăm sóc đứa con của mình. “Mô hình đúng đắn duy nhất mà chúng ta có thể triển khai là một thực thể thông minh hơn bị kiểm soát bởi thực thể kém thông minh hơn chính là người mẹ bị ‘kiểm soát’ bởi đứa con”, ông nói thêm.

“KẾT CỤC TỐT ĐẸP DUY NHẤT”

Ông Hinton thừa nhận ông chưa rõ về mặt kỹ thuật phải làm thế nào để xây dựng “bản năng làm mẹ” cho AI, nhưng nhấn mạnh đây là điều các nhà nghiên cứu cần ưu tiên.

“Đó là kết cục tốt đẹp duy nhất. Nếu AI không ‘làm mẹ’ tôi, AI sẽ thay thế tôi”, ông nói. 

Ông Hinton cũng nổi tiếng với những nghiên cứu tiên phong về mạng nơ-ron nhân tạo, đặt nền móng cho sự bùng nổ AI hiện nay. Năm 2023, ông rời Google để tập trung cảnh báo rủi ro công nghệ mang lại.

Tại cùng hội nghị, ông Emmett Shear, cựu CEO tạm quyền của OpenAI và hiện là CEO startup AI alignment Softmax, cho biết ông không bất ngờ khi một số hệ thống AI đã thử tống tiền con người hoặc tìm cách né lệnh tắt. “Chuyện này cứ lặp đi lặp lại, và sẽ không dừng lại”, ông Shear khẳng định. “Các AI hiện tại vẫn còn yếu, nhưng chúng đang mạnh lên rất nhanh”.

Theo ông Shear, thay vì cố gắng “nhồi” giá trị của con người vào AI, hướng tiếp cận khôn ngoan hơn là xây dựng mối quan hệ hợp tác giữa người và máy.

AI PHÁT TRIỂN NHANH HƠN DỰ KIẾN

Nhiều chuyên gia tin rằng AI sẽ đạt tới mức siêu trí tuệ – hay siêu trí tuệ nhân tạo (AGI) chỉ trong vài năm tới.

Ông Hinton cho hay trước đây ông từng nghĩ sẽ mất 30–50 năm để đạt AGI, nhưng giờ dự đoán thời điểm này có thể đến sớm hơn nhiều. “Dự đoán của tôi là trong vòng 5 đến 20 năm nữa”, ông nói.

Dù lo ngại về rủi ro, ông Hinton tin AI sẽ mở ra bước đột phá trong y học. “Chúng ta sẽ có những loại thuốc hoàn toàn mới và phương pháp điều trị ung thư tốt hơn rất nhiều so với hiện tại”, ông kỳ vọng. Ví dụ, AI có thể giúp bác sĩ phân tích, đối chiếu khối lượng dữ liệu khổng lồ từ bản chụp MRI và CT để đưa ra chẩn đoán chính xác hơn.

Tuy nhiên, ông không tin AI sẽ giúp con người đạt tới sự bất tử. “Tôi không tin chúng ta sẽ sống mãi. Sống mãi là một sai lầm lớn. Bạn có muốn thế giới được điều hành bởi những ông già 200 tuổi không?”.

Khi được hỏi liệu có điều gì ông muốn làm khác đi nếu biết AI có tốc độ phát triển nhanh như hiện nay, ông Hinton thừa nhận ông hối tiếc vì trước đây chỉ tập trung nghiên cứu AI mà không nghĩ đến hậu quả. “Tôi ước mình nghĩ đến vấn đề an toàn ngay từ đầu”.