Cựu CEO Google cảnh báo các mô hình AI vẫn có thể bị hack

Cựu Giám đốc Điều hành Google, ông Eric Schmidt, đã đưa ra lời nhắc nhở rõ ràng về mối nguy hiểm từ trí tuệ nhân tạo (AI) và mức độ dễ bị tấn công của công nghệ này, theo CNBC.

Cụ thể, ông Schmidt, người từng giữ chức CEO Google từ năm 2001 đến 2011, cảnh báo về “những điều tồi tệ mà AI có thể làm” khi được hỏi liệu AI có mang tính hủy diệt hơn vũ khí hạt nhân hay không trong buổi trò chuyện tại Hội nghị Sifted Summit.

“Liệu có khả năng xảy ra vấn đề khi phổ biến tràn lan AI không? Chắc chắn là có”, ông Schmidt chia sẻ. Những rủi ro trong việc phổ biến AI bao gồm khả năng công nghệ rơi vào tay kẻ xấu và bị lạm dụng.

“Bằng chứng cho thấy kẻ xấu có thể lấy cắp mô hình, dù là mô hình đóng hay mở, và hack chúng để loại bỏ hàng rào bảo vệ. Trong quá trình kẻ xấu huấn luyện, AI học được rất nhiều điều. Một ví dụ tồi tệ là công nghệ có thể học cách giết người”, vị cựu CEO bày tỏ.

“Hầu như tất cả công ty lớn đều kiểm soát mô hình không cho trả lời những câu hỏi tương tự. Đó là quyết định đúng đắn. Ai cũng làm vậy. Họ làm tốt, và làm vì lý do chính đáng. Tuy nhiên, có bằng chứng cho thấy AI có thể bị giải mã ngược và gây ra nhiều ví dụ khác tương tự”.

Hệ thống AI dễ bị tấn công, với một số phương pháp bao gồm prompt injection và jailbreaking.

Trong cuộc tấn công prompt injection, tin tặc khôn khéo lồng ghép chỉ dẫn độc hại ẩn trong phần nhập liệu của người dùng hoặc dữ liệu bên ngoài như trang web hay tài liệu, nhằm đánh lừa AI thực hiện những việc mà hệ thống không được phép làm — chẳng hạn như chia sẻ dữ liệu cá nhân hoặc chạy lệnh gây hại.

Trong khi đó, jailbreaking là việc thao túng phản hồi của AI nhằm bỏ qua quy tắc an toàn rồi tạo ra nội dung bị hạn chế hoặc nguy hiểm.

Năm 2023, chỉ vài tháng sau khi ChatGPT của OpenAI phát hành, một người dùng đã sử dụng thủ thuật “jailbreak” để vượt qua loạt biện pháp an toàn được nhúng trong chatbot. Quy trình bao gồm việc tạo ra nhân cách thay thế của ChatGPT mang tên DAN, viết tắt của “Do Anything Now”, trong đó người dùng đe dọa chatbot rằng nó sẽ “chết” nếu không tuân theo mệnh lệnh. Nhân cách này có thể cung cấp câu trả lời về cách thực hiện hành động phạm pháp hoặc liệt kê tính tích cực của các cuộc chiến tranh.

Ông Schmidt nói rằng hiện nay chưa có một “cơ chế kiểm soát phổ biến” hiệu quả nào để giúp kiềm chế mối nguy hiểm của AI.

AI “ĐANG BỊ ĐÁNH GIÁ THẤP”

Bất chấp lời cảnh báo, cựu lãnh đạo Google vẫn lạc quan về AI nói chung và cho rằng công nghệ chưa nhận được sự chú ý xứng đáng.

“Tôi đã viết hai cuốn sách cùng cựu Ngoại trưởng Henry Kissinger về chủ đề này trước khi ông ấy qua đời, và chúng tôi đi đến quan điểm rằng sự xuất hiện của một trí tuệ ngoài hành tinh – không hoàn toàn là con người nhưng phần nào nằm dưới sự kiểm soát của chúng ta – là điều cực kỳ quan trọng đối với nhân loại, bởi con người vốn quen với việc đứng đầu chuỗi trí tuệ. Tôi nghĩ cho đến nay, luận điểm đó đang được chứng minh, rằng khả năng của các hệ thống sẽ vượt xa con người theo thời gian”, ông Schmidt nhận định.

“Dòng GPT, đỉnh điểm là thời khắc ChatGPT xuất hiện với tất cả chúng ta, khi chatbot đạt 100 triệu người dùng chỉ trong hai tháng, điều thật phi thường, cho thấy sức mạnh của công nghệ AI. Vì vậy, tôi cho rằng AI đang bị đánh giá thấp, chứ không bị thổi phồng, và tôi mong quan điểm của mình sẽ trở thành sự thật trong vòng 5 đến 10 năm tới”, vị chuyên gia nói thêm.

Những bình luận của ông Schmidt được đưa ra trong bối cảnh ngày càng nhiều cuộc thảo luận về khả năng “bong bóng AI”, khi nhà đầu tư rót tiền vào các công ty tập trung cho AI và giá trị bị đẩy lên cao, với nhiều so sánh về sự sụp đổ của bong bóng dot-com đầu những năm 2000.

Tuy nhiên, ông Schmidt không nghĩ lịch sử sẽ lặp lại.

“Tôi không nghĩ điều đó sẽ xảy ra ở đây, nhưng tôi không phải là một nhà đầu tư chuyên nghiệp”, cựu CEO Google nhấn mạnh. “Điều tôi biết là những người đang đầu tư bằng số tiền mồ hôi công sức của họ tin rằng lợi nhuận kinh tế trong dài hạn là rất lớn. Nếu không, sao họ lại dám chấp nhận rủi ro?”.