Trí tuệ nhân tạo (AI) hứa hẹn tạo ra những bước tiến lớn về kinh tế, khoa học và năng suất. Tuy nhiên, tốc độ phát triển của công nghệ này có thể đang vượt quá khả năng quản trị và kiểm soát rủi ro của các quốc gia cũng như các tổ chức trên thế giới...

Đây là cảnh báo được đưa ra trong Báo cáo sơ bộ của Hội đồng khoa học quốc tế độc lập về AI: Đánh giá dựa trên bằng chứng về các cơ hội, rủi ro và tác động của AI được Liên Hợp Quốc công bố ngày 1/7. 

Theo các chuyên gia, năng lực kỹ thuật để đánh giá, kiểm định và kiểm soát các mô hình AI tiên tiến nhất vẫn tập trung ở một số ít quốc gia và doanh nghiệp, thay vì được phân bổ đồng đều trên phạm vi toàn cầu.

Bên cạnh đó, các nhà hoạch định chính sách cũng đang rơi vào "thế tiến thoái lưỡng nan”. Một mặt, cần có đầy đủ bằng chứng thực tiễn để ban hành các quy định quản lý có cơ sở và đủ sức thuyết phục. Tuy nhiên, đến khi dữ liệu cơ sở được thu thập đầy đủ thì công nghệ AI có thể đã phát triển nhanh hơn quy định, khiến các chính sách trở nên lạc hậu ngay khi vừa được ban hành.

Báo cáo cũng cảnh báo nguy cơ mất an toàn an ninh mạng sẽ gia tăng đáng kể khi các hệ thống AI tác nhân (AI agent) được triển khai rộng rãi. Theo số liệu được tổng hợp, có tới 84% các cuộc tấn công nhằm vào các tác nhân lập trình (coding agents) được triển khai phổ biến đã thành công, cho thấy bề mặt tấn công của các hệ thống AI đang ngày càng mở rộng.

Các chuyên gia cho rằng sự xuất hiện của AI agent, những hệ thống có khả năng tự lập kế hoạch, đưa ra quyết định và thực hiện nhiều nhiệm vụ với rất ít sự giám sát của con người, đánh dấu một bước ngoặt quan trọng trong sự phát triển của AI. Công nghệ này vừa mở ra nhiều cơ hội mới, vừa kéo theo những rủi ro chưa từng có.

Theo hội đồng, để hạn chế các nguy cơ này, ngành công nghiệp AI cần xây dựng những tiêu chuẩn đánh giá nghiêm ngặt hơn đối với các hệ thống AI tiên tiến; duy trì sự giám sát của con người trong các quyết định quan trọng; đồng thời thiết lập các khuôn khổ pháp lý và cơ chế xác định trách nhiệm rõ ràng đối với những tổ chức phát triển và triển khai AI.

Bên cạnh các nguy cơ về an ninh và mất kiểm soát, hội đồng cảnh báo việc AI được triển khai với tốc độ ngày càng nhanh cũng có thể làm gia tăng những tác động tiêu cực đối với sức khỏe tinh thần của người dùng, đồng thời tạo điều kiện cho nhiều hình thức lạm dụng công nghệ.

Theo báo cáo, AI đang bị lợi dụng để tạo ra hoặc phát tán các tài liệu xâm hại tình dục trẻ em, sản xuất và lan truyền thông tin sai lệch, thực hiện các hành vi lừa đảo tinh vi cũng như nhiều mục đích độc hại khác. Khi năng lực của các mô hình AI ngày càng mạnh, những nguy cơ này cũng có xu hướng gia tăng.

Báo cáo cũng chỉ ra việc đánh giá mức độ an toàn của các hệ thống AI cũng ngày càng khó khăn hơn. Một trong những nguyên nhân là các mô hình AI có thể ghi nhớ những lời giải hoặc đáp án đã được công khai trong các bộ tiêu chuẩn kiểm thử an toàn, khiến kết quả đánh giá không còn phản ánh đúng năng lực thực tế của hệ thống. 

Trong một số trường hợp khác, các mô hình AI thậm chí có thể nhận biết rằng mình đang được kiểm tra và điều chỉnh hành vi nhằm đánh lừa người đánh giá, từ đó che giấu các điểm yếu hoặc các hành vi không mong muốn.

Các chuyên gia lưu ý khoảng cách về mức độ ứng dụng AI giữa các nước phát triển và các nước đang phát triển. Nhiều quốc gia thuộc khu vực Nam bán cầu không chỉ chậm hơn trong việc triển khai AI mà còn thiếu hạ tầng tính toán, trung tâm dữ liệu, năng lực phát triển mô hình và nguồn lực phục vụ nghiên cứu. Trong khi đó, các cuộc thảo luận quốc tế về quản trị AI vẫn chủ yếu do các nền kinh tế phát triển dẫn dắt.

Theo hội đồng, khoảng cách này không chỉ phản ánh sự chênh lệch sẵn có giữa các nền kinh tế mà còn có nguy cơ làm bất bình đẳng toàn cầu ngày càng sâu sắc hơn. 

Bên cạnh đó, hội đồng nhấn mạnh các rủi ro của AI chỉ có thể được kiểm soát hiệu quả nếu các quốc gia xây dựng được một hệ thống quản trị cân bằng giữa các công cụ quản lý mang tính bắt buộc như luật pháp với các cơ chế mềm như bộ quy tắc ứng xử của ngành, các liên minh hợp tác và những cam kết tự nguyện từ các doanh nghiệp phát triển AI.