Chuyên gia an ninh Mỹ và Trung Quốc đề xuất kiểm soát AI an toàn như với hạt nhân

Theo hãng tin Reuters, những đề xuất này tập trung vào ba vấn đề: không để AI tự quyết định các hành động liên quan đến hệ thống chỉ huy hạt nhân, duy trì quyền kiểm soát của con người đối với các cuộc tấn công mạng có hậu quả nghiêm trọng và thiết lập đường dây nóng giữa Mỹ và Trung Quốc để xử lý các sự cố liên quan đến AI.

Các khuyến nghị được đưa ra trong khuôn khổ đối thoại Mỹ - Trung về AI và an ninh quốc gia do Viện Brookings và Trung tâm Nghiên cứu Chiến lược và An ninh Quốc tế thuộc Đại học Thanh Hoa tổ chức.

Đề xuất được đưa ra trước các cuộc đối thoại cấp chính phủ Mỹ - Trung về AI và cuộc gặp dự kiến ngày 24/9 tại Washington giữa Tổng thống Mỹ Donald Trump và Chủ tịch Trung Quốc Tập Cận Bình.

ĐẶT “LẰN RANH ĐỎ” QUANH HỆ THỐNG HẠT NHÂN

Một trong những rủi ro được các chuyên gia đặc biệt lưu ý là khả năng AI can thiệp vào hệ thống chỉ huy, kiểm soát và liên lạc hạt nhân (NC3) hoặc thực hiện một cuộc tấn công mạng nhằm vào hạ tầng chiến lược.

Theo bà Melanie Sisson, chuyên gia cao cấp tại Brookings, quyền quyết định khởi động các cuộc tấn công mạng có sự hỗ trợ của AI nhằm vào hệ thống NC3 hoặc hạ tầng trọng yếu của đối phương cần được duy trì hoàn toàn ở con người.

Lý do là một hệ thống AI tự động có thể gặp lỗi, vượt quá chỉ dẫn được lập trình hoặc bị bên khác xâm nhập và kiểm soát. Trong trường hợp đó, quốc gia bị tấn công có thể chỉ có vài phút để xác định liệu hành động này là một sự cố ngoài ý muốn hay một cuộc tấn công được chính phủ đối phương chủ động ra lệnh.

“Con người, không phải AI”, phải là chủ thể đưa ra quyết định đối với những hành động có khả năng tạo ra hậu quả chiến lược, theo lập luận của Sisson. Bà cho rằng Mỹ và Trung Quốc có thể mở rộng nguyên tắc đã thống nhất đối với vũ khí hạt nhân sang các cuộc tấn công mạng nhằm vào hệ thống NC3 và hạ tầng trọng yếu.

Ở phía Trung Quốc, Phó giáo sư Tianjiao Jiang đề xuất xây dựng những “lằn ranh đỏ” rõ ràng, trong đó AI không được tự quyết định sử dụng vũ khí hạt nhân hoặc tự động tấn công hệ thống chỉ huy hạt nhân của đối phương.

Ông cũng đề nghị mở rộng phạm vi bảo vệ sang các hạ tầng quan trọng như năng lượng, tài chính và y tế.

KHI AI CÓ THỂ PHẢN ỨNG NHANH HƠN CON NGƯỜI

Một vấn đề khác được Phó giáo sư Jiang đề xuất là thiết lập một đường dây nóng riêng giữa quân đội Mỹ và Trung Quốc để xử lý các sự cố liên quan đến AI. Theo ông, tốc độ của các hệ thống tự động có thể khiến một sự cố mạng nhanh chóng vượt khỏi khả năng can thiệp của con người.

Một đường dây liên lạc trực tiếp có thể giúp chính phủ thông báo cho phía bên kia rằng một hoạt động bất thường là do sự cố, hành động trái phép hoặc vẫn đang được điều tra, thay vì ngay lập tức coi đó là một hành động có chủ đích của nhà nước.

Đây cũng là lý do các chuyên gia cho rằng các cơ chế liên lạc và xây dựng lòng tin cần được thiết kế song song với việc phát triển năng lực AI quân sự.

AI đang ngày càng được đưa vào các cuộc thảo luận về kiểm soát vũ khí và ổn định chiến lược giữa hai nước. Tại Trung Quốc, AI đã trở thành một lĩnh vực thuộc Cục Kiểm soát Vũ khí của Bộ Ngoại giao, cơ quan đồng thời phụ trách các vấn đề liên quan đến vũ khí hạt nhân, không phổ biến vũ khí, tên lửa và các vấn đề an ninh quốc tế khác.

Bắc Kinh cảnh báo rằng các yêu cầu về an toàn AI không nên trở thành lý do để dựng lên những rào cản công nghệ.

Trong khi đó, Mỹ chưa có một cơ quan duy nhất chịu trách nhiệm về kiểm soát AI trong lĩnh vực an ninh quốc gia. Các chính sách liên quan hiện được phân bổ giữa Hội đồng An ninh Quốc gia Nhà Trắng, Bộ Ngoại giao, Bộ Quốc phòng và nhiều cơ quan khác.

Theo Reuters, điểm khó nhất đối với cả hai bên là tìm được sự cân bằng giữa kiểm soát rủi ro và duy trì tốc độ phát triển công nghệ. Washington lo ngại những hạn chế quá rộng có thể làm suy yếu lợi thế công nghệ của Mỹ trước Trung Quốc, trong khi Bắc Kinh coi nhiều biện pháp kiểm soát công nghệ của Mỹ là nỗ lực duy trì ưu thế của Washington.