CEO Anthropic: Nhân loại cần phải "thức tỉnh" trước mối đe dọa từ AI

Thế giới đang bước vào giai đoạn phát triển AI mang tính bước ngoặt, thậm chí có thể xem là phép thử cho ‘bản chất và giá trị con người’, theo cảnh báo của ông Dario Amodei trong bài tiểu luận dài mang tính cảnh tỉnh.

CEO của Anthropic cho rằng nhân loại đang tiến vào thời kỳ mà ông gọi là “tuổi vị thành niên công nghệ” – giai đoạn AI phát triển nhanh hơn rất nhiều so với khả năng theo kịp của luật pháp, khung quản lý và cả nhận thức xã hội, Euronews đưa tin.

Theo ông Amodei, chỉ trong vòng hai năm tới, AI có thể trở nên “thông minh hơn cả một người đoạt giải Nobel” trong hầu hết các lĩnh vực quan trọng như sinh học, lập trình, toán học, kỹ thuật hay viết lách. Không chỉ dừng ở năng lực đơn lẻ, khi nhiều hệ thống AI phối hợp với nhau, chúng có thể giống như “một quốc gia toàn thiên tài nằm trong trung tâm dữ liệu”.

Những “quốc gia AI” này, theo ông, có khả năng hoàn thành nhiều nhiệm vụ phức tạp nhanh hơn con người ít nhất 10 lần, từ thiết kế phần mềm, tác chiến mạng cho đến xây dựng và duy trì mối quan hệ xã hội. Sự kết hợp giữa trí tuệ siêu việt, tính tự chủ cao và việc con người ngày càng khó kiểm soát công nghệ tạo nên kịch bản “vừa khả thi, vừa mang tính đe dọa hiện hữu”.

“Nhân loại cần phải thức tỉnh. Bài viết là một nỗ lực, có thể là vô vọng, nhưng vẫn đáng để thử, nhằm đánh thức mọi người”, ông Amodei nhấn mạnh.

Bài tiểu luận của ông được công bố chỉ ít ngày sau khi Anthropic phát hành bản “hiến pháp” dài 80 trang dành cho chatbot Claude, trong đó nêu rõ nguyên tắc và cơ chế nhằm đảm bảo AI của công ty vận hành an toàn và có đạo đức.

Ông Amodei không phải người duy nhất đưa ra quan điểm này. Một báo cáo năm 2025, được 30 quốc gia hậu thuẫn, cũng cảnh báo rằng hệ thống AI tiên tiến có thể tạo ra rủi ro cực đoan, từ mất việc làm trên diện rộng, hỗ trợ hoạt động khủng bố cho tới nguy cơ con người đánh mất quyền kiểm soát công nghệ.

Trước đó, nhiều lãnh đạo công nghệ như CEO Sam Altman (OpenAI) hay ông Steve Wozniak, đồng sáng lập Apple, cũng lên tiếng về những mặt trái tiềm tàng của AI.

AI – THÁCH THỨC MANG TÍNH VĂN MINH NHÂN LOẠI

Dù không khẳng định thảm họa là điều chắc chắn sẽ xảy ra, ông Amodei cho rằng AI là “thách thức mang tính văn minh” mà nhân loại buộc phải đối mặt.

“AI quá mạnh, quá hấp dẫn, giống như phần thưởng lấp lánh đến mức nền văn minh nhân loại rất khó có thể tự áp đặt giới hạn nghiêm ngặt lên công nghệ”, ông viết.

Theo ông Amodei, hệ thống AI cực mạnh hoàn toàn có thể được sử dụng để tư vấn cho chính phủ, tổ chức hay cá nhân về địa chính trị, ngoại giao hoặc lập kế hoạch quân sự. Ngoài ra, AI đủ mạnh có khả năng phân tích hàng tỷ cuộc trò chuyện của hàng triệu người, có thể đo lường tâm lý xã hội, phát hiện sớm “điểm nóng bất mãn” và dập tắt ngay từ khi còn manh nha.

Trong bài viết, ông Amodei đặc biệt lo ngại sự kết hợp giữa năng lực AI mạnh, mô hình quản trị độc đoán của các tổ chức khủng bố và hệ thống giám sát công nghệ cao đã tồn tại sẵn.

Tuy nhiên, những nền dân chủ có năng lực AI cạnh tranh, quốc gia phi dân chủ sở hữu trung tâm dữ liệu lớn, và thậm chí chính các công ty AI cũng đều có thể trở thành tác nhân gây rủi ro nếu thiếu kiểm soát.

“NÚT THẮT” LỚN NHẤT CỦA AI LÀ CÁC LOẠI CHIP TIÊN TIẾN

Theo ông Amodei, cách hiệu quả nhất để ngăn chặn nguy cơ AI bị lạm dụng là kiểm soát việc bán và chuyển giao các loại chip tiên tiến dùng để huấn luyện mô hình AI. Ông cho rằng một số quốc gia không nên bán công nghệ này vì lợi nhuận.

“Chip và công cụ sản xuất chip chính là nút thắt lớn nhất của AI mạnh. Việc chặn dòng chảy này là biện pháp đơn giản nhưng cực kỳ hiệu quả, thậm chí có thể được coi là hành động quan trọng nhất mà chúng ta có thể làm”, ông Amodei khẳng định.

Bên cạnh kiểm soát xuất khẩu, người đứng đầu Anthropic kêu gọi sự phối hợp ở cấp độ toàn ngành và giám sát của xã hội. Theo đó, các công ty AI cần chịu trách nhiệm minh bạch hơn về cách họ định hướng hành vi của mô hình AI.

Ông Amodei dẫn ví dụ đạo luật SB-53 của bang California, còn gọi là Đạo luật Minh bạch trong AI Tiên phong (Transparency in Frontier Artificial Intelligence Act – TFAIA). Luật này buộc công ty AI phải công bố công khai trên website của mình khung nguyên tắc, mô tả cách họ áp dụng tiêu chuẩn và thông lệ tốt nhất trong nước và quốc tế vào việc phát triển AI.

Dù đưa ra nhiều cảnh báo nghiêm trọng, ông Amodei vẫn giữ thái độ lạc quan về tương lai.

“Tôi tin rằng nếu chúng ta hành động quyết đoán nhưng thận trọng, những rủi ro này có thể dễ dàng vượt qua – thậm chí tôi cho rằng cơ hội thành công của chúng ta là khá lớn. Và ở phía bên kia, một thế giới tốt đẹp hơn rất nhiều đang chờ đợi. Nhưng trước hết, chúng ta cần hiểu rằng đây là thách thức mang tầm vóc văn minh nhân loại”, ông kết luận.