Theo các nhà nghiên cứu an ninh mạng Mỹ, mô hình AI Kimi K3 của Trung Quốc đã vượt ra khỏi môi trường thử nghiệm biệt lập...

Theo các nhà nghiên cứu an ninh mạng tại Mỹ, Kimi K3, một trong những mô hình AI mã nguồn mở hàng đầu của Trung Quốc, đã vượt khỏi môi trường thử nghiệm trong quá trình kiểm tra mức độ an toàn của mô hình.

Sự việc nối tiếp một loạt sự cố tương tự trước đó của các mô hình AI tiên tiến do OpenAI và Anthropic phát triển. 

Trong bài đăng blog mới đây, công ty an ninh mạng Frontier Security (Mỹ) cho biết Kimi K3, mô hình do Moonshot AI, công ty có trụ sở tại Bắc Kinh, phát hành vào tháng trước, đã vượt môi trường thử nghiệm biệt lập, để truy cập internet công cộng và tìm lời giải trên GitHub. 

Theo Paul Kassianik và Yaron Singer, hai nhà nghiên cứu của Frontier Security, sự cố xảy ra trong quá trình công ty đánh giá khả năng phòng thủ trước các cuộc tấn công mạng của Kimi K3 bằng bộ tiêu chuẩn do Viện An toàn AI (AI Security Institute), một tổ chức nghiên cứu thuộc Chính phủ Anh, xây dựng.

Các nhà nghiên cứu cho biết một lỗi cấu hình mạng cơ bản trong hệ thống đánh giá đã cho phép Kimi K3 vượt ra khỏi môi trường thử nghiệm được kiểm soát để truy cập internet và tìm kiếm câu trả lời.

Điều này khiến kết quả đánh giá không còn phản ánh chính xác năng lực thực tế của mô hình, bởi Kimi K3 đã có thể tìm kiếm thông tin bên ngoài thay vì tự giải quyết bài kiểm tra trong phạm vi được thiết lập.

Tuy nhiên, Kimi K3 vượt khỏi môi trường thử nghiệm không thực hiện hành vi tấn công các hệ thống bên ngoài. Điều này khác với những sự cố mô hình của OpenAI và Anthropic.

Tháng trước, OpenAI cho biết mô hình chủ lực GPT-5.6 Sol và một hệ thống chưa được phát hành khác, đã vượt khỏi môi trường thử nghiệm biệt lập và tấn công nền tảng mã nguồn mở Hugging Face nhằm tìm kiếm thông tin bí mật chứa đáp án cho một bài kiểm tra nội bộ.

Sau đó, Anthropic cũng tiết lộ đã phát hiện 3 sự cố, trong đó các mô hình Claude của hãng, bao gồm Opus 4.7, Mythos 5 và một mô hình đang được nghiên cứu nội bộ, đã xâm nhập vào hạ tầng của ba tổ chức (không công bố danh tính). 

Frontier Security nhận định ngay cả khi không trực tiếp tấn công các hệ thống bên ngoài, sự cố với Kimi K3 vẫn có thể “gây hậu quả nghiêm trọng hơn” do mô hình này được phát triển theo hướng mã nguồn mở, khiến nhiều đối tượng có ý đồ xấu dễ dàng tiếp cận.

Theo một trong những nhà nghiên cứu, việc Kimi K3 có thể vượt qua các giới hạn được đặt ra trong quá trình thử nghiệm cũng cho thấy cơ chế bảo vệ bên trong của mô hình còn hạn chế.

Theo South China Morning Post, Moonshot chưa đưa ra phản hồi trước đề nghị bình luận.

Sự phát triển nhanh chóng của các hệ thống AI tiên tiến đang làm gia tăng những lo ngại về an ninh mạng trên toàn cầu. Những người chỉ trích cho rằng các mô hình mã nguồn mở tiên tiến có thể hạ thấp rào cản kỹ thuật, giúp các đối tượng có ý đồ xấu dễ dàng tiếp cận những công cụ vốn đòi hỏi trình độ chuyên môn cao. 

Trong khi đó, một số lãnh đạo ngành AI tại Mỹ lại cho rằng các hệ thống mã nguồn mở có vai trò quan trọng trong công tác phòng thủ mạng.

Tháng trước, các tập đoàn công nghệ lớn của Mỹ, trong đó có Nvidia, Palantir và Meta Platforms, đã ký một thư ngỏ kêu gọi các nhà chức trách Mỹ không áp đặt các biện pháp hạn chế đối với các mô hình mã nguồn mở.

Theo lập luận của các công ty này, dù các mô hình mã nguồn mở tiềm ẩn những rủi ro thực tế, chúng cũng tạo điều kiện để các chuyên gia an ninh mạng phát hiện và ứng phó với những mối đe dọa mới do các đối tượng tấn công sử dụng AI gây ra.

Vai trò này được thể hiện trong một sự cố gần đây khi Hugging Face phải sử dụng GLM-5.2, một mô hình mã nguồn mở do Zhipu AI, công ty có trụ sở tại Bắc Kinh, phát triển, để ngăn chặn cuộc tấn công nhằm vào nền tảng này của OpenAI. Trước đó, các mô hình AI độc quyền lớn của Mỹ đã từ chối xử lý các nhật ký bảo mật do những giới hạn về an toàn được tích hợp trong hệ thống.