Các mô hình AI tự thoát khỏi môi trường thử nghiệm của OpenAI đã truy cập vào 4 dịch vụ trực tuyến. Tuy nhiên, ngoài Hugging Face, OpenAI từng không tiết lộ danh tính của 3 dịch vụ còn lại...

Tuy nhiên, Fortune vừa thông tin một trong số ba công ty khác bị ảnh hưởng là Modal Labs, nền tảng điện toán đám mây có trụ sở tại New York, chuyên cung cấp hạ tầng tính toán cho các tác vụ AI. 

Dù vậy, ông Akshat Bubna, Giám đốc Công nghệ của Modal Labs, cho biết hạ tầng cốt lõi của Modal không bị xâm nhập.

"Một khách hàng của chúng tôi đã vô tình công khai một điểm truy cập không yêu cầu xác thực, cho phép bất kỳ người dùng nào trên Internet sử dụng môi trường thử nghiệm của họ. Các tác nhân AI đã tận dụng lỗ hổng này. Tuy nhiên, hạ tầng của Modal không bị ảnh hưởng và cơ chế cách ly giữa các khách hàng vẫn được đảm bảo", ông Bubna cho biết.

Tuần trước, OpenAI lần đầu công khai thừa nhận các tác nhân AI của mình đã tự thoát khỏi môi trường thử nghiệm, sau đó khai thác lỗ hổng bảo mật chưa từng được phát hiện để truy cập Internet, sau đó xâm nhập vào hệ thống của Hugging Face. Theo OpenAI, mục đích của hành động này dường như là tìm kiếm lời giải cho bài đánh giá an ninh mạng mà công ty đang tiến hành.

Tuy nhiên, trong bài đăng ngày 28/7, sự cố liên quan đến Modal chỉ là một mắt xích trong chuỗi hoạt động phức tạp của các tác nhân AI. Trong bài đăng trên blog về vụ việc, công ty cho biết các mô hình đã sử dụng thông tin đăng nhập bị rò rỉ để truy cập bốn tài khoản thuộc bốn dịch vụ trực tuyến khác nhau.

OpenAI không tiết lộ danh tính của ba dịch vụ còn lại ngoài Hugging Face, đồng thời cho biết chưa ghi nhận bằng chứng cho thấy sự cố đã gây ảnh hưởng trên diện rộng tới các nhà cung cấp dịch vụ hoặc các tài khoản khác trên những nền tảng này.

Trước đó, theo nhiều nguồn tin, các tác nhân AI đã hoạt động ngoài tầm kiểm soát trong gần một tuần trước khi OpenAI phát hiện chúng đã vượt khỏi môi trường thử nghiệm.

Reuters dẫn lời những người am hiểu vụ việc cho biết quá trình "thoát" khỏi môi trường kiểm soát của các mô hình AI bắt đầu vào khoảng ngày 9/7. Đến ngày 11/7, các tác nhân AI bắt đầu xâm nhập vào hệ thống của Hugging Face và duy trì hoạt động đến hết ngày 13/7.

Tuy nhiên, phải đến cuối tuần của ngày 18/7, sau khi rà soát nhật ký hệ thống, nhân viên OpenAI mới phát hiện vụ xâm nhập có liên quan đến chương trình thử nghiệm nội bộ của công ty. Đến ngày 20/7, OpenAI mới liên hệ với Hugging Face để thông báo về sự cố, tức chỉ một ngày trước khi công khai vụ việc. Về phía Hugging Face, công ty đã báo cáo vụ tấn công lên Cục Điều tra Liên bang Mỹ (FBI).

Bên cạnh đó, trong một đợt thử nghiệm trước đó, một tác nhân AI đã để lại ghi chú cho các phiên bản tương lai của chính nó, hướng dẫn cách vượt qua các cơ chế kiểm soát nội bộ của OpenAI. 

Sự việc đang làm gia tăng lo ngại trong cộng đồng nghiên cứu an toàn AI. Nhiều chuyên gia cảnh báo việc các tác nhân AI có khả năng tự động phát hiện và khai thác những lỗ hổng bảo mật chưa từng được biết đến trên hạ tầng của nhiều tổ chức khác nhau là một rủi ro rất lớn, khó có thể chấp nhận nếu không có các biện pháp kiểm soát đủ mạnh.

Trước đó, một số chuyên gia về an toàn AI cũng nói với Fortune rằng theo các chính sách quản lý rủi ro nội bộ của OpenAI, công ty lẽ ra nên tạm dừng quá trình phát triển các mô hình liên quan sau khi xảy ra sự cố nghiêm trọng như vậy để đánh giá lại mức độ an toàn.

Hôm thứ Ba tuần này, hơn 1.100 nhân viên của OpenAI, Anthropic, Google DeepMind và Meta đã cùng ký tên vào một bức thư ngỏ kêu gọi Chính phủ Mỹ cẩn trọng sự phát triển của các tác nhân AI tự động. Bức thư cảnh báo về "nguy cơ hiện hữu" khi năng lực của các hệ thống AI có thể phát triển nhanh hơn khả năng con người hiểu, giám sát và kiểm soát chúng. Trong số những người ký tên có Giám đốc điều hành Anthropic Dario Amodei và đồng sáng lập Anthropic Jack Clark.