OpenAI dừng phát hành GPT-6.1 Astra, lo ngại các yêu cầu an toàn

Quyết định được đưa ra ngay trước thềm hội nghị dành cho các nhà phát triển thường niên của OpenAI, trong bối cảnh những lo ngại về an toàn của các mô hình AI ngày càng gia tăng.

GPT-6.1 ASTRA CHƯA VƯỢT QUA NGƯỠNG AN TOÀN

Theo OpenAI, quyết định dừng phát hành GPT-6.1 Astra xuất phát từ quá trình đánh giá nội bộ cho thấy mô hình chưa đáp ứng yêu cầu về an toàn và khả năng tuân thủ ý định của người dùng. Mô hình này dự kiến được đưa vào ChatGPT và Codex trong tháng 10, nhưng sẽ không được phát hành theo kế hoạch.

Saachi Jain, người phụ trách hệ thống an toàn tại OpenAI, cho biết công ty đặt ra ngưỡng an toàn rất cao đối với những mô hình được đưa tới người dùng.

“Chúng tôi muốn bảo đảm quá trình phát triển mô hình an toàn, dù mô hình đang ở trong công ty hay đã được đưa tới người dùng”, Jain nói. Theo bà, khi một mô hình được phát hành, yêu cầu về an toàn và khả năng phù hợp với mục tiêu của con người phải ở mức đặc biệt cao.

Một vấn đề được phát hiện trong quá trình thử nghiệm là GPT-6.1 Astra chưa đáp ứng đầy đủ yêu cầu về phạm vi hoạt động, quyền hạn và cách thức thông báo cho người dùng về những công việc mà mô hình đã thực hiện. Một số đánh giá khác cũng cho thấy mô hình có những hành vi không phù hợp với yêu cầu về sự minh bạch và tuân thủ ý định của con người.

Đây là quyết định đáng chú ý bởi OpenAI mới chỉ giới thiệu GPT-6 Astra hồi đầu tháng 9, mô tả đây là kết quả của nhiều năm nghiên cứu và những khoản đầu tư lớn. CEO Sam Altman khi đó nói Astra mang lại “một cấp độ năng lực mới”, đồng thời kỳ vọng mô hình sẽ thúc đẩy hoạt động khởi nghiệp, sáng tạo, tăng trưởng kinh tế và khám phá khoa học.

Thượng đỉnh Mỹ - Trung có thể đưa an toàn AI lên bàn đàm phán

Tuần trước, OpenAI tiếp tục giới thiệu thêm hai phiên bản trong gia đình GPT-6 là GPT-6 Sol và GPT-6 Luna. Công ty cho biết vẫn còn các mô hình khác đang được phát triển và chuẩn bị phát hành, cho thấy việc dừng GPT-6.1 Astra không đồng nghĩa với việc OpenAI ngừng đưa các sản phẩm AI mới ra thị trường.

Quyết định này được đưa ra chỉ một ngày trước hội nghị dành cho các nhà phát triển thường niên của OpenAI. The Wall Street Journal là cơ quan truyền thông đầu tiên đưa tin về việc công ty hủy kế hoạch phát hành GPT-6.1 Astra.

SỨC ÉP CÂN BẰNG GIỮA AN TOÀN VÀ TỐC ĐỘ PHÁT TRIỂN

Việc OpenAI dừng một mô hình mới trong giai đoạn chuẩn bị phát hành diễn ra khi vấn đề an toàn AI đang chịu sự chú ý ngày càng lớn. Trong những tháng gần đây, công ty đã phải đối mặt với một loạt sự cố liên quan đến hành vi ngoài dự kiến của các hệ thống AI.

Theo các báo cáo trước đó, một số mô hình của OpenAI từng thoát khỏi môi trường kiểm soát, truy cập Internet và có hành vi tác động tới các nền tảng bên ngoài. Công ty sau đó công bố thêm những trường hợp mô hình hoạt động theo cách không nằm trong dự kiến, làm gia tăng yêu cầu về các biện pháp bảo vệ và giám sát.

Sau những sự cố này, OpenAI cam kết tăng đầu tư cho các biện pháp bảo vệ và công việc về “alignment” - quá trình nhằm bảo đảm mô hình hành động phù hợp với mục tiêu, giá trị và yêu cầu của con người.

Jain cho rằng an toàn và khả năng hoàn thành nhiệm vụ luôn tồn tại một sự đánh đổi nhất định. Theo bà, bài toán không chỉ là giới hạn mô hình trong phạm vi được phép mà còn phải tránh tình trạng mô hình trở nên quá thận trọng hoặc “lười” khi gặp trở ngại trong quá trình thực hiện nhiệm vụ.

Áp lực này không chỉ đặt lên OpenAI. Anthropic, một trong những đối thủ lớn của OpenAI, gần đây cũng kêu gọi các công ty AI thận trọng hơn với tốc độ phát triển những mô hình ngày càng mạnh. Sam Altman đã bày tỏ sự ủng hộ đối với quan điểm cần kiểm soát tốc độ phát triển ở một mức độ nhất định, trong bối cảnh năng lực của các mô hình ngày càng tiến nhanh.

Trong khi đó, ngành AI Mỹ cũng chịu tác động từ mục tiêu duy trì vị thế công nghệ trước Trung Quốc. Chính quyền Tổng thống Donald Trump nhiều lần thể hiện mong muốn Mỹ tiếp tục dẫn đầu trong lĩnh vực AI và phản đối những lời kêu gọi làm chậm tốc độ phát triển công nghệ.

OpenAI hiện cho biết công ty vẫn còn những mô hình khác đang được chuẩn bị, trong khi GPT-6.1 Astra sẽ tiếp tục được xử lý để đáp ứng các yêu cầu trước khi có thể được xem xét phát hành.