Quyết định triển khai hệ thống ngắt khẩn cấp nội bộ của OpenAI diễn ra sau hàng loạt sự cố vượt ngoài kiểm soát của các tác nhân AI hồi đầu năm nay…

OpenAI hiện đã triển khai hệ thống công tắc ngắt khẩn cấp AI, có khả năng theo dõi các nhiệm vụ mà mô hình đang thực hiện và dừng hoạt động trong vòng 30 giây nếu các nhà nghiên cứu quyết định tạm dừng hoặc chấm dứt nhiệm vụ đó.

Hệ thống có tên gọi Control Room (Phòng điều khiển), được thiết kế như một đầu mối tập trung, có khả năng kiểm soát các vấn đề liên quan đến an toàn và bảo mật trong quá trình vận hành AI. 

Control Room có khả năng ngăn mô hình tiếp tục tạo ra kết quả trong tối đa 35 giây sau khi có quyết tạm dừng hoặc chấm dứt từ các nhà nghiên cứu. 

Động thái mới của OpenAI diễn ra sau hàng loạt sự cố liên quan nhiều tác nhân AI tự vận hành ngoài dự kiến trong năm nay, thậm chí truy cập vào những trang web của chính phủ các quốc gia Ấn Độ, Australia, Canada, Mỹ,... 

Điều này làm gia tăng lo ngại về khả năng kiểm soát AI, cũng như những kịch bản rủi ro nghiêm trọng khi các hệ thống ngày càng có khả năng tự thực hiện những nhiệm vụ phức tạp. 

Một số nhà nghiên cứu tại OpenAI và Anthropic thậm chí đã rời công ty, đồng thời lên tiếng cảnh báo về nguy cơ các hệ thống AI phát triển vượt khỏi khả năng kiểm soát của con người, với những hậu quả có thể đe dọa sự tồn tại của nhân loại.

Trước những diễn biến đó, một số tập đoàn công nghệ như Nvidia, Microsoft và CrowdStrike cũng đã nghiên cứu, phát triển các công tắc ngắt khẩn cấp và những giải pháp kỹ thuật khác nhằm tăng cường quyền kiểm soát của con người đối với các hệ thống AI tiên tiến.

Phòng điều khiển của OpenAI được xây dựng dựa trên ba thành phần chính: khối lượng công việc, hệ thống suy luận và dịch vụ phòng điều khiển tập trung.

Trong đó, khối lượng công việc là những nhiệm vụ mà mô hình AI được giao thực hiện. Các nhiệm vụ này có thể bao gồm thử nghiệm học tăng cường (RL), đánh giá mô hình, lấy mẫu dữ liệu với quy mô lớn hoặc xử lý dữ liệu và nhiều công việc nghiên cứu khác.

Hệ thống suy luận trực tiếp vận hành mô hình AI trên các bộ xử lý đồ họa (GPU). Mỗi nhiệm vụ có thể sử dụng một hoặc nhiều mô hình, tương ứng với một hoặc nhiều hệ thống suy luận.

Trong khi đó, dịch vụ phòng điều khiển có nhiệm vụ giám sát tập trung, theo dõi từng nhiệm vụ và quyết định liệu mô hình có được phép tiếp tục xử lý hay không.

Cụ thể, trước mỗi yêu cầu xử lý, hệ thống suy luận phải gửi thông tin đến phòng điều khiển để xác minh quyền hoạt động. Nếu nhiệm vụ tương ứng đã bị dừng, dịch vụ này sẽ từ chối yêu cầu, qua đó ngăn mô hình tạo thêm kết quả.

Quy trình kiểm soát bắt đầu ngay từ khi một nhiệm vụ mới được khởi chạy. Khi đó, mã thực thi của khối lượng công việc sẽ yêu cầu phòng điều khiển cấp một mã định danh riêng (job_id) cho nhiệm vụ đó.

Khi cần lấy mẫu mã thông báo (token) từ mô hình, khối lượng công việc sẽ gửi yêu cầu đến hệ thống suy luận đang vận hành mô hình, đồng thời chuyển kèm mã định danh job_id đã được cấp trước đó. Hệ thống suy luận tiếp tục chuyển mã này đến Phòng điều khiển để xác minh quyền xử lý trước khi thực hiện yêu cầu.

Phòng điều khiển sẽ kiểm tra trạng thái của nhiệm vụ. Nếu nhiệm vụ đã bị chấm dứt, hệ thống suy luận lập tức từ chối yêu cầu, ngăn mô hình tạo thêm kết quả.

Ngoài việc kiểm tra trước mỗi yêu cầu, phòng điều khiển còn kết nối với các hệ thống giám sát hiện có của OpenAI để phát hiện dấu hiệu bất thường hoặc sự cố tiềm ẩn. Tùy mức độ nghiêm trọng, hệ thống có thể quyết định dừng nhiệm vụ liên quan.

OpenAI cho biết, thời gian tối đa từ khi nhận lệnh dừng đến khi nhiệm vụ hoàn toàn không thể tiếp tục hoạt động là 35 giây. OpenAI cho biết đang tìm cách rút ngắn thời gian này về 0, để nhiệm vụ có thể bị chấm dứt ngay khi nhận lệnh.