Nhà đồng sáng lập OpenAI cho biết ông không chấp nhận “rủi ro mang tính thảm họa”, trong đó có khả năng con người “mất kiểm soát nghiêm trọng đối với AI”...

“Chúng tôi tin rằng thế giới nên chấp nhận một số điều tồi tệ có thể xảy ra để đổi lấy những lợi ích mà công nghệ này mang lại, đồng thời để con người có quyền chủ động sử dụng công nghệ”, CEO của OpenAI, Sam Altman, nói trong cuộc phỏng vấn với chương trình Decoded Decoded của trang Politico.

Tuy nhiên, quan điểm này không đồng nghĩa OpenAI chấp nhận mọi rủi ro. Sam Altman cho biết ông không chấp nhận “rủi ro mang tính thảm họa”, trong đó có khả năng con người “mất kiểm soát nghiêm trọng đối với AI”.

Ông cũng tin rằng: "Con người sẽ tạo ra rất nhiều thứ tốt đẹp, lớn hơn những điều xấu”.

Những phát biểu của Sam Altman được đưa ra trong bối cảnh ngành AI đang ngày càng tranh luận gay gắt về tốc độ phát triển công nghệ cũng như những rủi ro do các hệ thống AI ngày càng mạnh mẽ gây ra.

Trong tháng 9, CEO Anthropic Dario Amodei đăng một bài viết kêu gọi ngành AI “giảm tốc ở tuyến đầu”, tức làm chậm tốc độ phát triển những hệ thống AI tiên tiến nhất. Sam Altman sau đó công khai ủng hộ quan điểm này.

Thế nhưng, đáng chú ý, OpenAI mới đây đã chứng kiến sự ra đi của ông David Robinson, một trong những nhân sự gắn bó lâu năm nhất với OpenAI, nguyên nhân liên quan đến lo ngại sự phát triển vượt kiểm soát của AI. 

Cựu lãnh đạo an toàn của OpenAI cho rằng cách ngành AI đang phát triển hiện nay không còn có thể chấp nhận được.

Trong thông báo về quyết định ra đi, ông Robinson cho rằng “văn hóa của OpenAI đã bị phá vỡ”.

Theo vị chuyên gia, cách tiếp cận của OpenAI trong phát triển AI là phương pháp “thử và sai”, hay cách công ty gọi là “triển khai lặp đi lặp lại”. Nghĩa là, các biện pháp bảo vệ được bổ sung và hoàn thiện sau khi vấn đề phát sinh.

“Nhưng bản chất của cách tiếp cận này là tất yếu dẫn đến những thất bại lặp đi lặp lại, và quy mô của những thất bại đó đang ngày càng lớn khi các hệ thống trở nên mạnh hơn”, ông Robinson viết.

Cựu lãnh đạo an toàn của OpenAI dẫn một loạt sự cố gần đây liên quan đến việc các tác nhân AI hoạt động ngoài dự kiến như những ví dụ cho thấy mọi thứ có thể nhanh chóng vượt khỏi tầm kiểm soát của con người. 

Ông Robinson cũng cho rằng các công ty AI không còn đủ khả năng tiếp tục dựa vào phương pháp phát triển cũ, bởi nếu xảy ra sự cố nghiêm trọng, họ có thể không còn cơ hội để sửa chữa.

Ông cho rằng các công ty AI cần vận hành “giống như các nhà máy điện hạt nhânvới nhiều lớp dự phòng và quá trình lập kế hoạch cẩn trọng, đòi hỏi nhiều thời gian”.

Theo ông, cách tiếp cận này sẽ giúp bảo đảm rằng những sai sót của con người - vốn khó có thể loại bỏ hoàn toàn – không trở thành nguyên nhân dẫn tới một thảm họa.

Ông Robinson cho biết ông không đưa ra quyết định rời OpenAI một cách dễ dàng và vẫn tin rằng AI “có thể mang lại những giá trị và lợi ích to lớn”. Tuy nhiên, ông cho rằng để giảm những rủi ro đang gia tăng, ngành AI cần chịu sức ép mạnh hơn từ bên ngoài.

“Bây giờ tôi dự định làm việc bên ngoài ngành, với hy vọng có thể giúp nhiều người hơn hiểu được những rủi ro mà tôi nhìn thấy, đồng thời tạo thêm áp lực để OpenAI và các công ty khác phải nâng cao mức độ an toàn”, ông viết.