15:19 07/12/2024

Không nên thiết kế “bản năng sinh tồn” cho AI

Hằng Anh

Nên tránh thiết kế "bản năng sinh tồn" cho các hệ thống AI. Điều đó có nghĩa không nên thiết kế các hệ thống AI giống con người, có cảm xúc, ngoại hình và thậm chí cả ý thức, quyền tự quyết, tự chủ vì trí thông minh của chúng có thể nhanh chóng vượt qua con người và có thể trở thành những AI lừa đảo, thúc đẩy những lợi ích, mục tiêu không hoàn toàn vì hạnh phúc của nhân loại...

Ảnh minh họa
Ảnh minh họa

Chia sẻ, trao đổi về chủ đề an toàn AI tại sự  kiện vừa diễn ra, GS Yoshua Bengio, Nhà sáng lập Viện nghiên cứu AI Mila, một trong những người có tầm ảnh hưởng lớn trên toàn cầu trong việc tạo ra nền móng để AI trở thành một công nghệ thực tế, được ứng dụng rộng rãi trong các lĩnh vực nhấn mạnh: điều quan trọng nhất là việc phát triển công nghệ cần phải đi đôi với việc bảo vệ quyền lợi của con người và sự phát triển bền vững của xã hội. “Chúng tôi vẫn ủng hộ thúc đẩy sự phát triển của AI, nhưng là một cách an toàn”.

AI CẦN ĐƯỢC XÂY DỰNG NHƯ CÔNG CỤ PHỤC VỤ CON NGƯỜI

AI đang phát triển vượt bậc, hiệu quả sử dụng dữ liệu tăng 30%, hiệu suất thuật toán tăng gấp ba lần, đầu tư vào lĩnh vực này trung bình đạt 100 tỷ USD/năm, và các đánh giá chuẩn mực cho thấy năng lực AI đã vượt qua khả năng của con người, đặc biệt là trong việc làm chủ ngôn ngữ và xử lý dữ liệu.

Tuy nhiên, theo GS. Yoshua Bengio, sự tiến bộ nhanh chóng này đặt ra câu hỏi đáng lo ngại về khả năng kiểm soát những hệ thống AI thông minh hơn con người. Trong bối cảnh đó, một câu hỏi đạo đức lớn được đặt ra: Ai sẽ quyết định mục tiêu của AI? Sự cấp bách của việc hiểu rõ và hành động đúng đắn không chỉ là trách nhiệm, mà còn là yếu tố sống còn đối với tương lai nhân loại”. 

Một trong những nguyên tắc quan trọng được Giáo sư Yoshua Bengio đưa ra là AI cần được xây dựng như công cụ phục vụ con người, không phải như những "tác nhân" có khả năng tự đặt ra mục tiêu và hành động để đạt được mục tiêu đó, vì các mục tiêu của AI có thể mâu thuẫn hoặc vượt ngoài ý định ban đầu của con người.

GS. Yoshua Bengio: “Chúng tôi vẫn ủng hộ thúc đẩy sự phát triển của AI, nhưng là một cách an toàn”.
GS. Yoshua Bengio: “Chúng tôi vẫn ủng hộ thúc đẩy sự phát triển của AI, nhưng là một cách an toàn”.

Do đó, theo Giáo sư Yoshua Bengio nên tránh thiết kế "bản năng sinh tồn" cho các hệ thống AI. Điều đó có nghĩa không nên thiết kế các hệ thống AI giống con người, có cảm xúc, ngoại hình và thậm chí cả ý thức, quyền tự quyết, tự chủ vì trí thông minh của chúng có thể nhanh chóng vượt qua con người và có thể trở thành những AI lừa đảo, thúc đẩy những lợi ích, mục tiêu không hoàn toàn vì hạnh phúc của nhân loại.

GS Yoshua Bengio cũng chỉ rõ, làn sóng sa thải trong ngành công nghệ không hoàn toàn là do hệ quả của sự phát triển AI, mà còn bị ảnh hưởng bởi các yếu tố điều chỉnh kinh tế. “AI thể hiện sự tiến bộ xuất sắc trong nhiều lĩnh vực nhưng chưa hoàn toàn thay thế được con người, đặc biệt ở những công đoạn đòi hỏi tư duy chiến lược, nghiên cứu…”.

Nhìn chung, những công việc yêu cầu khả năng tự chủ và đưa ra quyết định linh hoạt vẫn là thế mạnh của con người. Tuy nhiên, điều này có thể sẽ thay đổi trong tương lai. Có thể dự đoán rằng những công việc đơn giản sẽ được tự động hóa trước, trong khi những công việc đòi hỏi chuyên môn cao hơn vẫn sẽ là lĩnh vực mà con người giữ vai trò chủ đạo, Yoshua Bengio khẳng định.

Không nên thiết kế “bản năng sinh tồn” cho AI - Ảnh 1

Nếu nhìn lại, AI hiện nay vẫn chưa mạnh ở các lĩnh vực vật lý và không thể thay thế con người trong những tương tác xã hội. Khi ứng dụng AI hoặc công nghệ thông tin trong các lĩnh vực chuyên môn, nơi có sự tham gia của con người, chúng ta cần những người hiểu rõ bối cảnh để quyết định cách thức sử dụng AI sao cho hợp lý.

Chính vì thế, những lĩnh vực ứng dụng phức tạp, có yếu tố xã hội và ảnh hưởng đến con người… sẽ vẫn là lĩnh vực do con người đảm nhận chủ yếu. AI sẽ hỗ trợ trong việc thiết kế công nghệ, nhưng điều đó khác biệt hoàn toàn so với việc hiểu và xử lý bối cảnh xã hội mà công nghệ được áp dụng.

Theo thống kê năm 2023 về tương lai của thị trường Lao động của Diễn đàn Kinh tế Thế giới, đến năm 2025, AI dự kiến sẽ tạo ra 12 triệu việc làm mới trên toàn cầu.

Một nghiên cứu khác của McKinsey cũng cho thấy, AI có thể đóng góp vào việc tạo ra từ 20- 50 triệu việc làm mới trên thế giới vào năm 2030.

Theo Chủ tịch Tập đoàn FPT Trương Gia Bình, AI cần được coi là một “đồng minh” chứ không phải một mối đe dọa lấy mất việc làm của con người. Việc học hỏi và ứng dụng AI là vô cùng quan trọng để duy trì tính cạnh tranh trên thị trường lao động; bao gồm những hiểu biết cơ bản về AI, học máy, khoa học dữ liệu, cũng như các kỹ năng giải quyết vấn đề và phân tích để làm việc hiệu quả với các hệ thống AI.

LẬP ỦY BAN ĐẠO ĐỨC TRÍ TUỆ NHÂN TẠO

Nhằm định hướng lộ trình phát triển AI của Việt Nam, đảm bảo AI được triển khai theo chuẩn mực đạo đức, đổi mới sáng tạo song hành với lợi ích xã hội, và thúc đẩy môi trường pháp lý thuận lợi cho AI, Hiệp hội Phần mềm và Dịch vụ công nghệ thông tin Việt Nam (VINASA) công bố thành lập Ủy ban Đạo đức Trí tuệ nhân tạo (AI).

Ủy ban Đạo đức AI ra đời thể hiện nỗ lực của Việt Nam trong việc xây dựng một hệ sinh thái AI nơi đổi mới sáng tạo được phát triển trong khuôn khổ đạo đức, đảm bảo khả năng cạnh tranh toàn cầu và bảo vệ các giá trị xã hội.

Ngoài việc xây dựng chính sách và tiêu chuẩn đánh giá rủi ro, ủy ban còn là cầu nối hợp tác quốc tế và cố vấn cho chính phủ Việt Nam. Các nhiệm vụ chính gồm phát triển tiêu chuẩn an toàn AI, phân tích rủi ro và nâng cao nhận thức về AI có trách nhiệm.

GS Yoshua Bengio và Chủ tịch Tập đoàn FPT Trương Gia Bình cùng trao đổi về vấn đề AI có trách nhiệm.
GS Yoshua Bengio và Chủ tịch Tập đoàn FPT Trương Gia Bình cùng trao đổi về vấn đề AI có trách nhiệm.

Trong bối cảnh các chính phủ và tổ chức quốc tế trên toàn thế giới ưu tiên xây dựng các quy định chặt chẽ và khung đạo đức cho AI, sáng kiến này phản ánh cam kết mạnh mẽ của Việt Nam trong việc đồng hành cùng cộng đồng quốc tế để giải quyết những thách thức và khai thác cơ hội phức tạp mà AI mang lại. Các sáng kiến toàn cầu như EU AI Act, Nguyên tắc AI của OECD, và khuyến nghị AI có đạo đức của UNESCO đang thiết lập các tiêu chuẩn quan trọng về tính minh bạch, trách nhiệm và công bằng trong quản trị AI.

GS. Yoshua Bengio chia sẻ: “trong khi chúng ta tiếp tục khám phá tiềm năng chuyển đổi của AI, điều quan trọng là phải ưu tiên các quy chuẩn về an toàn và đạo đức. Thách thức không chỉ nằm ở việc tiến xa trong AI, mà còn ở việc ứng dụng AI một cách có trách nhiệm– bảo đảm rằng AI phục vụ nhân loại mà không làm tổn hại đến các giá trị cốt lõi.

“Thông qua xây dựng một cộng đồng cam kết sử dụng AI có đạo đức, chúng ta có thể thúc đẩy tiến bộ và đổi mới vì lợi ích xã hội, giảm thiểu rủi ro từ các hệ thống tự động hóa. Việc thành lập Ủy ban Đạo Đức AI là một bước đi quan trọng để dẫn dắt Việt Nam đến một tương lai phát triển AI phù hợp với các tiêu chuẩn toàn cầu về minh bạch, trách nhiệm và lợi ích xã hội.”, GS. Yoshua Bengio nhấn mạnh.

Là tổ chức xã hội nghề nghiệp với hơn 600 hội viên hoạt động trong lĩnh vực ICT, Chủ tịch Ủy ban Đạo đức AI, ông Nguyễn Tử Quảng cho biết VINASA đặc biệt quan tâm đến xu thế phát triển của thị trường cũng như các công nghệ mới, trong đó có AI và các vấn đề mà công nghệ này đặt ra như sự minh bạch, an toàn thông tin, tính riêng tư, tính nhân văn, và cam kết sử dụng theo chuẩn mực đạo đức xã hội.

AI là xu thế tất yếu và cơ hội lớn để Việt Nam tham gia ngay cùng thế giới, nhưng giống như bất kỳ công nghệ mới nào, nó mang theo những nguy cơ tiềm ẩn, đòi hỏi sự cẩn trọng từ chính các nhà nghiên cứu và phát triển.

Để phát triển AI hiệu quả và bền vững, VINASA cho rằng cần xây dựng các khuôn khổ pháp luật và đạo đức. Những khuôn khổ này không nhằm kiểm soát mà mang tính định hướng, giúp AI phát huy tối đa tiềm năng đồng thời hạn chế những tác động tiêu cực, tạo hành lang thúc đẩy sự phát triển công nghệ một cách bền vững và phù hợp với các giá trị xã hội.

Còn theo Chủ tịch FPT Trương Gia Bình, “Ủy ban Đạo đức AI là một trong những minh chứng cho tầm nhìn của Việt Nam trong việc đảm nhận vai trò dẫn dắt có trách nhiệm trong kỷ nguyên AI. Trong bối cảnh AI phát triển nhanh chóng, mang lại cả cơ hội lẫn thách thức chưa từng có, nhu cầu về quản trị có trách nhiệm trở nên cấp bách hơn bao giờ hết. Bằng cách tuân thủ các tiêu chuẩn quốc tế và hợp tác với các nhà đổi mới toàn cầu, FPT cam kết góp phần định hình một hệ sinh thái AI phục vụ lợi ích tốt nhất của nhân loại, đồng thời thúc đẩy đổi mới bền vững tại Việt Nam và trên toàn thế giới.”

Là thành viên sáng lập của Liên minh AI, được khởi xướng bởi IBM và Meta, FPT đang tích cực thúc đẩy phát triển các hoạt động AI có đạo đức và trách nhiệm trên quy mô toàn cầu.