Dự thảo Luật Trí tuệ nhân tạo: Chín trường hợp hệ thống trí tuệ nhân tạo bị cấm

Dự thảo gồm 9 chương 70 điều, trong đó quy định phân loại và quản lý hệ thống trí tuệ nhân tạo theo rủi ro; phát triển hạ tầng và đảm bảo chủ quyền trí tuệ nhân tạo quốc gia; chuyển đổi và ứng dụng trí tuệ nhân tạo phục vụ phát triển kinh tế - xã hội; đạo đức, độ tin cậy và trách nhiệm trong hoạt động trí tuệ nhân tạo; phát triển nhân lực, đổi mới sáng tạo và hợp tác quốc tế; thanh tra, xử lý vi phạm và giải quyết tranh chấp…

7 NGUYÊN TẮC CƠ BẢN

Theo dự thảo, mọi hoạt động liên quan đến hệ thống trí tuệ nhân tạo tại Việt Nam phải tuân thủ 7 nguyên tắc cơ bản:

(1), lấy con người làm trung tâm (nhân văn): AI phải phục vụ và hỗ trợ con người, không thay thế con người trong các quyết định trọng yếu và phải luôn nằm dưới sự kiểm soát, giám sát và chịu trách nhiệm cuối cùng của con người.

(2), bảo đảm an toàn, công bằng, minh bạch và trách nhiệm: Hệ thống AI phải được phát triển và vận hành một cách an toàn, tin cậy, bảo mật và bảo đảm công bằng, không phân biệt đối xử; có khả năng giải trình và phải xác định rõ trách nhiệm pháp lý đối với các thiệt hại gây ra.

(3), bảo đảm tự chủ quốc gia và hội nhập quốc tế: Phát triển năng lực tự chủ về công nghệ, hạ tầng, dữ liệu và các mô hình trí tuệ nhân tạo; chủ động hợp tác, hội nhập quốc tế trên cơ sở hài hoà với các nguyên tắc và thông lệ quốc tế.

(4), phát triển bao trùm và bền vững: Gắn phát triển trí tuệ nhân tạo với mục tiêu phát triển kinh tế - xã hội bền vững, bảo đảm công bằng và cơ hội thụ hưởng cho mọi người dân, không ai bị bỏ lại phía sau, bảo vệ môi trường và giữ gìn bản sắc văn hoá dân tộc.

(5), bảo đảm sự cân bằng và hài hòa trong xây dựng và thực thi chính sách.

(6), quản lý dựa trên rủi ro: Nhà nước áp dụng biện pháp quản lý tương xứng với cấp độ rủi ro của hệ thống trí tuệ nhân tạo, chỉ quy định quản lý bắt buộc đối với hệ thống trí tuệ nhân tạo có nguy cơ gây hại rõ ràng…

(7), thúc đẩy đổi mới sáng tạo: Nhà nước kiến tạo môi trường pháp lý và chính sách thuận lợi, an toàn để thúc đẩy nghiên cứu, khởi nghiệp và thương mại hóa các sản phẩm, dịch vụ liên quan đến hệ thống trí tuệ nhân tạo.

Dự thảo cũng phân loại, giám sát hệ thống trí tuệ nhân tạo theo 4 cấp độ.

Một là rủi ro không chấp nhận được: Bị cấm tuyệt đối (quy định tại Điều 11), như hệ thống gây hại cho quyền con người, an ninh quốc gia.

Hai là rủi ro cao: Hệ thống có thể ảnh hưởng đáng kể đến tính mạng, sức khỏe, an ninh, quyền cơ bản của con người - phải tuân thủ nghĩa vụ nghiêm ngặt về đăng ký, đánh giá, minh bạch và giám sát.

Ba là rủi ro trung bình: Hệ thống có tương tác trực tiếp với con người hoặc tạo nội dung mà người dùng cần biết về bản chất nhân tạo.

Bốn là rủi ro thấp: Các hệ thống còn lại, được khuyến khích tự nguyện áp dụng tiêu chuẩn kỹ thuật và chỉ bị hậu kiểm khi có rủi ro phát sinh.

Chính phủ quy định chi tiết Bộ tiêu chí, các dấu hiệu nhận biết và ban hành danh mục ví dụ minh họa cho từng cấp độ rủi ro.

TRƯỜNG HỢP HỆ THỐNG TRÍ TUỆ NHÂN TẠO BỊ CẤM

Đáng chú ý, dự thảo Luật Trí tuệ nhân tạo cũng đưa ra quy định nghiêm cấm việc nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo trong 9 trường hợp.

Một là, thao túng nhận thức, hành vi của con người một cách có chủ đích nhằm làm mất khả năng tự chủ, ra quyết định, dẫn đến hoặc có khả năng dẫn đến tổn hại về thể chất hoặc tinh thần.

Hai là, lợi dụng các điểm yếu của một nhóm người cụ thể liên quan đến tuổi tác, khuyết tật hoặc hoàn cảnh kinh tế, xã hội để tác động đến hành vi của họ.

Ba là, chấm điểm tín nhiệm xã hội đối với cá nhân trên phạm vi rộng bởi cơ quan nhà nước, dẫn đến sự đối xử bất lợi hoặc không công bằng trong các bối cảnh xã hội không liên quan.

Bốn là, sử dụng hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực tại các địa điểm công cộng cho mục đích thực thi pháp luật, trừ các trường hợp đặc biệt do luật chuyên ngành quy định nhằm phòng, chống tội phạm nghiêm trọng và phải được cơ quan nhà nước có thẩm quyền cho phép theo một trình tự đặc biệt.

Năm là, xây dựng hoặc khai thác cơ sở dữ liệu nhận dạng khuôn mặt quy mô lớn thông qua việc thu thập hình ảnh một cách tràn lan, không có chủ đích từ Internet hoặc camera giám sát.

Sáu là, sử dụng hệ thống nhận diện cảm xúc tại nơi làm việc và các cơ sở giáo dục, trừ trường hợp luật chuyên ngành cho phép vì lý do y tế hoặc an toàn với các điều kiện nghiêm ngặt.

Bảy là, sản xuất hoặc phổ biến nội dung giả mạo và các nội dung khác do trí tuệ nhân tạo tạo ra có khả năng gây nguy hại nghiêm trọng đến trật tự, an toàn xã hội, an ninh quốc gia.

Tám là, phát triển hoặc sử dụng hệ thống trí tuệ nhân tạo nhằm chống phá Nhà nước.

Chín là, các trường hợp khác do Chính phủ quy định sau khi có ý kiến của các cơ quan liên quan và thực hiện tham vấn công khai.