Cách Trung Quốc siết chặt quản lý hình ảnh, video giả do AI tạo ra

Trung Quốc đang đẩy mạnh việc kiểm soát các hình ảnh và video giả mạo được tạo ra bằng công nghệ trí tuệ nhân tạo (AI) trong bối cảnh số lượng nội dung sai lệch lan truyền trên mạng xã hội tăng nhanh.

Nhiều nội dung trong số này đã gây hoang mang dư luận, từ các vụ bắt cóc cho tới thảm họa tự nhiên bị thổi phồng. Động thái siết chặt được đưa ra khi Bắc Kinh lo ngại rằng các sản phẩm AI bị lạm dụng có thể ảnh hưởng đến ổn định xã hội và uy tín chính quyền.

TĂNG TỐC HOÀN THIỆN KHUNG PHÁP LÝ, ĐỐI PHÓ LÀN SÓNG NỘI DUNG XUYÊN TẠC

Hãng tin Nikkei cho biết theo kế hoạch, các sửa đổi đối với Luật An toàn Internet của Trung Quốc sẽ chính thức có hiệu lực từ tháng 1 năm tới. Luật này vốn được thiết kế nhằm tăng cường an ninh cho hạ tầng viễn thông và internet, nhưng với sức nóng từ công nghệ AI, Quốc hội Trung Quốc đã bổ sung hàng loạt quy định liên quan đến quản lý rủi ro, giám sát an toàn và sử dụng AI trong môi trường trực tuyến. Các sửa đổi đã được Ủy ban Thường vụ Nhân đại toàn quốc thông qua ngày 28/10.

Giới quan sát cho rằng chính phủ Trung Quốc đặc biệt cảnh giác trước nguy cơ AI bị sử dụng để thổi phồng, xuyên tạc thông tin về các vụ tai nạn, tội phạm hoặc thảm họa.

Khi hình ảnh thiệt hại bị thổi phồng hơn thực tế, dư luận có thể hiểu lầm rằng chính quyền phản ứng chậm hoặc xử lý kém hiệu quả. Một nguy cơ khác là việc dựng nên các cáo buộc sai trái nhằm vào quan chức cấp cao, từ đó ảnh hưởng đến niềm tin chính trị.

Trung Quốc vốn đã ban hành bộ quy định đầu tiên cho dịch vụ AI tạo sinh từ tháng 8/2023, yêu cầu các công ty AI phải phát triển và vận hành mô hình theo “giá trị xã hội chủ nghĩa”, đồng thời cấm sinh ra nội dung gây rối loạn xã hội hoặc đe dọa sự ổn định của nhà nước. Các mô hình nổi tiếng như DeepSeek đều được huấn luyện theo các tiêu chuẩn này nên thường né tránh trả lời câu hỏi nhạy cảm về chính trị.

Tuy nhiên, làn sóng hình ảnh và video giả gần đây, đặc biệt là các nội dung lan truyền nhanh trên mạng xã hội, dường như đã khiến Bắc Kinh phải tăng tốc hoàn thiện khung pháp lý và siết chặt giám sát hơn nữa.

Một trường hợp điển hình là sự cố sau trận động đất mạnh 6,8 độ Richter xảy ra ở Tây Tạng ngày 7/1. Một bức ảnh lan truyền trên mạng cho thấy một em bé sơ sinh nằm dưới đống đổ nát, khiến cộng đồng mạng vô cùng xúc động. Nhưng sau đó, cơ quan chức năng xác nhận hình ảnh này do AI tạo ra, không liên quan đến vụ động đất. Người đăng tải bức ảnh đã bị tạm giữ vì hành vi phát tán tin giả.

Không chỉ vậy, lực lượng công an Trung Quốc cũng gia tăng nhắm mục tiêu vào những người sử dụng AI để tạo nội dung sai lệch. Cuối tháng 10, họ công bố nhiều trường hợp vi phạm nhằm cảnh báo cộng đồng.

Trong một vụ việc, một người đàn ông 28 tuổi ở tỉnh Chiết Giang đã sử dụng hình ảnh một bé gái tìm thấy trên mạng để bịa đặt câu chuyện con gái mình bị bắt cóc. Trong một trường hợp khác tại tỉnh Sơn Tây, một phụ nữ 57 tuổi đăng tải văn bản và hình ảnh mô tả thiệt hại sau động đất, dù thực tế không hề có sự cố nào xảy ra. Những trường hợp này đều bị xử lý vì “gây hiểu lầm cho cộng đồng và làm ảnh hưởng đến trật tự công cộng”.

BỐI CẢNH CÔNG NGHỆ BÙNG NỔ VÀ NỖ LỰC HẠN CHẾ LẠM DỤNG AI

Động thái siết chặt quản lý diễn ra trong bối cảnh công nghệ AI tạo sinh bùng nổ mạnh mẽ tại Trung Quốc. Theo Trung tâm Thông tin Mạng Internet Trung Quốc (CNNIC), tính đến tháng 6 năm nay, số lượng người dùng AI tạo sinh đã đạt 515 triệu – tăng gấp đôi chỉ trong 6 tháng.

Xu hướng này tăng tốc sau khi mô hình DeepSeek gây chú ý vì đạt hiệu suất cao với chi phí thấp, mở đường cho AI đến gần hơn với người dùng cá nhân lẫn doanh nghiệp.

Chỉ cần lướt qua Internet Trung Quốc, người dùng dễ dàng bắt gặp vô số hướng dẫn tạo ảnh giả bằng AI, các phần mềm đổi mặt, đổi giọng nói hay các công cụ chỉnh sửa nội dung thời gian thực. Nhiều người tận dụng các bức ảnh gây sốc để thu hút tương tác, phục vụ livestream bán hàng hoặc kiếm doanh thu từ quảng cáo.

Trước tình hình đó, một cơ quan giám sát Internet của chính phủ đã tăng tốc chỉ đạo các nền tảng xử lý những ứng dụng AI có thể tạo ra ảnh khỏa thân giả, chỉnh sửa khuôn mặt hoặc giọng nói quá dễ dàng. Trong quý II năm nay, cơ quan này yêu cầu chỉnh sửa 3.500 ứng dụng và gỡ bỏ 960.000 nội dung vi phạm.

Đến tháng 9, cơ quan này tiếp tục ban hành yêu cầu mới: các nhà cung cấp dịch vụ AI phải dán nhãn bắt buộc đối với hình ảnh, video do AI tạo ra. Quy định này nhằm giúp người dùng nhận biết đâu là nội dung thật, đâu là nội dung do máy tạo, qua đó giảm thiểu tác động tiêu cực của tin giả.

Các chuyên gia nhận định Trung Quốc đang đi theo hướng xây dựng hệ sinh thái AI “kiểm soát chặt, phát triển có định hướng”. Một mặt, nước này thúc đẩy phát triển mô hình AI cạnh tranh với Mỹ và phương Tây; mặt khác, chính quyền kiên quyết không để công nghệ mới gây ra bất ổn xã hội hoặc tạo ra khoảng trống pháp lý.