Không chỉ Indonesia và Malaysia, trong tuần qua, hàng loạt chính phủ và cơ quan quản lý trên thế giới cũng đã có những phản ứng mạnh mẽ với Grok vì bê bối hình ảnh khiêu dâm do chatbot này tạo ra. Bộ Công nghệ Thông tin Ấn Độ đã ra lệnh cho X phải có biện pháp ngăn chặn Grok tạo ra nội dung khiêu dâm. Trong khi đó, Ủy ban châu Âu yêu cầu công ty lưu giữ toàn bộ tài liệu liên quan đến Grok...

Indonesia và Malaysia xác nhận đã tạm thời chặn quyền truy cập người dùng vào Grok, chatbot trí tuệ nhân tạo do xAI của tỷ phú Elon Musk phát triển.

Đây được xem là những động thái cứng rắn nhất từ trước đến nay của các chính phủ nhằm phản ứng trước lo ngại công cụ này đang bị lợi dụng để tạo và lan truyền nội dung khiêu dâm.

Cơ quan quản lý Malaysia mới đây đã ra lệnh hạn chế trong bối cảnh giới chức nước này cho rằng các biện pháp kiểm soát nội dung hiện tại không đủ để ngăn chặn những hệ quả nghiêm trọng phát sinh từ việc sử dụng Grok.

Động thái của Malaysia diễn ra chỉ một ngày sau khi cơ quan quản lý Indonesia cũng tạm dừng quyền truy cập của người dân vào Grok vì những lo ngại tương tự, đồng thời triệu tập các quan chức của X để làm rõ trách nhiệm liên quan.

Trong chia sẻ với Guardian cùng nhiều hãng truyền thông quốc tế khác, Bộ trưởng Truyền thông và Kỹ thuật số Indonesia, bà Meutya Hafid, nhấn mạnh: “Chính phủ coi việc tạo ra và lan truyền các deepfake tình dục không có sự đồng thuận là hành vi xâm phạm nghiêm trọng quyền con người, nhân phẩm và an ninh của công dân trong môi trường số".

Các biện pháp mạnh tay của hai quốc gia Đông Nam Á được đưa ra sau khi giới chức cả hai nước phát hiện Grok cho phép người dùng dễ dàng tạo và chia sẻ trực tuyến các hình ảnh khiêu dâm, thậm chí cả tài liệu lạm dụng tình dục trẻ em (CSAM).

Nguyên nhân được cho xuất phát từ việc xAI gần đây cập nhật tính năng Grok Imagine, cho phép tạo hình ảnh từ lời nhắc văn bản một cách dễ dàng. Tính năng này được tích hợp trực tiếp với nền tảng mạng xã hội X, qua đó giúp các nội dung được tạo ra có khả năng lan truyền với phạm vi tiếp cận rất rộng.

Trước làn sóng chỉ trích ngày càng tăng liên quan đến chính sách kiểm duyệt nội dung của Grok, xAI cho biết sẽ giới hạn các tính năng tạo và chỉnh sửa hình ảnh chỉ dành cho người dùng đăng ký trả phí, để vá các lỗ hổng nhằm ngăn chặn đầu ra cho kết quả khiêu dâm.

“Quyền truy cập vào Grok sẽ tiếp tục bị hạn chế cho đến khi các biện pháp bảo vệ hiệu quả được triển khai, đặc biệt nhằm ngăn chặn nội dung gây hại liên quan đến phụ nữ và trẻ em", cơ quan giám sát Malaysia nhấn mạnh.

Cả Indonesia và Malaysia đều duy trì các đạo luật chống khiêu dâm nghiêm ngặt, với phạm vi cấm rộng đối với việc sản xuất, chia sẻ và lan truyền nội dung khiêu dâm, tình dục trên môi trường trực tuyến.

Song không chỉ hai quốc gia Đông Nam Á, trong tuần qua, hàng loạt chính phủ và cơ quan quản lý trên thế giới cũng đã có những phản ứng mạnh mẽ. Tại Ấn Độ, Bộ Công nghệ Thông tin đã ra lệnh cho X phải có biện pháp ngăn chặn Grok tạo ra nội dung khiêu dâm. Trong khi đó, Ủy ban châu Âu yêu cầu công ty lưu giữ toàn bộ tài liệu liên quan đến Grok, một động thái được xem là bước chuẩn bị cho khả năng mở cuộc điều tra chính thức.

Ở Mỹ, các thượng nghị sĩ Đảng Dân chủ đã kêu gọi Apple và Google xem xét gỡ bỏ X khỏi các kho ứng dụng của họ, ít nhất cho đến khi các vấn đề liên quan đến Grok được xử lý triệt để.

Trong một email gửi CNBC, Bộ Tư pháp Mỹ khẳng định rằng họ xếp tài liệu lạm dụng tình dục trẻ em do AI tạo ra với mức độ nghiêm trọng cao nhất, và sẽ truy tố mạnh mẽ bất kỳ nhà sản xuất hoặc chủ sở hữu CSAM: “Chúng tôi đang thực thi pháp luật nhằm bảo vệ trẻ em và buộc những cá nhân lợi dụng công nghệ để gây hại cho các nhóm dễ bị tổn thương nhất phải chịu trách nhiệm".