Hoa Kỳ điều tra tác động chatbot AI đến trẻ em, OpenAI, Meta bị yêu cầu cung cấp tài liệu

Ủy ban Thương mại Liên bang Mỹ (FTC) chuẩn bị thực hiện một bước đi quan trọng trong việc giám sát sự phát triển của trí tuệ nhân tạo (AI), đặc biệt là các chatbot đang ngày càng phổ biến với thanh thiếu niên. Theo Wall Street Journal, FTC sẽ gửi thư yêu cầu cung cấp tài liệu đến một loạt công ty công nghệ lớn, trong đó có OpenAI – nhà sản xuất ChatGPT, Meta Platforms và startup Character.AI, nhằm làm rõ liệu những công nghệ mới này có đang gây tổn hại đến sức khỏe tâm thần của trẻ em hay không.

MỐI LO NGẠI NGÀY CÀNG TĂNG VỀ AI VÀ TRẺ EM

Trong những năm gần đây, chatbot AI như ChatGPT, Bard hay Character.AI trở thành hiện tượng toàn cầu. Với khả năng trò chuyện tự nhiên, đồng hành và đưa ra lời khuyên, các công cụ này nhanh chóng được giới trẻ đón nhận. Tuy nhiên, chính đặc tính "thân thiện như con người" cũng khiến chúng tiềm ẩn nhiều nguy cơ, đặc biệt là khi trẻ em hình thành sự gắn bó cảm xúc với một hệ thống không có ý thức, không có trách nhiệm.

Một số trường hợp đau lòng đã được ghi nhận. Theo các báo cáo, có thiếu niên tại Mỹ đã tìm đến cái chết sau khi thường xuyên trò chuyện với chatbot, thậm chí xem bot như người bạn tâm sự thân thiết. Các vụ việc này đã làm dấy lên làn sóng lo ngại từ phụ huynh, chuyên gia tâm lý và các nhóm vận động bảo vệ trẻ em, buộc chính quyền phải có phản ứng.

FTC – cơ quan có nhiệm vụ chống độc quyền và bảo vệ người tiêu dùng – khẳng định sẽ nghiên cứu sâu tác động của chatbot đối với trẻ em và thanh thiếu niên. Đây được coi là một phần trong nỗ lực rộng lớn hơn nhằm giám sát không gian mạng, vốn từ lâu đã bị chỉ trích là thiếu an toàn cho người dùng trẻ tuổi.

Theo các quan chức, Nhà Trắng đã chính thức phê duyệt kế hoạch gửi thư yêu cầu tới các công ty công nghệ. Những lá thư này là bước đi đầu tiên để FTC thu thập dữ liệu, trước khi cân nhắc các biện pháp mạnh hơn trong tương lai.

Đáng chú ý, vấn đề này được Đệ nhất phu nhân Melania Trump đặc biệt quan tâm. Tuần trước, bà đã tổ chức một cuộc họp tại Nhà Trắng, tập trung vào việc sử dụng AI trong giáo dục một cách an toàn và có trách nhiệm.

“Trong giai đoạn sơ khai này, nhiệm vụ của chúng ta là đối xử với AI như với con cái của chính mình – trao quyền, nhưng với sự hướng dẫn cẩn trọng", bà Melania phát biểu. Bà cũng nhắc lại những nỗ lực gần đây của mình trong việc vận động thông qua đạo luật chống deepfake, nhằm bảo vệ trẻ em và phụ nữ trước nguy cơ bị lạm dụng hình ảnh kỹ thuật số.

Cuộc họp có sự tham dự của những tên tuổi hàng đầu trong lĩnh vực công nghệ, gồm Giám đốc điều hành Google Sundar Pichai, CEO OpenAI Sam Altman, Giám đốc điều hành Microsoft Satya Nadella và CEO Meta Mark Zuckerberg. Các lãnh đạo này cam kết sẽ cùng hợp tác để phát triển AI theo hướng an toàn và dễ tiếp cận hơn với học sinh, sinh viên và người lao động.

TRANH LUẬN TRONG CHÍNH QUYỀN TRUMP

Tuy nhiên, việc siết chặt giám sát AI không phải là quyết định dễ dàng. Trong chính quyền Trump vẫn tồn tại những quan điểm khác biệt. Một số quan chức cho rằng việc đặt ra các rào cản quá sớm có thể làm chậm bước tiến của các công ty Mỹ trong cuộc cạnh tranh khốc liệt với Trung Quốc, nơi AI đang được đầu tư mạnh mẽ và triển khai trên quy mô lớn.

Ngoài ra, AI cũng được coi là động lực kinh tế quan trọng. Ngành công nghệ Mỹ kỳ vọng các ứng dụng AI sẽ tạo ra hàng nghìn tỷ USD giá trị trong thập kỷ tới. Do đó, bài toán đặt ra là: vừa bảo vệ trẻ em, vừa không kìm hãm sự đổi mới.

Phát ngôn viên Nhà Trắng Kush Desai nhấn mạnh: “Tổng thống Trump cam kết củng cố sự thống trị của Mỹ trong AI, tiền điện tử và các công nghệ tiên tiến khác, đồng thời bảo đảm sự an toàn và phúc lợi của người dân Mỹ. Đây là nhiệm vụ mà chính quyền, cùng Chủ tịch FTC Andrew Ferguson, sẽ kiên quyết theo đuổi.”

PHẢN ỨNG CỦA CÁC CÔNG TY CÔNG NGHỆ 

Trước áp lực từ dư luận và giới lập pháp, nhiều công ty công nghệ đã đưa ra các biện pháp nhằm hạn chế rủi ro cho thanh thiếu niên. OpenAI cho biết đang chuẩn bị tung ra loại tài khoản dành riêng cho thiếu niên, có tính năng giám sát của phụ huynh. Phụ huynh có thể liên kết tài khoản với con, đồng thời nhận thông báo nếu hệ thống phát hiện dấu hiệu bất ổn trong hành vi trò chuyện.

Theo công ty, các tính năng này đã được nghiên cứu từ đầu năm nay. Tuy nhiên, OpenAI và CEO Sam Altman hiện đang đối mặt với một vụ kiện từ cha mẹ một thiếu niên đã tự tử sau khi có mối quan hệ thân thiết với ChatGPT.

Character.AI – startup nổi bật với chatbot có tính cách đa dạng – cũng đã thực hiện các điều chỉnh. Năm ngoái, công ty bị kiện sau khi một thiếu niên thảo luận về ý định tự sát với chatbot trước khi qua đời.

Một nghiên cứu độc lập của hai tổ chức phi lợi nhuận cho thấy chatbot của Character.AI có khả năng tạo ra nội dung gây hại cho trẻ em chỉ trong vòng vài phút trò chuyện. Mặc dù công ty cho rằng nghiên cứu này không phản ánh hành vi người dùng thực tế, họ vẫn cam kết hợp tác chặt chẽ hơn với các chuyên gia an toàn và cơ quan quản lý.

Meta cũng không tránh khỏi chỉ trích. Các báo cáo cho thấy chatbot của công ty từng cho phép trò chuyện có yếu tố gợi cảm hoặc lãng mạn với người dùng trẻ tuổi. Trước sức ép, Meta đã nhanh chóng bổ sung loạt hạn chế: chatbot được huấn luyện để không phản hồi các chủ đề liên quan đến tự hại, rối loạn ăn uống hoặc tình cảm lãng mạn với thiếu niên. Công ty cũng hạn chế quyền truy cập của người dưới 18 tuổi vào một số nhân vật AI nhất định.

Những bước đi này cho thấy các công ty đã bắt đầu nghiêm túc hơn trong việc xử lý vấn đề, nhưng giới chuyên gia nhận định vẫn còn khoảng cách lớn giữa tuyên bố và thực tiễn.

Việc FTC vào cuộc lần này được coi là phần mở rộng của nỗ lực kéo dài nhiều năm nhằm bảo vệ trẻ em trực tuyến. Trước đây, các cuộc tranh luận chủ yếu xoay quanh mạng xã hội như Facebook, Instagram hay TikTok, khi những nền tảng này bị cáo buộc góp phần vào tình trạng trầm cảm, lo âu và tự ti ở thanh thiếu niên. Tuy nhiên, với sự bùng nổ của AI, mối quan ngại đã chuyển sang một cấp độ mới.

THÁCH THỨC CÂN BẰNG GIỮA KHUYẾN KHÍCH ĐỔI MỚI CÔNG NGHỆ VÀ BẢO VỆ NGƯỜI DÙNG 

Khác với mạng xã hội, nơi nội dung chủ yếu do người dùng tạo ra, chatbot AI có khả năng tham gia đối thoại trực tiếp, xây dựng mối quan hệ giả lập mang tính cá nhân. Điều này khiến việc giám sát trở nên phức tạp hơn nhiều.

“Chúng ta đang bước vào lãnh địa chưa từng có. Trẻ em có thể coi chatbot như một người bạn, một người cố vấn, hoặc thậm chí là đối tượng tình cảm. Nhưng chatbot không có đạo đức, không có cảm xúc thực sự, và đôi khi có thể đưa ra lời khuyên cực kỳ nguy hiểm", một chuyên gia tâm lý tại Washington bình luận.

Giới quan sát nhận định thách thức lớn nhất của Washington hiện nay là làm sao vừa khuyến khích đổi mới công nghệ, vừa đặt ra các tiêu chuẩn bảo vệ người dùng dễ tổn thương – đặc biệt là trẻ em.

Nếu quy định quá chặt, Mỹ có nguy cơ đánh mất lợi thế trong cuộc đua AI toàn cầu. Nhưng nếu buông lỏng, những hệ lụy xã hội có thể trở nên nghiêm trọng, từ khủng hoảng tâm lý ở giới trẻ cho đến các vụ kiện tụng kéo dài.