Những cạm bẫy vì "quá tin AI": Khi con người lười tư duy trước công nghệ

Kỷ nguyên trí tuệ nhân tạo (AI) đang chứng kiến một thực trạng đáng quan ngại khi con người có xu hướng đặt trọn niềm tin vào máy móc. “Chúng ta đang dần tin tưởng máy móc quá dễ dàng”, Tiến sĩ Trần Nhật Quang, giảng viên Công nghệ thông tin và nghiên cứu viên về đạo đức AI tại Đại học RMIT Việt Nam, chia sẻ quan điểm trước những rủi ro công nghệ ngày càng gia tăng.

Hãy tưởng tượng bạn nhận được một tin nhắn tư vấn y tế đầy thấu cảm và chuyên nghiệp từ vị bác sĩ quen thuộc. Bạn hoàn toàn tin tưởng, nhưng thực chất tin nhắn đó lại chứa những sai sót chuyên môn có thể gây hậu quả nghiêm trọng. Đáng nói, vị bác sĩ ấy chưa từng có lịch sử sai sót trong suốt quá trình hành nghề. Chuyện gì đã xảy ra đằng sau bức màn công nghệ này? Hóa ra, văn bản đó được soạn thảo toàn bộ bởi trí tuệ nhân tạo, và vị bác sĩ chỉ đơn giản là phê duyệt rồi bấm nút gửi mà không hề kiểm tra kỹ lưỡng.

KHI BỘ NÃO CON NGƯỜI BẬT CHẾ ĐỘ "BỎ CUỘC"

Theo Tiến sĩ Trần Nhật Quang, đây không phải là một giả định mơ hồ mà là kết quả từ một nghiên cứu thực tế được công bố trên tạp chí khoa học uy tín npj Digital Medicine vào năm 2025.

Sai lầm nghiêm trọng này hoàn toàn không đến từ năng lực chuyên môn của con người, mà nó bắt nguồn từ một hội chứng tâm lý nguy hiểm ngày càng phổ biến mang tên thiên kiến tự động hóa (automation bias). Đây là xu hướng con người tin tưởng một cách vô điều kiện vào các đề xuất của máy tính hay hệ thống tự động, sẵn sàng bỏ qua phán đoán của chính mình ngay cả khi có những bằng chứng rõ ràng chứng minh máy tính đang sai.

Phân tích sâu hơn về nghịch lý này, Tiến sĩ Trần Nhật Quang chỉ ra một thực tế đáng quan ngại rằng khi AI hoạt động càng chính xác thì sự cẩn trọng của con người lại càng suy giảm.

Khi các hệ thống máy móc tỏ ra quá đáng tin và bóng bẩy, kỹ năng tư duy phản biện của chúng ta dễ bị mai một và đóng băng do ít được vận hành. Hệ quả là, thay vì đóng vai trò một người canh gác đầy cảnh giác để kiểm soát công nghệ, con người tự hạ thấp năng lực của mình thành những dấu mộc hình thức, mặc định phê duyệt mọi thứ mà máy móc đưa ra mà không có sự phản kháng về mặt tư duy.

TỪ SAI LẦM THỰC TẾ ĐẾN "VÙNG HẤP THỤ TRÁCH NHIỆM"

Không dừng lại ở lĩnh vực y tế, thế giới đã chứng kiến hàng loạt bê bối pháp lý và giáo dục chấn động liên quan trực tiếp đến làn sóng thiên kiến này.

Vào năm 2025, một luật sư tại Mỹ đã bị tòa án bang xử phạt nặng nề sau khi nộp một văn bản pháp lý có chứa các trích dẫn án lệ chưa từng tồn tại do AI tự bịa ra, mà nguyên nhân là do người trợ lý đã quá tin tưởng ChatGPT mà không xác minh lại.

Trước đó vào năm 2024, một trường đại học tại Australia cũng phải gánh chịu làn sóng khiếu nại dữ dội khi cáo buộc oan sai hàng ngàn sinh viên gian lận học thuật, chỉ vì nhà trường tin tưởng tuyệt đối vào kết luận sai lệch của một công cụ phát hiện AI kém hiệu quả.

Đằng sau những sai lầm mang tính hệ thống này là một bài toán đạo đức nan giải mang tên vùng hấp thụ trách nhiệm (moral crumple zone), một khái niệm do nhà nhân loại học người Mỹ Madeleine Clare Elish công bố vào năm 2019.

Tiến sĩ Trần Nhật Quang giải thích bằng một hình ảnh so sánh trực quan rằng nếu trong kỹ thuật ô tô, vùng hấp thụ lực được thiết kế để chịu biến dạng nhằm bảo vệ hành khách khi va chạm, thì trong các hệ thống AI, con người lại chính là vùng hấp thụ lực đó. Họ là nơi hứng chịu mọi búa rìu dư luận, trách nhiệm pháp lý và đạo đức khi hệ thống vận hành sai sót.

Khi một hệ thống AI hoạt động hoàn hảo trong một thời gian dài, người giám sát sẽ nảy sinh tâm lý chủ quan, mất cảnh giác và khiến khả năng phát hiện lỗi của họ giảm đi đáng kể. Tuy nhiên, khi thảm họa xảy ra, con người vẫn là đối tượng duy nhất bị đem ra quy trách nhiệm trước pháp luật vì đã không can thiệp kịp thời.

Minh chứng đau lòng nhất chính là vụ tai nạn năm 2018 tại Arizona (Mỹ), khi chiếc xe tự hành thử nghiệm của Uber đâm tử vong một người đi bộ băng qua đường. Dù hệ thống tự lái của xe gặp lỗi nghiêm trọng, người tài xế ngồi ghế giám sát an toàn vẫn bị truy tố tội vô ý làm chết người do xao nhãng.

KIỀNG BA CHÂN ĐỂ "CHUNG SỐNG AN TOÀN" VỚI CÔNG NGHỆ

Trong thời đại AI, thiên kiến tự động hóa đang khiến vùng hấp thụ trách nhiệm này ngày càng mở rộng và trở nên khốc liệt hơn bao giờ hết. Để không bị nhấn chìm bởi mặt tối của công nghệ, Tiến sĩ Trần Nhật Quang khẳng định chúng ta cần xây dựng một chiến lược toàn diện dựa trên sự kết hợp chặt chẽ của ba yếu tố bao gồm kỹ thuật, con người và pháp lý.

Về mặt kỹ thuật, các nhà phát triển cần tái thiết kế các hệ thống AI sao cho chúng sở hữu cơ chế bắt buộc tư duy. Trong môi trường học đường hay công sở, hệ thống phải yêu cầu người dùng tự đưa ra câu trả lời hoặc giải pháp độc lập của riêng mình trước khi AI hiển thị các gợi ý có sẵn. Phương pháp này sẽ định vị AI đúng nghĩa là một nguồn tham khảo thông tin thay vì một đáp án hoàn chỉnh ngay từ đầu, buộc bộ não con người phải liên tục vận động.

Về mặt con người, các chương trình đào tạo toàn diện cần được triển khai để giúp người dùng nhận thức rõ ràng về sự tồn tại của thiên kiến tự động hóa. Các khóa huấn luyện về AI tuyệt đối không được phép chỉ tô hồng những lợi ích mà phải thẳng thắn chỉ ra các giới hạn cố hữu của công nghệ như hiện tượng ảo giác, sự tự tin thái quá hay các lập luận sai lệch. Từ đó, người dùng mới có thể điều chỉnh mức độ tin tưởng của mình sao cho phù hợp với hiệu suất thực tế của máy móc.

Về mặt pháp lý, hành lang hành pháp toàn cầu đang dịch chuyển rất nhanh để siết chặt trách nhiệm kiểm soát của con người. Đạo luật AI của Liên minh châu Âu (EU AI Act) tại Điều 14 đã quy định bắt buộc phải có sự giám sát của con người đối với các hệ thống rủi ro cao như y tế và quân sự.

Tại Mỹ, Sắc lệnh hành pháp 14110 cũng nhấn mạnh việc chống lạm dụng và phụ thuộc quá mức vào AI trong tư pháp, y tế và việc làm.

Tại Việt Nam, Luật Trí tuệ nhân tạo có hiệu lực từ ngày 1/3/2026 cũng đã kịp thời nhấn mạnh việc duy trì sự kiểm soát và quyền can thiệp của con người đối với mọi quyết định của hệ thống AI, qua đó gián tiếp xử lý triệt để bài toán thiên kiến tự động hóa.

"Các biện pháp vừa nêu, từ kỹ thuật, con người, đến pháp lý, thật ra đều nhắm vào một nguyên tắc chung: AI chỉ nên hỗ trợ chứ không nên thay thế phán đoán của con người", Tiến sĩ Quang chia sẻ. 

Tiến sĩ Trần Nhật Quang đúc kết rằng AI cũng giống như nước, có thể mang lại sự sống và lợi ích khổng lồ, nhưng cũng có thể nhấn chìm tất cả nếu chúng ta mất đi sự kiểm soát. "Thiên kiến tự động hóa là một trong những mối nguy đang âm thầm làm thay đổi cách con người sử dụng và phụ thuộc vào các hệ thống máy móc. Để chung sống an toàn với AI, chúng ta cần duy trì một đầu óc tỉnh táo, luôn kiểm chứng kỹ lưỡng các thông tin được tạo bởi AI trước khi chấp nhận chúng", Tiến sĩ Quang nhấn mạnh.