Microsoft trình làng tính năng mới có thể khắc phục ảo giác AI

Bảo Ngọc
Chia sẻ

Microsoft tuyên bố hãng vừa phát minh ra tính năng mới có thể phát hiện và sửa thông tin sai lệch hoặc gây hiểu lầm do AI tạo ra…

Microsoft trình làng tính năng mới giúp khắc phục ảo giác AI.
Microsoft trình làng tính năng mới giúp khắc phục ảo giác AI.

Đầu tuần này, Microsoft vừa công bố tính năng mới mà theo hãng khẳng định sẽ giúp sửa chữa những tuyên bố sai lệch từ mô hình trí tuệ nhân tạo (AI).

Gã khổng lồ công nghệ cho biết, tính năng "Correction" sẽ xác định điểm không chính xác trong kết quả đầu ra AI và sửa chữa ngay lập tức, Euronews Next đưa tin.

Microsoft cho biết ảo giác sẽ được hiệu chỉnh theo thời gian thực “trước khi người dùng ứng dụng AI tạo sinh gặp phải trường hợp đó”. 

Tính năng hoạt động bằng cách quét và làm nổi bật phần không chính xác của phản hồi do AI tạo ra. Hệ thống có thể tạo phản hồi về lý do tại sao phát ngôn đó là sai và sử dụng AI để sửa chữa, đảm bảo "nội dung viết lại phù hợp hơn với nguồn dữ liệu được kết nối", phát ngôn viên từ Microsoft trình bày.

Công cụ Correction nằm trong dịch vụ Azure AI Content Safety API của Microsoft, hiện đang trong giai đoạn thử nghiệm trên một số thiết bị. Tính năng có thể tích hợp với bất kỳ mô hình AI tạo văn bản nào, bao gồm cả Llama của Meta và GPT-4 của OpenAI.

AI TẠO RA RẤT NHIỀU “ẢO GIÁC”

Đa số mô hình AI được đào tạo dựa trên các tập dữ liệu mở rộng nhằm đưa ra dự đoán, nhưng đôi khi lại tạo ra "ảo giác", ám chỉ trường hợp hệ thống tuyên bố thông tin không chính xác hoặc sai lệch hoàn toàn. Nguyên nhân chủ yếu dẫn tới tình trạng này là do dữ liệu đào tạo không đầy đủ hay mang tính thiên vị.

Ông Jesse Kommandeur, nhà phân tích chiến lược tại Trung tâm Nghiên cứu Chiến lược Hague, so sánh ảo giác AI như khi nướng bánh mà không có công thức đầy đủ. Thợ làm bánh đưa ra phỏng đoán dựa trên kinh nghiệm trước đó về những gì được cho là hiệu quả, đôi khi bánh ra lò ngon nhưng đôi khi lại không.

Ông Kommandeur bảy tỏ trong email: “AI đang cố gắng 'nướng’ kết quả đầu ra cuối cùng (thường dưới dạng văn bản) dựa trên thông tin không đầy đủ đã học được trước đó”.

Có nhiều ví dụ điển hình về việc chatbot AI cung cấp câu trả lời sai hoặc gây hiểu lầm, chẳng hạn như luật sư đệ trình thông tin kiện tụng giả mạo sau khi sử dụng mô hình AI hay vụ việc công cụ AI của Google cung cấp phản hồi sai lệch và không chính xác về lịch sử vào đầu năm nay.

Phân tích từ công ty Vectara vào năm ngoái cho thấy AI gây ảo giác từ 3 đến 27% trên tổng số câu trả lời tùy thuộc từng mô hình.

LIỆU CÔNG CỤ MỚI CỦA MICROSOFT CÓ THỂ KHẮC PHỤC VẤN ĐỀ ẢO GIÁC AI?

AI tạo sinh “không thực sự phản ánh, thiết lập kế hoạch và suy nghĩ. Mô hình chỉ phản hồi tuần tự các thông tin đầu vào… và chúng ta đã thấy nhiều hạn chế từ quy trình này”, ông Vasant Dhar, Giáo sư Trường Kinh doanh Stern thuộc Đại học New York, nhận định.

“Một điều có thể chắc chắn là tính năng hiệu chỉnh mới của Microsoft sẽ làm giảm ảo giác. Nhưng thực sự không thể loại bỏ hoàn toàn ảo giác bằng cấu ​​trúc hiện tại”, vị Giáo sư chia sẻ thêm.

Giáo sư Dhar đề xuất công ty chỉ nên tuyên bố rằng sản phẩm mới có thể giảm một phần tỷ lệ ảo giác nhất định.

“Cần một lượng lớn dữ liệu đào tạo về các loại hình ảo giác AI đã biết và thử nghiệm xem liệu phương pháp kỹ thuật này có thực sự làm giảm ảo giác hay không. Trên thực tế, đây là yêu cầu rất khó, công ty không nên đưa ra bất kỳ tuyên bố định lượng nào về mức độ giảm ảo giác của tính năng mới”.

Ông Kommandeur đã theo dõi xuyên suốt quá trình Microsoft công bố về tính năng sửa lỗi, cho biết mặc dù "đầy hứa hẹn và chưa từng xuất hiện trên thị trường trước đây, nhưng có vẻ như công nghệ này vẫn cần phát triển thêm và tồn tại nhiều hạn chế".

Ảo giác trở thành rào cản lớn trong nỗ lực đưa mô hình AI đến gần hơn với công chúng. 
Ảo giác trở thành rào cản lớn trong nỗ lực đưa mô hình AI đến gần hơn với công chúng. 

Một số chuyên gia khác cũng tỏ ra hoài nghi về hiệu quả thực sự của công cụ. Ông Os Keyes, nghiên cứu sinh tiến sĩ tại Đại học Washington, chuyên nghiên cứu về tác động đạo đức của công nghệ, khẳng định: "Cố gắng loại bỏ lỗi ảo giác ra khỏi AI giống như cố gắng loại bỏ hydro khỏi nước - đó là một phần cơ bản của quy trình công nghệ hoạt động". 

Theo ông Keyes, bản chất của mô hình AI hiện tại là hệ thống thống kê, dự đoán dựa trên những gì đã học từ dữ liệu huấn luyện, chứ không thực sự "hiểu" điều gì là đúng hay sai. Do đó, Correction có thể giảm bớt một số vấn đề, nhưng cũng có khả năng tạo ra lỗi mới.

CẢI TIẾN KHÔNG NGỪNG

Microsoft nhấn mạnh vấn đề ảo giác đã kìm hãm nhiều mô hình AI trong một số lĩnh vực mang tính rủi ro cao như y học, đặc biệt trong nỗ lực triển khai rộng rãi toàn cầu.

Giáo sư Dhar nhận xét: “Tất cả công nghệ bao gồm cả Google Search vẫn đang ngày đêm được cải tiến từng chút một”.

Đồng quan điểm, nhà phân tích Kommandeur cho biết: “Theo góc nhìn của tôi, về lâu dài, đầu tư vào AI có thể trở thành gánh nặng nếu các mô hình tiếp tục gây ảo giác, đặc biệt là khi những lỗi này tiếp tục dẫn đến thông tin sai lệch hoặc ra quyết định sai lầm, v.v."

“Tuy nhiên, về ngắn hạn, tôi cho rằng LLM (mô hình ngôn ngữ lớn) mang lại rất vô vàn giá trị trong cuộc sống hàng ngày của nhiều người xét về mặt hiệu quả, đến nỗi một số người dùng đã coi ảo giác AI là điều hiển nhiên”, ông Kommandeur chia sẻ thêm.

Khởi nghiệp

Hồ sơ Startup

Citigo là công ty công nghệ cung cấp những giải pháp đơn giản với chi phí tiết kiệm, giúp khách hàng nâng cao hiệu quả kinh doanh. Citigo hướng tới tầm nhìn trở thành công ty cung cấp giải pháp công nghệ cho doanh nghiệp phổ biến tại Đông Nam Á
ESBT là công ty hoạt động trọng lĩnh vực công nghệ thông tin, chúng tôi xây dựng những sản phẩm phần mềm cho cộng đồng và cung cấp dịch vụ phát triển phần mềm cho các doanh nghiệp
Lozi là một trong những ứng dụng thương mại điện tử được yêu thích nhất tại Việt Nam, kết nối hàng triệu người mua và người bán nhằm phục vụ nhu cầu mua bán trực tuyến ngày càng cao. Không chỉ là một cầu nối thương mại điện tử đáng tin cậy, Lozi còn cung cấp dịch vụ giao hàng nhanh chóng và tiện lợi chỉ trong 1 giờ, đem đến cho khách hàng những trải nghiệm mua sắm trực tuyến hiệu quả và tối ưu
Bắt nguồn từ mong muốn mang chất lượng dạy Tiếng Anh tại Trường Quốc tế đến với mọi học sinh Việt Nam, để các bạn nhỏ dù không có điều kiện kinh tế theo học tại các Trường Quốc Tế hay Trung Tâm đắt tiền vẫn có thể sử dụng Tiếng Anh tốt như người bản ngữ. Đây chính là hành trang chuẩn bị cho các em tương lai vươn ra thế giới. Chính vì lý do trên, đội ngũ sáng lập đã bắt tay vào xây dựng sản phẩm đầu tiên có tên “Chương trình học Tiếng Anh Online EDUPIA”.
Công ty TNHH SA-ACH định vị về lĩnh vững trồng rừng, phát triển gồm 3 loại cây và bốn tầng cây trên một hecta đất nhằm tạo hệ sinh thái bền vững, và nâng cao thu nhập cho bà con