CEO Snowflake: Các công ty công nghệ rất thiếu minh bạch trong vấn đề ảo giác AI
Bảo Ngọc
06/11/2024
Chia sẻ
Biện pháp bảo vệ và nguồn dữ liệu đầu vào đa dạng là yếu tố quan trọng giúp cải thiện độ chính xác của AI…
Nhiều người vẫn lầm tưởng AI có thể trả lời tất cả mọi truy vấn, tuy nhiên, công nghệ này lại có xu hướng đưa ra câu trả lời hoàn toàn hư cấu. CEO Snowflake, từng giữ chức Giám đốc Google AdWords, ông Sridhar Ramaswamy, cho biết các công ty công nghệ cần làm rõ vấn đề về tần suất xảy ra tình trạng ảo giác AI.
Theo Business Insider, trong tập phát sóng "The Logan Bartlett Show" gần đây, cựu lãnh đạo Google khẳng định các công ty công nghệ nên minh bạch hơn về tỷ lệ xảy ra ảo giác của AI.
"Nếu bạn để ý, không tổ chức nào công bố tỷ lệ ảo giác trên những thiết bị, mô hình hay giải pháp của họ", ông Ramaswamy chia sẻ. "Mọi thứ đang giống như kiểu, 'ồ, nhìn này, công nghệ của chúng tôi rất tuyệt, bạn chỉ nên sử dụng chúng tôi'".
Ước tính từ bên thứ ba, các mô hình ngôn ngữ lớn (LLM) hiện đại có thể gây ảo giác ở mức từ 1% đến gần 30%.
ẢO GIÁC AI LÀ “SỰ ĐÁNH ĐỔI CẦN THIẾT”
Một số ông trùm trong ngành đã lên tiếng về ảo giác AI, bao gồm cả CEO OpenAI Sam Altman, người cho rằng các mô hình nếu chỉ trả lời khi hoàn toàn chắc chắn sẽ mất đi "phép thuật" vốn có của trí tuệ nhân tạo.
"Nếu bạn ngây thơ tin vào việc 'đừng bao giờ nói bất cứ điều gì mà bạn không chắc chắn 100%', bạn sẽ không bao giờ phá bỏ được giới hạn", vị Giám đốc Điều hành trả lời trong một cuộc phỏng vấn vào năm 2023. "Nếu thế, AI sẽ không mang lại điều kỳ diệu khiến công chúng thích thú đến vậy".
Đầu năm nay, đồng sáng lập Anthropic Jared Kaplan khẳng định rằng mục tiêu cuối cùng của đa số nhà phát triển là các mô hình AI không gây ảo giác, nhưng việc chatbot thỉnh thoảng xảy ra lỗi là "sự đánh đổi" cần thiết đối với người dùng.
"Những hệ thống này — nếu bạn huấn luyện để không bao giờ bị ảo giác — sẽ trở nên rất, rất lo lắng về việc mắc lỗi và có xu hướng trả lời 'Tôi không biết' đối với mọi truy vấn", ông Kaplan bày tỏ. Nhà phát triển phải quyết định khi nào thì những lỗi có thể chấp nhận được sẽ thỉnh thoảng xảy ra trong một sản phẩm AI.
Mặt khác, ảo giác AI đã đẩy một số gã khổng lồ công nghệ rơi vào thế khó, chẳng hạn như năm ngoái, OpenAI bị một người dẫn chương trình phát thanh kiện vì đưa ra khiếu nại pháp lý sai sự thật.
GIỚI HẠN DÀNH CHO ẢO GIÁC AI
Ông Ramaswamy nhấn mạnh, đặc biệt đối với một số "ứng dụng quan trọng" như ứng dụng phân tích dữ liệu tài chính của công ty, công cụ AI "không thể mắc lỗi".
"Điều nguy hiểm của ảo giác AI không phải là mô hình trả lời sai 5%, mà là bạn không biết 5% nào sai, và điều này thuộc về vấn đề lòng tin", CEO Snowflake giải thích.
Ông Baris Gultekin, Giám đốc Bộ phận AI của Snowflake, cho biết trong một tuyên bố rằng ảo giác là "rào cản lớn nhất" đối với người dùng front-end trong việc ứng dụng công nghệ AI tạo sinh.
Ông Gultekin chia sẻ: "Hiện tại, rất nhiều mô hình AI tạo sinh chỉ được triển khai cho số ít trường hợp sử dụng nội bộ vì đa số tổ chức vẫn gặp khó khăn trong việc kiểm soát chặt chẽ những gì mô hình sẽ nói và đảm bảo kết quả chính xác".
Tuy nhiên, ông Gultekin cho biết độ chính xác của AI sẽ được cải thiện khi các công ty đặt ra giới hạn cho đầu ra của mô hình để hạn chế những gì AI có thể nói, những nội dung được phép trả lời và nhiều yếu tố quyết định khác.
"Các mô hình ngày càng hiểu rõ về rào cản đang gặp phải và công ty có thể điều chỉnh mô hình chống lại một số ảo giác như sự thiên vị", vị Giám đốc đề xuất, đồng thời nhấn mạnh với khả năng tiếp cận nhiều nguồn dữ liệu đa dạng hơn, AI sẽ ngày càng trở nên chính xác và "phản ứng dữ dội" sẽ "giảm thiểu thông qua từng trường hợp sử dụng thành công".
CEO Snowflake Sridhar Ramaswamy nhận định mặc dù ông kỳ vọng về độ chính xác 100% đối với đa số mô hình AI như chatbot tài chính, nhưng vẫn có trường hợp mà người dùng "vui vẻ chấp nhận một số lỗi sai".
Ví dụ, bạn bè thường gửi cho ông Ramaswamy rất nhiều bài viết để đọc. Khi nhập tài liệu vào một chatbot bất kỳ như Claude hay ChatGPT, vị Giám đốc không bận tâm lắm nếu bản tóm tắt đôi lúc không chính xác.
"Đây không phải là vấn đề lớn vì tôi tiết kiệm được rất nhiều thời gian khi không phải đọc hết bài viết mà vẫn nhận lại nhiều giá trị", ông Ramaswamy chia sẻ.
Sự bùng nổ của ngành bán dẫn nhờ nhu cầu chip phục vụ trí tuệ nhân tạo (AI) đang mang lại những khoản thưởng kỷ lục cho người lao động tại một số tập đoàn lớn ở châu Á...
Singapore đang xây dựng các trung tâm nghiên cứu và phát triển bán dẫn nhằm thu hẹp khoảng cách giữa nghiên cứu trong trường đại học và sản xuất công nghiệp...
Làn sóng trí tuệ nhân tạo (AI) đang tạo thêm động lực thúc đẩy hội nhập kinh tế giữa Đông Nam Á, Trung Quốc, Nhật Bản và Hàn Quốc, thông qua mở rộng thương mại, đầu tư và kết nối chuỗi cung ứng.
Các nhà phát triển game Mỹ đang mất lợi thế trước những đối thủ Trung Quốc có khả năng phát triển sản phẩm nhanh hơn, chi phí thấp hơn và khai thác doanh thu từ người chơi hiệu quả hơn...
Thái Lan sẽ áp dụng các tiêu chuẩn môi trường nghiêm ngặt hơn đối với những trung tâm dữ liệu quy mô lớn, trong bối cảnh nhu cầu hạ tầng số tăng nhanh, kéo theo áp lực ngày càng lớn lên nguồn cung điện, nước và tài nguyên của quốc gia...
Australia dự kiến thành lập cơ quan quản lý chuyên trách về an toàn trí tuệ nhân tạo (AI), có quyền áp dụng các khoản phạt đáng kể đối với doanh nghiệp vi phạm…
Các nhà sản xuất chip trí tuệ nhân tạo (AI) tại Trung Quốc bắt đầu ghi nhận lợi nhuận sau thời gian đầu tư lớn để phát triển sản phẩm thay thế Nvidia…
Trong khi ChatGPT vẫn là công cụ trí tuệ nhân tạo (AI) được sử dụng phổ biến nhất tại Việt Nam, Gemini đang gia tăng mức độ tiếp cận người dùng. AI đã trở nên quen thuộc với phần lớn người tiêu dùng trực tuyến...
Việc bảo vệ các văn phòng quy mô nhỏ, cơ sở ở xa với nhiều thiết bị kết nối nhưng hạn chế về nhân lực công nghệ đang đặt ra yêu cầu về những mô hình quản trị bảo mật tập trung, thay vì triển khai thiết bị chuyên dụng tại từng địa điểm...
Apple đang giảm hạn mức chi tiêu AI hằng ngày dành, dù đang đẩy mạnh ứng dụng công nghệ này vào hoạt động kỹ thuật và vận hành, nhằm kiểm soát chi phí ngày càng tăng...