CEO Snowflake: Các công ty công nghệ rất thiếu minh bạch trong vấn đề ảo giác AI
Bảo Ngọc
06/11/2024
Chia sẻ
Biện pháp bảo vệ và nguồn dữ liệu đầu vào đa dạng là yếu tố quan trọng giúp cải thiện độ chính xác của AI…
Nhiều người vẫn lầm tưởng AI có thể trả lời tất cả mọi truy vấn, tuy nhiên, công nghệ này lại có xu hướng đưa ra câu trả lời hoàn toàn hư cấu. CEO Snowflake, từng giữ chức Giám đốc Google AdWords, ông Sridhar Ramaswamy, cho biết các công ty công nghệ cần làm rõ vấn đề về tần suất xảy ra tình trạng ảo giác AI.
Theo Business Insider, trong tập phát sóng "The Logan Bartlett Show" gần đây, cựu lãnh đạo Google khẳng định các công ty công nghệ nên minh bạch hơn về tỷ lệ xảy ra ảo giác của AI.
"Nếu bạn để ý, không tổ chức nào công bố tỷ lệ ảo giác trên những thiết bị, mô hình hay giải pháp của họ", ông Ramaswamy chia sẻ. "Mọi thứ đang giống như kiểu, 'ồ, nhìn này, công nghệ của chúng tôi rất tuyệt, bạn chỉ nên sử dụng chúng tôi'".
Ước tính từ bên thứ ba, các mô hình ngôn ngữ lớn (LLM) hiện đại có thể gây ảo giác ở mức từ 1% đến gần 30%.
ẢO GIÁC AI LÀ “SỰ ĐÁNH ĐỔI CẦN THIẾT”
Một số ông trùm trong ngành đã lên tiếng về ảo giác AI, bao gồm cả CEO OpenAI Sam Altman, người cho rằng các mô hình nếu chỉ trả lời khi hoàn toàn chắc chắn sẽ mất đi "phép thuật" vốn có của trí tuệ nhân tạo.
"Nếu bạn ngây thơ tin vào việc 'đừng bao giờ nói bất cứ điều gì mà bạn không chắc chắn 100%', bạn sẽ không bao giờ phá bỏ được giới hạn", vị Giám đốc Điều hành trả lời trong một cuộc phỏng vấn vào năm 2023. "Nếu thế, AI sẽ không mang lại điều kỳ diệu khiến công chúng thích thú đến vậy".
Đầu năm nay, đồng sáng lập Anthropic Jared Kaplan khẳng định rằng mục tiêu cuối cùng của đa số nhà phát triển là các mô hình AI không gây ảo giác, nhưng việc chatbot thỉnh thoảng xảy ra lỗi là "sự đánh đổi" cần thiết đối với người dùng.
"Những hệ thống này — nếu bạn huấn luyện để không bao giờ bị ảo giác — sẽ trở nên rất, rất lo lắng về việc mắc lỗi và có xu hướng trả lời 'Tôi không biết' đối với mọi truy vấn", ông Kaplan bày tỏ. Nhà phát triển phải quyết định khi nào thì những lỗi có thể chấp nhận được sẽ thỉnh thoảng xảy ra trong một sản phẩm AI.
Mặt khác, ảo giác AI đã đẩy một số gã khổng lồ công nghệ rơi vào thế khó, chẳng hạn như năm ngoái, OpenAI bị một người dẫn chương trình phát thanh kiện vì đưa ra khiếu nại pháp lý sai sự thật.
GIỚI HẠN DÀNH CHO ẢO GIÁC AI
Ông Ramaswamy nhấn mạnh, đặc biệt đối với một số "ứng dụng quan trọng" như ứng dụng phân tích dữ liệu tài chính của công ty, công cụ AI "không thể mắc lỗi".
"Điều nguy hiểm của ảo giác AI không phải là mô hình trả lời sai 5%, mà là bạn không biết 5% nào sai, và điều này thuộc về vấn đề lòng tin", CEO Snowflake giải thích.
Ông Baris Gultekin, Giám đốc Bộ phận AI của Snowflake, cho biết trong một tuyên bố rằng ảo giác là "rào cản lớn nhất" đối với người dùng front-end trong việc ứng dụng công nghệ AI tạo sinh.
Ông Gultekin chia sẻ: "Hiện tại, rất nhiều mô hình AI tạo sinh chỉ được triển khai cho số ít trường hợp sử dụng nội bộ vì đa số tổ chức vẫn gặp khó khăn trong việc kiểm soát chặt chẽ những gì mô hình sẽ nói và đảm bảo kết quả chính xác".
Tuy nhiên, ông Gultekin cho biết độ chính xác của AI sẽ được cải thiện khi các công ty đặt ra giới hạn cho đầu ra của mô hình để hạn chế những gì AI có thể nói, những nội dung được phép trả lời và nhiều yếu tố quyết định khác.
"Các mô hình ngày càng hiểu rõ về rào cản đang gặp phải và công ty có thể điều chỉnh mô hình chống lại một số ảo giác như sự thiên vị", vị Giám đốc đề xuất, đồng thời nhấn mạnh với khả năng tiếp cận nhiều nguồn dữ liệu đa dạng hơn, AI sẽ ngày càng trở nên chính xác và "phản ứng dữ dội" sẽ "giảm thiểu thông qua từng trường hợp sử dụng thành công".
CEO Snowflake Sridhar Ramaswamy nhận định mặc dù ông kỳ vọng về độ chính xác 100% đối với đa số mô hình AI như chatbot tài chính, nhưng vẫn có trường hợp mà người dùng "vui vẻ chấp nhận một số lỗi sai".
Ví dụ, bạn bè thường gửi cho ông Ramaswamy rất nhiều bài viết để đọc. Khi nhập tài liệu vào một chatbot bất kỳ như Claude hay ChatGPT, vị Giám đốc không bận tâm lắm nếu bản tóm tắt đôi lúc không chính xác.
"Đây không phải là vấn đề lớn vì tôi tiết kiệm được rất nhiều thời gian khi không phải đọc hết bài viết mà vẫn nhận lại nhiều giá trị", ông Ramaswamy chia sẻ.
Khoảng 700 siêu thị ở Pháp bị tấn công mạng khiến thực phẩm hư hỏng, một số nơi xảy ra cháy nổ. Những thiết bị kết nối Internet nhưng không được cập nhật và bảo vệ đúng cách có thể trở thành điểm yếu gây thiệt hại lớn cho doanh nghiệp…
Thủ tướng Singapore Lawrence Wong cho biết muốn tận dụng làn sóng trí tuệ nhân tạo (AI) để phát triển năng lực công nghệ, mở rộng cơ hội việc làm và nâng cao chất lượng nguồn nhân lực...
Nhu cầu đang nghiêng về nhân sự giàu kinh nghiệm, có khả năng làm việc với AI, trong khi cơ hội dành cho lao động mới vào nghề ngày càng thu hẹp…
Cổ phiếu Samsung Electronics, SK Hynix và CXMT đồng loạt giảm mạnh khi nhà đầu tư lo ngại đà tăng giá chip nhớ có thể chậm lại, trong bối cảnh nguồn cung dần bắt kịp nhu cầu và định giá cổ phiếu đã lên cao...
Một liên minh mới được thành lập tại Bắc Kinh nhằm thúc đẩy hợp tác giữa các nhà toán học và giới phát triển AI…
Các cuộc tấn công mạng nhằm vào hệ thống làm lạnh tại hàng trăm siêu thị ở Pháp khiến nhiều thực phẩm phải tiêu hủy. Sự việc dấy lên lo ngại về những rủi ro an ninh mạng đối với các hệ thống điều khiển thiết bị công nghiệp…
Chính phủ Nhật Bản đang chịu sức ép phải tăng cường các biện pháp bảo vệ thông tin cá nhân và hệ thống trọng yếu…
SpaceX đang tiến gần hơn đến kế hoạch cung cấp dịch vụ di động Starlink trực tiếp cho người tiêu dùng Mỹ. Động thái này khiến cổ phiếu các nhà mạng lớn lao dốc, làm dấy lên lo ngại về sức ép cạnh tranh từ mạng vệ tinh…
Các mô hình AI liên tục được nâng cấp, giá API giảm mạnh và cạnh tranh ngày càng quyết liệt đang khiến những cải tiến nhỏ khó tạo được sự chú ý trên thị trường…
Theo Counterpoint, giá các mẫu smartphone hiện có trên thị trường toàn cầu đã tăng khoảng 15% trong năm 2026, trong khi các mẫu mới ra mắt có giá cao hơn khoảng 25% so với năm trước...