OpenAI ra mắt công cụ phát hiện hình ảnh DALL-E 3 đột phá
OpenAI đang tung ra một công cụ để phát hiện hình ảnh được tạo bởi trình tạo văn bản thành hình ảnh, DALL-E 3. Công cụ này đạt tỷ lệ chính xác khoảng 98% trong thử nghiệm nội bộ…
Hình ảnh do AI tạo ra có thể được kẻ xấu sử dụng để đánh lừa người dùng trên mạng xã hội. Do đó, nhà phát triển ChatGPT của OpenAI đã phát triển một công cụ nhằm dự đoán liệu hình ảnh có được tạo bằng trình tạo hình ảnh DALL-E 3 của riêng họ hay không.
PHÁT HIỆN HÌNH ẢNH DO AI TẠO RA VỚI TỶ LỆ CHÍNH XÁC LÊN ĐẾN 98%
Trong quá trình thử nghiệm nội bộ, công cụ của OpenAI đã chứng minh tỷ lệ chính xác đột phá khoảng 98% trong việc xác định hình ảnh do DALL-E 3 tạo ra. Hơn nữa, công cụ này có khả năng xử lý các sửa đổi phổ biến, chẳng hạn như thay đổi nén, cắt xén và độ bão hòa, với tác động tối thiểu đến khả năng phát hiện của nó.
Tuy nhiên, công ty cảnh báo rằng hình ảnh DALL-E 3 đã qua sửa đổi khó xác định hơn và công cụ này hiện chỉ gắn cờ khoảng 5 đến 10% hình ảnh do các mô hình AI khác tạo ra. OpenAI cũng cho biết giờ đây họ sẽ bổ sung thêm hình mờ vào siêu dữ liệu hình ảnh AI khi có nhiều công ty đăng ký đáp ứng các tiêu chuẩn từ Liên minh Chứng minh và Xác thực Nội dung (C2PA).
C2PA là một sáng kiến của ngành công nghệ đặt ra tiêu chuẩn kỹ thuật để xác định nguồn gốc và tính xác thực của nội dung số, trong một quy trình được gọi là hình mờ. Gã khổng lồ Facebook, Meta vào tháng trước cho biết họ sẽ bắt đầu dán nhãn các phương tiện truyền thông do AI tạo ra bắt đầu từ tháng 5 bằng cách sử dụng tiêu chuẩn C2PA. Bên cạnh đó, Google cũng đã tham gia sáng kiến này.
OpenAI cho biết siêu dữ liệu C2PA được bao gồm trong tất cả các hình ảnh được tạo và chỉnh sửa trong DALL-E 3 và ChatGPT, đồng thời sẽ sớm xuất hiện trong các video do trình tạo video Sora của OpenAI tạo ra .
Ngoài việc phát hiện hình ảnh, OpenAI còn có kế hoạch kết hợp hình mờ chống giả mạo vào công cụ này. Tính năng này sẽ cho phép đánh dấu nội dung số, bao gồm ảnh và âm thanh, bằng tín hiệu khó loại bỏ, đảm bảo tính xác thực và toàn vẹn của phương tiện.
Cả bộ phân loại hình ảnh và tín hiệu hình mờ âm thanh vẫn đang được tinh chỉnh. OpenAI cho biết họ cần nhận phản hồi từ người dùng để kiểm tra tính hiệu quả của nó. OpenAI đã mời các phòng thí nghiệm nghiên cứu và các tổ chức báo chí phi lợi nhuận thử nghiệm bộ phân loại phát hiện hình ảnh của họ, được thiết kế để xác định các hình ảnh do DALL·E 3 tạo ra.
Mục tiêu là đánh giá tính hiệu quả của công cụ, các ứng dụng trong thế giới thực và những cân nhắc khi sử dụng. Các nhà nghiên cứu và nhóm báo chí phi lợi nhuận có thể kiểm tra bộ phân loại phát hiện hình ảnh bằng cách áp dụng nó vào nền tảng truy cập nghiên cứu của OpenAI.
OPENAI HỢP TÁC MICROSOFT ĐỂ GIẢI QUYẾT CÁC VẤN ĐỀ GIẢ MẠO HÌNH ẢNH
Nhận thấy nhu cầu hợp tác trong việc giải quyết các thách thức do nội dung do AI tạo ra, OpenAI đã hợp tác với những gã khổng lồ trong ngành như Google, Microsoft và Adobe. Họ đặt mục tiêu thiết lập một tiêu chuẩn sẽ tạo điều kiện thuận lợi cho việc truy tìm nguồn gốc của các phương tiện truyền thông khác nhau, nâng cao tính minh bạch và trách nhiệm giải trình trong bối cảnh kỹ thuật số.
Sự cấp thiết phải giải quyết vấn đề nội dung do AI tạo ra đã được nhấn mạnh bởi các sự cố gần đây trong cuộc tổng tuyển cử ở Ấn Độ. Các video giả mạo có sự góp mặt của hai diễn viên Bollywood chỉ trích Thủ tướng Narendra Modi đã lan truyền trên mạng, điều này nêu bật sự phổ biến ngày càng tăng của nội dung giả mạo và nội dung do AI tạo ra không chỉ ở Ấn Độ mà còn ở các quốc gia khác, bao gồm Hoa Kỳ, Pakistan và Indonesia.
Với mối đe dọa này, OpenAI và Microsoft đã ra mắt Quỹ phục hồi xã hội trị giá 2 triệu đô la để mở rộng giáo dục và xóa mù chữ về AI cho cử tri và các cộng đồng dễ bị tổn thương. Do 2 tỷ người trên khắp thế giới đã bỏ phiếu hoặc sẽ bỏ phiếu trong các cuộc bầu cử dân chủ năm nay, mục tiêu là đảm bảo rằng các cá nhân có thể điều hướng thông tin kỹ thuật số tốt hơn và tìm thấy các nguồn tài nguyên đáng tin cậy.
OpenAI nhấn mạnh sự cần thiết của hành động tập thể để đảm bảo tính xác thực của nội dung. Nền tảng và người sáng tạo phải giữ lại siêu dữ liệu để cung cấp cho người tiêu dùng thông tin minh bạch về nguồn nội dung.
Chia sẻ với truyền thông, OpenAI cho biết: “Những nỗ lực của chúng tôi về xuất xứ hình ảnh đại diện cho một khía cạnh của sáng kiến lớn hơn trên toàn ngành. Chúng tôi khen ngợi nỗ lực của các phòng thí nghiệm nghiên cứu đồng nghiệp và các công ty AI trong việc thúc đẩy nghiên cứu trong lĩnh vực này. Hợp tác và chia sẻ kiến thức là rất quan trọng để nâng cao sự hiểu biết của chúng ta và thúc đẩy tính minh bạch trên các nền tảng trực tuyến”.
