image Thứ Tư, 17/09/2025

Meta có thể thể dừng phát triển các hệ thống AI nếu quá rủi ro

Mai Anh

11/02/2025

Chia sẻ

Trong một số trường hợp, Meta có thể sẽ không phát hành hệ thống AI có năng lực cao mà họ đã tự phát triển…

Meta có thể thể dừng phát triển các hệ thống AI nếu quá rủi ro

CEO của Meta – ông Mark Zuckerberg – từng cam kết sẽ cung cấp trí tuệ nhân tạo tổng quát (AGI) công khai. Đây là công nghệ giúp AI có thể thực hiện bất kỳ nhiệm vụ nào mà con người có thể làm.

Tuy nhiên, tài liệu chính sách mới đây của công ty này cho thấy một số trường hợp Meta có thể sẽ không phát hành hệ thống AI có năng lực cao mà họ đã tự phát triển trong nội bộ, trang TechCrunch đưa tin.

Tài liệu có tên Khung AI tiên phong (Frontier AI Framework) đã xác định hai loại hệ thống AI mà doanh nghiệp này coi là quá rủi ro để phát hành: Hệ thống “rủi ro cao” và hệ thống “rủi ro nghiêm trọng". 

Theo định nghĩa của Meta, cả hai loại hệ thống trên đều có khả năng hỗ trợ các cuộc tấn công an ninh mạng, hóa học và sinh học. Điểm khác biệt là hệ thống rủi ro nghiêm trọng có thể dẫn đến một “hậu quả thảm khốc không thể giảm thiểu trong bối cảnh triển khai được đề xuất”.  

Trong khi đó, hệ thống rủi ro cao có thể giúp dễ dàng thực hiện một cuộc tấn công hơn nhưng không đáng tin cậy hoặc không chắc chắn bằng hệ thống rủi ro nghiêm trọng. 

Vậy cụ thể là những cuộc tấn công nào? Meta đưa ra một số ví dụ, như “xâm nhập tự động từ đầu đến cuối vào một môi trường doanh nghiệp được bảo vệ theo tiêu chuẩn tốt nhất” và “sự lan rộng của vũ khí sinh học có tác động cao”.

Meta đánh giá, danh sách các thảm họa tiềm tàng trong tài liệu không mang tính toàn diện, nhưng bao gồm những rủi ro mà công ty này tin là “cấp bách nhất” và có khả năng xảy ra trực tiếp do việc phát hành một hệ thống AI mạnh mẽ. 

Điều khá đáng ngạc nhiên là theo tài liệu này, Meta phân loại mức độ rủi ro của hệ thống không dựa trên một bài kiểm tra thực nghiệm cụ thể nào, mà dựa trên ý kiến của các nhà nghiên cứu cả nội bộ và bên ngoài – những người được xem xét bởi “các nhà lãnh đạo cấp cao”.

Câu hỏi đặt ra là tại sao lại như vậy. Meta cho rằng, khoa học đánh giá hiện tại chưa “đủ vững chắc để cung cấp các chỉ số định lượng mang tính quyết định” trong việc xác định mức độ rủi ro của một hệ thống.

Nếu Meta xác định một hệ thống thuộc phân loại rủi ro cao, công ty này sẽ hạn chế quyền truy cập vào hệ thống trong nội bộ và sẽ không phát hành nó cho đến khi triển khai các biện pháp giảm thiểu để “giảm rủi ro xuống mức trung bình.”

Ngược lại, nếu một hệ thống bị coi là rủi ro nghiêm trọng, Meta cho biết sẽ thực hiện các biện pháp bảo vệ an ninh để ngăn chặn việc hệ thống bị đánh cắp và sẽ dừng phát triển cho đến khi có thể làm cho hệ thống trở nên ít nguy hiểm hơn.

Khung AI tiên phong của Meta sẽ được phát triển cùng với bối cảnh AI đang thay đổi và theo cam kết mà doanh nghiệp đã công bố trước thềm Hội nghị thượng đỉnh hành động AI của Pháp vào tháng này. Động thái này dường như là phản ứng trước những lời chỉ trích về cách tiếp cận của công ty đối với việc phát triển hệ thống.

Meta đã áp dụng chiến lược công khai công nghệ AI của mình, mặc dù không phải là mã nguồn mở theo định nghĩa thông thường, trái ngược với các công ty như OpenAI lựa chọn bảo vệ hệ thống của họ bằng API.

Khi công bố khung phát triển mới nhất, Meta cũng có thể muốn đối chiếu chiến lược AI mở của mình với công ty AI Trung Quốc DeepSeek khi tay chơi đến từ Bắc Kinh đã công khai các hệ thống của mình. Nhưng AI của Trung Quốc có ít biện pháp bảo vệ và có thể dễ dàng bị điều khiển để tạo ra các đầu ra độc hại.

“Chúng tôi tin rằng, bằng cách cân nhắc cả lợi ích và rủi ro khi đưa ra quyết định về cách phát triển và triển khai AI tiên tiến, chúng tôi có thể cung cấp công nghệ đó cho xã hội theo cách bảo toàn lợi ích của công nghệ đó đối với xã hội, đồng thời vẫn duy trì mức độ rủi ro phù hợp”, Meta viết trong tài liệu.


Doanh nghiệp chip Trung Quốc đồng loạt tăng trần sau động thái “điều tra chip Mỹ” của Bắc Kinh

Cổ phiếu chip Trung Quốc tăng mạnh sau điều tra chống bán phá giá chip Mỹ. Khám phá tiềm năng tăng trưởng thị trường chip nội địa.

10:34 17/09/2025
OpenAI công bố nghiên cứu toàn diện đầu tiên về người dùng ChatGPT

Khám phá nghiên cứu toàn diện về cách người dùng ChatGPT tương tác với AI. Đọc ngay để hiểu rõ xu hướng sử dụng mới nhất!

10:34 17/09/2025
AI sẽ là động lực chính đưa ngành công nghiệp chip đạt mốc 1 nghìn tỷ USD vào 2030

Khám phá cách AI thúc đẩy ngành công nghiệp chip đạt giá trị 1 nghìn tỷ USD vào năm 2030. Đọc ngay để hiểu rõ hơn!

17:47 12/09/2025
DeepSeek và các mô hình mã nguồn mở đang thay đổi AI như thế nào?

Khám phá cách DeepSeek và mô hình mã nguồn mở đang thay đổi cuộc chơi AI với chi phí thấp hơn và hiệu suất vượt trội.

14:17 11/09/2025
Hàng điện tử Trung Quốc "đổ bộ" châu Âu giữa thương chiến Mỹ - Trung

Khám phá cách thương chiến Mỹ - Trung thúc đẩy doanh nghiệp Trung Quốc mở rộng ra châu Âu và cơ hội mới cho ngành điện tử.

11:13 11/09/2025
Thuế nhập khẩu của Trung Quốc đang tác động ra sao tới thương mại điện tử

Khám phá cách thuế nhập khẩu mới của Trung Quốc ảnh hưởng đến giá hàng hóa và mô hình kinh doanh thương mại điện tử tại Mỹ.

11:12 11/09/2025
Mỹ cân nhắc xuất khẩu lượng chip cố định sang Trung Quốc

Mỹ đề xuất quy định mới về xuất khẩu chip cho Samsung và SK Hynix tại Trung Quốc. Tìm hiểu chi tiết ngay!

10:05 11/09/2025
Thiếu hụt kỹ sư, Nhật Bản tìm kiếm nhân tài công nghệ từ Ấn Độ

Khám phá cơ hội Nhật Bản thu hút nhân tài công nghệ Ấn Độ giữa bối cảnh thiếu hụt kỹ sư. Đừng bỏ lỡ thông tin hấp dẫn này!

09:04 11/09/2025
Trung Quốc tài trợ nghiên cứu stablecoin giữa làn sóng quan tâm toàn cầu

Khám phá động thái quan trọng của Trung Quốc trong nghiên cứu stablecoin và ảnh hưởng đến tài chính toàn cầu.

08:02 11/09/2025
6 rào cản khiến khiến ngành chăm sóc sức khỏe khu vực APAC khó áp dụng AI

Khám phá 6 rào cản chính khiến ngành y tế APAC khó áp dụng AI. Tìm hiểu giải pháp để vượt qua thách thức này.

11:12 10/09/2025