Meta có thể thể dừng phát triển các hệ thống AI nếu quá rủi ro
Mai Anh
11/02/2025
Chia sẻ
Trong một số trường hợp, Meta có thể sẽ không phát hành hệ thống AI có năng lực cao mà họ đã tự phát triển…
CEO của Meta – ông Mark Zuckerberg – từng cam kết sẽ cung cấp trí tuệ nhân tạo tổng quát (AGI) công khai. Đây là công nghệ giúp AI có thể thực hiện bất kỳ nhiệm vụ nào mà con người có thể làm.
Tuy nhiên, tài liệu chính sách mới đây của công ty này cho thấy một số trường hợp Meta có thể sẽ không phát hành hệ thống AI có năng lực cao mà họ đã tự phát triển trong nội bộ, trang TechCrunch đưa tin.
Tài liệu có tên Khung AI tiên phong (Frontier AI Framework) đã xác định hai loại hệ thống AI mà doanh nghiệp này coi là quá rủi ro để phát hành: Hệ thống “rủi ro cao” và hệ thống “rủi ro nghiêm trọng".
Theo định nghĩa của Meta, cả hai loại hệ thống trên đều có khả năng hỗ trợ các cuộc tấn công an ninh mạng, hóa học và sinh học. Điểm khác biệt là hệ thống rủi ro nghiêm trọng có thể dẫn đến một “hậu quả thảm khốc không thể giảm thiểu trong bối cảnh triển khai được đề xuất”.
Trong khi đó, hệ thống rủi ro cao có thể giúp dễ dàng thực hiện một cuộc tấn công hơn nhưng không đáng tin cậy hoặc không chắc chắn bằng hệ thống rủi ro nghiêm trọng.
Vậy cụ thể là những cuộc tấn công nào? Meta đưa ra một số ví dụ, như “xâm nhập tự động từ đầu đến cuối vào một môi trường doanh nghiệp được bảo vệ theo tiêu chuẩn tốt nhất” và “sự lan rộng của vũ khí sinh học có tác động cao”.
Meta đánh giá, danh sách các thảm họa tiềm tàng trong tài liệu không mang tính toàn diện, nhưng bao gồm những rủi ro mà công ty này tin là “cấp bách nhất” và có khả năng xảy ra trực tiếp do việc phát hành một hệ thống AI mạnh mẽ.
Điều khá đáng ngạc nhiên là theo tài liệu này, Meta phân loại mức độ rủi ro của hệ thống không dựa trên một bài kiểm tra thực nghiệm cụ thể nào, mà dựa trên ý kiến của các nhà nghiên cứu cả nội bộ và bên ngoài – những người được xem xét bởi “các nhà lãnh đạo cấp cao”.
Câu hỏi đặt ra là tại sao lại như vậy. Meta cho rằng, khoa học đánh giá hiện tại chưa “đủ vững chắc để cung cấp các chỉ số định lượng mang tính quyết định” trong việc xác định mức độ rủi ro của một hệ thống.
Nếu Meta xác định một hệ thống thuộc phân loại rủi ro cao, công ty này sẽ hạn chế quyền truy cập vào hệ thống trong nội bộ và sẽ không phát hành nó cho đến khi triển khai các biện pháp giảm thiểu để “giảm rủi ro xuống mức trung bình.”
Ngược lại, nếu một hệ thống bị coi là rủi ro nghiêm trọng, Meta cho biết sẽ thực hiện các biện pháp bảo vệ an ninh để ngăn chặn việc hệ thống bị đánh cắp và sẽ dừng phát triển cho đến khi có thể làm cho hệ thống trở nên ít nguy hiểm hơn.
Khung AI tiên phong của Meta sẽ được phát triển cùng với bối cảnh AI đang thay đổi và theo cam kết mà doanh nghiệp đã công bố trước thềm Hội nghị thượng đỉnh hành động AI của Pháp vào tháng này. Động thái này dường như là phản ứng trước những lời chỉ trích về cách tiếp cận của công ty đối với việc phát triển hệ thống.
Meta đã áp dụng chiến lược công khai công nghệ AI của mình, mặc dù không phải là mã nguồn mở theo định nghĩa thông thường, trái ngược với các công ty như OpenAI lựa chọn bảo vệ hệ thống của họ bằng API.
Khi công bố khung phát triển mới nhất, Meta cũng có thể muốn đối chiếu chiến lược AI mở của mình với công ty AI Trung Quốc DeepSeek khi tay chơi đến từ Bắc Kinh đã công khai các hệ thống của mình. Nhưng AI của Trung Quốc có ít biện pháp bảo vệ và có thể dễ dàng bị điều khiển để tạo ra các đầu ra độc hại.
“Chúng tôi tin rằng, bằng cách cân nhắc cả lợi ích và rủi ro khi đưa ra quyết định về cách phát triển và triển khai AI tiên tiến, chúng tôi có thể cung cấp công nghệ đó cho xã hội theo cách bảo toàn lợi ích của công nghệ đó đối với xã hội, đồng thời vẫn duy trì mức độ rủi ro phù hợp”, Meta viết trong tài liệu.
Một trong những xu hướng đáng lo ngại nhất hiện nay là sự xuất hiện của các bộ công cụ lừa đảo (phishing kits) được tạo ra bằng AI cùng với các nội dung deepfake có độ chân thực rất cao...
Ngày càng nhiều nhà sản xuất Trung Quốc tận dụng TikTok Shop để tiếp cận khách hàng toàn cầu, xây dựng thương hiệu riêng và phát triển sản phẩm dựa trên phản hồi thị trường theo thời gian thực...
Nhu cầu mạnh mẽ đối với các thiết bị AI và chất bán dẫn là động lực chính giúp vốn hóa của TSMC tăng gấp đôi trong vòng một năm...
Thay vì cạnh tranh trực diện với OpenAI, Google hay Anthropic bằng việc xây dựng các mô hình lớn nhất thế giới, Apple tận dụng công nghệ từ những đối tác hàng đầu như Google và Nvidia...
Liên minh châu Âu (EU) vừa công bố gói chính sách toàn diện nhằm tăng cường năng lực công nghệ nội khối, hướng tới mục tiêu xây dựng “chủ quyền công nghệ” trong các lĩnh vực chiến lược như bán dẫn, trí tuệ nhân tạo (AI), điện toán đám mây và phần mềm nguồn mở...
Đằng sau những con số đầu tư khổng lồ là hàng loạt nút thắt về điện năng, hạ tầng và thủ tục khiến tiến độ xây dựng các trung tâm dữ liệu trên khắp nước Mỹ đang bị chậm đáng kể…
Theo giới quan sát, động thái mới cho thấy Washington đang ngày càng thận trọng trước nguy cơ các doanh nghiệp Trung Quốc tiếp cận năng lực tính toán AI tiên tiến thông qua mạng lưới công ty con và đối tác hoạt động tại nước ngoài...
Anthropic, công ty đứng sau chatbot Claude, đã chính thức nộp hồ sơ phát hành cổ phiếu lần đầu ra công chúng (IPO), mở đường cho một trong những thương vụ niêm yết được chờ đợi nhất trên Phố Wall…
Ba nhà sản xuất chip nhớ lớn nhất thế giới gồm Micron Technology, Samsung Electronics và SK Hynix hiện sở hữu tổng vốn hóa thị trường vượt mốc 1.000 tỷ USD...
Sự trỗi dậy mạnh mẽ của các lĩnh vực trí tuệ nhân tạo (AI), xe điện, robot và sản xuất thông minh tại Trung Quốc đang tạo ra một loại hình du lịch hoàn toàn mới: du lịch công nghệ...