Giám đốc Salesforce: Không nên quản lý các công ty AI theo cùng một cách

Giám đốc Điều hành Salesforce tại Vương quốc Anh và Ireland đề xuất các nhà hoạch định chính sách lao động cần quản lý sát sao ngành công nghiệp trí tuệ nhân tạo nhưng điều quan trọng là không nên đánh đồng tất cả công ty công nghệ phát triển hệ thống AI.

Phát biểu với CNBC, bà Zahra Bahrololoumi, CEO Salesforce tại Vương quốc Anh và Ireland, cho biết gã khổng lồ phần mềm Hoa Kỳ coi trọng mọi luật lệ. Tuy nhiên, bà Bahrololoumi chia sẻ thêm rằng bất kỳ đề xuất nào nhằm mục đích quản lý AI đều nên “tương xứng và phù hợp”.

“BỘ LUẬT CÓ MỤC TIÊU, TƯƠNG XỨNG VÀ PHÙ HỢP”

Vị CEO lưu ý có sự khác biệt giữa các công ty phát triển công cụ AI hướng đến người tiêu dùng, chẳng hạn như OpenAI, so với công ty tạo ra hệ thống AI doanh nghiệp như Salesforces. Bà Bahrololoumi nhận định các hệ thống hướng đến người tiêu dùng thường phải đối mặt với ít hạn chế hơn so với sản phẩm AI cấp doanh nghiệp, đáp ứng tiêu chuẩn bảo mật cao hơn và tuân thủ loạt quy định từ công ty khách hàng.

Bà Bahrololoumi trả lời CNBC vào giữa tuần trước: “Những gì chúng tôi tìm kiếm là một bộ luật có mục tiêu, tương xứng và phù hợp”.

“Chắc chắn có sự khác biệt giữa công ty phát triển công nghệ hướng đến người tiêu dùng và các tổ chức tập trung vào công nghệ dành cho doanh nghiệp. Và mỗi chúng tôi đều sở hữu vai trò khác nhau trong hệ sinh thái, nhưng rõ ràng Salesforce là một tổ chức B2B”, nữ Giám đốc nhấn mạnh.

Đại diện phát ngôn từ Bộ Khoa học, Đổi mới và Công nghệ Vương quốc Anh (DSIT) cho biết bộ quy định AI dự kiến “nhắm mục tiêu chủ yếu vào một số ít công ty đang phát triển dạng mô hình trí tuệ nhân tạo mạnh nhất”, thay vì áp dụng “quy định chung về việc sử dụng công nghệ”.

Tuyên bố cho thấy có thể bộ quy tắc sẽ không áp dụng cho các công ty vốn không tạo ra mô hình nền tảng riêng như Salesforce.

Người phát ngôn của DSIT cho biết thêm: “Chúng tôi nhận ra sức mạnh AI trong việc thúc đẩy tăng trưởng, cải thiện năng suất và cam kết hỗ trợ sự phát triển của ngành, đặc biệt nỗ lực đẩy nhanh quá trình áp dụng công nghệ trên toàn nền kinh tế”.

BẢO MẬT DỮ LIỆU

Salesforce đã và đang quảng cáo rầm rộ về điều khoản đạo đức và an toàn được tích hợp trong nền tảng công nghệ AI Agentforce của hãng, cho phép khách hàng doanh nghiệp tạo ra những “đại lý” AI — về cơ bản là bộ công cụ kỹ thuật số tự chủ thực hiện nhiều nhiệm vụ chức năng khác nhau, như bán hàng, dịch vụ hoặc tiếp thị.

Ví dụ, một tính năng mà công ty đang phát triển có tên “zero retention”, tức là toàn bộ câu trả lời và đầu ra AI của khách hàng sẽ không được lưu trữ trong hệ thống Salesforce, khác biệt hoàn toàn so với cách nhiều đại gia công nghệ khác sử dụng dữ liệu nhằm đào tạo AI ngày nay.

Theo bà Bahrololoumi, với chatbot trí tuệ nhân tạo dành cho người tiêu dùng như ChatGPT đến từ OpenAI, Claude đến từ Anthropic hay Meta AI đến từ Meta, không rõ dữ liệu nào đang được sử dụng để đào tạo AI hay dữ liệu đó được lưu trữ ở đâu.

″Để đào tạo mô hình AI tạo sinh, bạn cần rất nhiều dữ liệu”, nữ lãnh đạo bày tỏ với CNBC. “Vì vậy, với mô hình như ChatGPT và một số chatbot dành cho khách hàng tiêu dùng cá nhân, bạn không hề biết dữ liệu đang được sử dụng như thế nào”.

Bà Bahrololoumi cho biết ngay cả Copilot của Microsoft, được tiếp thị chủ yếu hướng tới khách hàng doanh nghiệp, cũng mang rủi ro cao hơn, đặc biệt là rủi ro về bảo mật.

OpenAI và Microsoft hiện vẫn chưa đưa ra bình luận khi được CNBC liên hệ.

QUY ĐỊNH VỀ AI CÓ NÊN ‘ÁP DỤNG Ở MỌI CẤP ĐỘ’?

Bà Bola Rotibi, Giám đốc Nghiên cứu Doanh nghiệp tại công ty phân tích CCS Insight, chia sẻ qua email rằng mặc dù nhiều nhà cung cấp AI tập trung vào khách hàng B2B “nhận thức rõ hơn về các yêu cầu cấp doanh nghiệp” liên quan đến bảo mật và quyền riêng tư dữ liệu, nhưng thật sai lầm khi nhận định các quy định không giám sát chặt chẽ nhóm công ty tiêu dùng và công ty kinh doanh B2C.

Bà Rotibi trả lời phỏng vấn: “Tất cả mối quan tâm xung quanh vấn đề như sự đồng thuận, quyền riêng tư, tính minh bạch, chủ quyền dữ liệu đều tồn tại ở mọi cấp độ bất kể là người tiêu dùng hay doanh nghiệp, được quản lý bởi bộ quy định chung, chẳng hạn như GDPR”. GDPR, hay Quy định bảo vệ dữ liệu chung, đã chính thức trở thành luật tại Vương quốc Anh từ năm 2018.

Tuy nhiên, bà Rotibi cho biết cơ quan quản lý có thể cảm thấy “lạc quan hơn” vào biện pháp tuân thủ AI được các nhà cung cấp ứng dụng cho doanh nghiệp triển khai. Vị chuyên gia nói thêm: “Khả năng cao sẽ có quy trình đánh giá rõ ràng hơn đối với dịch vụ AI của các nhà cung cấp giải pháp doanh nghiệp như Salesforce”.

Giám đốc Bahrololoumi trả lời phỏng vấn CNBC tại sự kiện Agentforce World Tour của Salesforce ở London (Vương quốc Anh), sự kiện được thiết kế nhằm thúc đẩy việc sử dụng công nghệ AI “đại lý” mới của công ty.

Phát biểu của bà Bahrololoumi được đưa ra sau khi Đảng Lao động của Thủ tướng Keir Starmer quyết định không đưa ra định hướng về dự luật AI nhằm nêu rõ các ưu tiên trong một vài tháng tới. Trước đó, Chính phủ Vương quốc Anh cho biết có kế hoạch thiết lập “luật phù hợp” cho lĩnh vực trí tuệ nhân tạo, mà không cung cấp thêm thông tin chi tiết.