Hóa đơn Token: “Cú sốc” chi phí sau cơn sốt AI của doanh nghiệp

Theo Wall  Street Journal, tại các doanh nghiệp tiên phong ứng dụng AI, một loại chỉ số mới đang xuất hiện trong các bảng điều khiển quản trị nội bộ: số lượng token mà nhân viên tiêu thụ.

Nền tảng tự động hóa AI Zapier là một ví dụ điển hình. Công ty này đã xây dựng dashboard riêng để theo dõi mức độ sử dụng AI của từng nhân viên, trong đó trọng tâm là lượng token bị “đốt” trong quá trình làm việc.

TOKEN TRỞ THÀNH “ĐỒNG HỒ ĐO CHI PHÍ” MỚI CỦA KỶ NGUYÊN AI

Khái niệm token có thể hiểu đơn giản là đơn vị đo tài nguyên tính toán mà AI sử dụng để xử lý yêu cầu. Với các mô hình ngôn ngữ, quy đổi tương đối là khoảng 1.000 token cho 750 từ văn bản. Tuy nhiên, khi mở rộng sang các tác vụ phức tạp hơn như viết code, tạo video, âm thanh hoặc vận hành các tác tử AI (AI agents) thực hiện công việc kéo dài nhiều ngày, lượng token tiêu thụ sẽ tăng lên đáng kể.

Điều quan trọng là: mỗi token đều gắn với chi phí thực. Những gì người dùng cảm nhận như “AI trả lời tức thì” thực chất là kết quả của hệ thống trung tâm dữ liệu vận hành liên tục, xử lý yêu cầu và sinh nội dung trong một quy trình tốn kém nhưng vô hình.

Theo ông Brandon Sammut, Giám đốc chuyển đổi AI của Zapier, chi phí này giờ đây đã trở thành một dòng mục riêng trong báo cáo tài chính nội bộ. Dù AI có thể hỗ trợ từ mua vé cho khách hàng đến chốt giao dịch, thì mọi giá trị tạo ra đều đi kèm chi phí cần được tính toán.

Dù giá token có xu hướng giảm theo thời gian, các mô hình AI mới và mạnh hơn lại thường đắt hơn. Đồng thời, mức sử dụng AI trong doanh nghiệp cũng đang tăng nhanh, khiến tổng chi phí không hề nhỏ. Một số công ty chọn hình thức trả theo mức sử dụng (pay-as-you-go), trong khi số khác ký gói doanh nghiệp với hạn mức token cho mỗi nhân viên.

Hiện tại, nhiều doanh nghiệp vẫn đang ở giai đoạn khuyến khích nhân viên sử dụng AI. Nhưng với những đơn vị đã đi xa hơn, việc theo dõi token không chỉ là quản lý chi phí mà còn là công cụ đánh giá hiệu quả làm việc.

NĂNG SUẤT AI PHẢI ĐI KÈM BÀI TOÁN HIỆU QUẢ

Việc sử dụng AI không đơn thuần là “càng nhiều càng tốt”. Các công ty đang bắt đầu đặt câu hỏi: lượng token tiêu thụ có thực sự tạo ra giá trị tương xứng hay không?

Tại Zapier, nếu một nhân viên có mức tiêu thụ token cao gấp 5 lần đồng nghiệp, lãnh đạo sẽ tìm hiểu sâu hơn. Người đó có thể là một “siêu sao” tận dụng AI để tạo ra giá trị vượt trội — hoặc ngược lại, đang sử dụng AI kém hiệu quả.

Từ dữ liệu này, doanh nghiệp có thể xác định các “hình mẫu vàng” để nhân rộng, hoặc các “ hình mẫu xấu” cần điều chỉnh thông qua đào tạo.

Ông Brian Jabarian, nhà nghiên cứu tại Trường Kinh doanh Booth thuộc Đại học Chicago, cho rằng các doanh nghiệp buộc phải đo lường token nếu muốn hiểu đúng tác động của AI.

Theo ông Jabarian, trước đây nhiều người tin rằng chỉ cần triển khai AI là năng suất sẽ tăng. Nhưng thực tế phức tạp hơn nhiều. Ví dụ, một công ty có thể tiết kiệm chi phí ban đầu khi dùng AI để tuyển dụng. Tuy nhiên, nếu AI chọn sai ứng viên, họ sẽ phải tốn thêm chi phí sửa sai.

Khi quy mô triển khai lên đến hàng trăm nghìn nhân viên, những vấn đề liên quan đến token sẽ trở thành yếu tố cốt lõi, ảnh hưởng trực tiếp đến hiệu quả tài chính.

Một số nhân viên cũng có thể hiểu sai động lực, cho rằng sử dụng nhiều AI là dấu hiệu của năng suất cao. Nhưng điều quan trọng không phải là “đốt bao nhiêu token”, mà là “token đó tạo ra giá trị gì”.

Một ví dụ nổi bật đến từ nền tảng đám mây AI Vercel. Một kỹ sư cấp cao đã triển khai đội ngũ AI agent để phân tích một bài nghiên cứu và xây dựng dịch vụ hạ tầng mới chỉ trong một ngày - công việc có thể mất hàng tuần hoặc hàng tháng nếu làm thủ công.

Chi phí cho quá trình này là khoảng 10.000 USD.

Theo CEO Guillermo Rauch, việc cung cấp “ngân sách token không giới hạn” giống như trao cho nhân viên một “vòi phun nhiên liệu” — cực kỳ mạnh mẽ nhưng cũng tiềm ẩn rủi ro lãng phí nếu không kiểm soát.

QUẢN TRỊ TOKEN: TỪ CHI PHÍ VẬN HÀNH ĐẾN CHIẾN LƯỢC DÀI HẠN

Trước áp lực chi phí ngày càng tăng, nhiều doanh nghiệp bắt đầu xây dựng cơ chế quản trị việc sử dụng AI.

Tại startup Kumo AI, công ty đã theo dõi token theo từng kỹ sư ngay từ đầu năm. Theo đồng sáng lập Hema Raghavan, các kỹ sư giỏi nhất sử dụng AI như một “đội quân trợ lý cấp thấp”, giúp họ làm việc hiệu quả hơn rất nhiều.

Thậm chí, có những kỹ sư đi nghỉ cuối tuần nhưng các AI agent của họ vẫn tiếp tục làm việc. Tuy nhiên, bà Raghavan cũng nhấn mạnh rằng chi phí token không thể được đánh giá riêng lẻ, mà cần đặt trong tổng thể chi phí nghiên cứu và phát triển.

Trong một số trường hợp, việc tiêu tốn nhiều token lại giúp tối ưu code tốt hơn, từ đó giảm chi phí hạ tầng đám mây — một khoản tiết kiệm lớn hơn về lâu dài.

Ở góc độ sản phẩm, ông Mark Hull — nhà sáng lập Exceeds AI — cho biết phần lớn khách hàng của ông vẫn đang tập trung vào việc phổ cập AI trong tổ chức. Những doanh nghiệp tiên tiến hơn đã bắt đầu đo lường lợi tức đầu tư (ROI) từ AI, nhưng chưa đi sâu đến từng nhân viên.

Theo ông, trong tương lai, các công ty sẽ thiết lập quy tắc rõ ràng về việc sử dụng token, chẳng hạn giới hạn loại mô hình AI được dùng cho từng tác vụ. Thậm chí, AI có thể tự động tối ưu việc này, lựa chọn mô hình phù hợp nhất để cân bằng giữa chi phí và hiệu suất.

Ông Hull chia sẻ từng sử dụng công cụ Claude Code để xây dựng ba workflow với tổng cộng khoảng 300.000 dòng code, tiêu tốn khoảng 2.000 USD token. Sau đó, ông quyết định triển khai rộng rãi công cụ này cho toàn bộ công ty 15 người.

Kết quả là chi phí tăng vọt chỉ trong 48 giờ, buộc ông phải thiết lập các giới hạn sử dụng.

Dù vậy, không phải lúc nào chi phí cao cũng là điều xấu. CEO Vercel cho biết những nhân viên tiêu thụ nhiều token nhất cũng chính là những người có hiệu suất cao nhất. Với ông, khoản chi 10.000 USD cho một ngày làm việc có thể đã giúp tiết kiệm hàng triệu USD.

Tuy nhiên, khi AI trở thành công cụ phổ biến, các doanh nghiệp cũng sẽ phải đối mặt với rủi ro lạm dụng. Việc nhân viên sử dụng token cho dự án cá nhân, startup riêng hoặc các mục đích ngoài công việc hoàn toàn có thể xảy ra.

Trong tương lai gần, việc một nhân viên bị “mời lên trao đổi” vì mức tiêu thụ token tăng đột biến có thể trở thành “chuyện bình thường”.