“Lạm phát” 150.000 trợ lý ảo: Khi AI trở thành gánh nặng đốt tiền của doanh nghiệp, chi phí token tăng vọt

Việc tạo ra các trợ lý trí tuệ nhân tạo (AI agents) chưa bao giờ dễ dàng đến thế nhờ các nền tảng như Claude Cowork hay OpenClaw. Tuy nhiên, sự bùng nổ này đang dẫn đến một vấn nạn mới mang tên “Sự hỗn loạn của các tác nhân AI” (AI agent sprawl), buộc các "ông lớn" từ Lyft, DaVita đến GitLab phải bước vào cuộc đua kiểm soát trước khi mọi thứ vượt khỏi tầm tay.

Cách đây hơn một năm, câu chuyện của các doanh nghiệp là làm sao để tích hợp AI vào quy trình làm việc. Giờ đây, bài toán đã xoay 180 độ khi câu hỏi lại là làm thế nào để quản lý hàng chục nghìn AI đang chạy hỗn loạn trong hệ thống.

Theo dự báo từ hãng nghiên cứu thị trường Gartner, trong vòng hai năm tới, một doanh nghiệp trung bình trong danh sách Fortune 500 toàn cầu sẽ vận hành hơn 150.000 AI agents. Thế nhưng, một con số đáng báo động khác là chỉ có khoảng 13% tổ chức tin rằng họ có đủ năng lực quản trị để kiểm soát đội quân ảo này.

Bảo mật lỏng lẻo và hóa đơn điện toán tăng vọt

Sự phổ biến của các công cụ AI không cần mã code đã biến giấc mơ mỗi nhân viên một trợ lý thành hiện thực.

Ông Michael Friedlander, Giám đốc Công nghệ (CIO) khu vực Mỹ của tập đoàn sở hữu thương hiệu kem Magnum, nhận định rằng vì ai cũng có thể tạo ra AI, nên kết quả tất yếu là công ty sẽ kết thúc với một đống các tác nhân AI thực hiện cùng một loại nhiệm vụ. Điều này không chỉ gây lãng phí mà còn tạo ra sự chồng chéo trong vận hành.

Tại FICO, hơn 3.500 nhân viên của họ đang tạo ra hàng chục AI agents mới mỗi ngày. Mike Trkay, Giám đốc Khách hàng và Công nghệ tại FICO, cho biết các trợ lý này xuất hiện ở mọi cấp bậc trong cấu trúc phân cấp của công ty, từ những con bot cá nhân chỉ để quản lý email hay viết báo cáo ngắn, đến các hệ thống quy mô lớn quản lý dữ liệu cho nhiều dự án.

Vấn đề nằm ở chỗ, khi AI quá dễ tạo, chúng bắt đầu xuất hiện ở khắp nơi: trên máy tính cá nhân của nhân viên, trên máy chủ dùng chung hoặc các hệ thống đám mây khác nhau. Jai Das, đồng sáng lập công ty vốn mạo hiểm Sapphire Ventures, cảnh báo rằng điều này khiến các bộ phận IT gần như "mù" trong việc theo dõi và kiểm soát hoạt động của chúng.

Tại sao việc có quá nhiều AI lại là vấn đề? Các công ty như Lyft và DaVita đã chỉ ra ba "vết thương" chí mạng: rủi ro an ninh mạng, xung đột dữ liệu và chi phí.

Khi các AI agents hoạt động độc lập mà không có sự giám sát trung tâm, chúng có thể vô tình tiết lộ dữ liệu nhạy cảm hoặc trở thành cửa ngõ cho các cuộc tấn công mạng. Madhu Narasimhan, CIO của DaVita (một doanh nghiệp chuyên về chăm sóc thận) nhấn mạnh rằng vì tính chất đặc thù chăm sóc bệnh nhân, họ tuyệt đối không cho phép các công cụ AI thiếu tính bảo mật xâm nhập vào môi trường doanh nghiệp. Sự an toàn phải luôn đi đôi với tốc độ mở rộng.

Bên cạnh đó, vấn đề "token" (đơn vị tính toán của AI) đang trở thành một khoản chi phí đáng kể. Michael Friedlander của Magnum chia sẻ nỗi lo về việc quản lý chi phí để đảm bảo mô hình tài chính có trách nhiệm. Nếu không kiểm soát, hóa đơn cho các nền tảng AI có thể nuốt chửng lợi nhuận của doanh nghiệp nhanh hơn bất kỳ khoản chi phí vận hành nào khác.

Nguy hiểm hơn, việc có quá nhiều AI thực hiện cùng một nhiệm vụ có thể dẫn đến tình trạng “đá nhau". FICO hiện đang phải thiết lập các quy tắc quản trị để ngăn chặn tình trạng nhiều AI agents đưa ra các kết quả mâu thuẫn cho cùng một vấn đề, một kịch bản có thể gây thảm họa trong ngành tài chính và tín dụng.

Thay vì cấm đoán và làm thui chột sự sáng tạo của nhân viên, các doanh nghiệp hàng đầu đang chọn cách xây dựng trạm kiểm soát thông minh. Lyft là một ví dụ điển hình khi họ vừa triển khai Claude cho nhân viên, vừa thiết lập một phương thức được IT phê duyệt để chia sẻ các kỹ năng, tức là bộ hướng dẫn giúp AI xử lý các nhiệm vụ cụ thể.

Ông Jason Vogrinec, Phó Chủ tịch điều hành chuyển đổi AI tại Lyft, khẳng định việc xây dựng một nền tảng tập trung là bắt buộc đối với một tổ chức niêm yết có nhiều nghĩa vụ pháp lý.

Phía các nhà cung cấp như Anthropic cũng đã nhanh chóng tung ra các tính năng hỗ trợ quản trị viên IT, từ quyền truy cập dựa trên vai trò, kiểm soát chi tiêu đến nhật ký kiểm toán. Điều này giúp doanh nghiệp có cái nhìn toàn cảnh về việc ai đang dùng AI gì và tiêu tốn bao nhiêu USD.

Tuy nhiên, không phải ai cũng nhìn "AI agent sprawl" với ánh mắt tiêu cực hoàn toàn. Manu Narayan, CIO của GitLab, cho rằng dù họ đang duy trì các biện pháp bảo vệ để ngăn chặn sự lây lan quá mức, nhưng ở một mức độ nào đó, sự bùng nổ này trong ngắn hạn là chấp nhận được.

Theo ông Narayan, cơ hội mà AI mang lại lớn đến mức doanh nghiệp sẵn sàng chấp nhận một chút hỗn loạn ban đầu để tìm ra những ứng dụng thực sự đột phá.

Cuối cùng, thách thức lớn nhất của các nhà lãnh đạo hiện nay không phải là chọn công cụ AI nào, mà là làm sao để hài hòa giữa khát vọng đổi mới của nhân viên và kỷ luật vận hành của doanh nghiệp.

Trong kỷ nguyên mà "AI là đồng nghiệp", kẻ chiến thắng sẽ là người biết cách quản lý đội ngũ ảo này một cách hiệu quả nhất, thay vì để chúng tự do sinh sôi và biến thành một mớ bòng bong công nghệ.

*Nguồn: WSJ, Fortune