UBS: Chi phí áp dụng AI doanh nghiệp tăng do nhu cầu sử dụng bùng nổ, không phải do giá mỗi đơn vị tăng cao

Theo UBS vào ngày 15/6, việc doanh nghiệp áp dụng AI trong hoạt động kinh doanh đang phải đối mặt với chi phí token và chi phí tính toán có xu hướng tăng, nhưng mức tăng này chủ yếu xuất phát từ sự gia tăng sử dụng thay vì lạm phát giá theo đơn vị. Ngân hàng đã khảo sát khoảng 13 giám đốc công nghệ thông tin cấp doanh nghiệp và nhận thấy rằng khoảng 60% tổ chức xem chi phí token và tính toán cho AI là một vấn đề đáng kể, đặc biệt sau khi chuyển từ chatbot đơn giản sang các tác nhân tự chủ.

Phần lớn doanh nghiệp đã triển khai hoặc dự định triển khai các biện pháp kiểm soát (guardrails) như gom pool token, hạ cấp mô hình, cảnh báo lãng phí và hạn chế người dùng để loại bỏ các điểm kém hiệu quả mà không làm giảm mức độ áp dụng. Các lãnh đạo nhấn mạnh rằng họ muốn đẩy nhanh việc nhân viên sử dụng AI trong khi tối ưu chi phí thông qua các biện pháp như giảm các dịch vụ CNTT bên ngoài và hợp nhất chi tiêu đám mây.