据《巴伦周刊》报道，企业在2024年遭遇意外Token成本超支后正重新评估其AI投资，定价透明度和预算控制已成为华尔街面临的重大挑战。
推理模型和AI代理是主要的成本驱动因素。推理模型在生成输出前需执行冗长的内部计算，消耗的Token量远超最终生成的文本。AI编码代理成本更高，完成同等任务所需的Token量可达人类程序员的1000倍。许多公司如今正部署仪表板以监控员工AI使用情况，并转向更具成本效益的模型，包括来自中国的低成本替代品，或等待主要供应商降价。更复杂的是，不同模型提供商对Token的计数方式存在差异——Anthropic的计数方法显示其用量比竞争对手高出30-40%——这使得分析师难以追踪AI采用趋势。
