随着账单不断上涨,大型企业计划更多使用成本较低的开放权重人工智能模型,以寻求更便宜的选择,同时继续将封闭模型用于困难任务。
凯捷 11 月 12 日发布的调查发现,近六成高管预计所在机构将在未来一年增加开放权重人工智能的使用。成本压力已十分明显:59% 的受访者表示,过去一年的人工智能支出大幅超出预期或预算。平均而言,支出超出预期或预算 24%。
超过半数的受访者(53%)表示,他们担心人工智能成本,这一比例高于前一年的 45%。凯捷称,开放权重模型的每个词元平均成本比封闭模型低 87%。该研究显示,9 月,开放权重模型占人工智能服务提供商 OpenRouter 使用量的 72%,但仅占支出的 27%。
这项调查覆盖了 10 个国家、年收入超过 10 亿美元的机构中的 500 名高级管理人员。转变的方向似乎是混合使用多种模型,而非完全取代封闭模型。半数受访者表示,只要额外成本合理,他们就会在复杂任务中继续使用封闭模型。