他们竞赛看谁能燃烧最多代币 - 会计师获胜:Uber、沃尔玛和亚马逊进入紧缩模式

当实验变成支出栏时,兴奋就结束了。

来源:安全实验室新闻频道

他们竞赛看谁能燃烧最多代币 - 会计师获胜:Uber、沃尔玛和亚马逊进入紧缩模式

当实验变成支出栏时,兴奋就结束了。

直到最近,科技公司内部的人工智能还被认为是一种应该鲁莽使用的资源:许多组织的员工被要求在工作中积极使用人工智能,以便更有效地完成工作。一些内部团队甚至在代币花费上进行竞争。然而,不断上升的成本很快就以节约的方式取代了对使用的竞争。

代币是AI服务提供商计算负载的单位。一个令牌大致对应于一个单词的一个片段,因此长时间的查询、代码编辑和对聊天机器人的持续调用很快就会变成企业的显着成本。

Anthropic 和 OpenAI 等人工智能工具供应商的账单带来了好转。因此,在成本急剧增加后,几家公司上周就未来的限制向员工发出警告。 Uber 在 5 月份承认,它在四个月内就用完了年度人工智能预算,并对一些编程工具实行了每月限制。

沃尔玛也采取了类似的措施,将限制划分到不同的人工智能服务中。亚马逊还取消了员工比较代币使用量的内部评级。之前被员工称为“tokenmaxxing”的模式,实际上已经改为“tokenminning”,即希望花费更少的代币。

方法的改变表明,公司仍在寻求人工智能的好处和日常查询成本之间的工作平衡。这些工具已经内置到开发、分析和办公流程中,但无限制的访问成本太高。现在企业不仅要考虑速度的提高,还要考虑每个自动化操作的成本。