您为 AI 代理支付的费用将变化很大且不可预测

对领先人工智能代理的测试发现,消耗的代币数量差异很大,没有透明度,也无法保证成功。

来源:ZDNet | 机器人新闻

关注 ZDNET:将我们添加为 Google 上的首选来源。

ZDNET 的关键要点

  • 当使用代理时,人工智能的代币成本会飙升。
  • 代理不一致,无法预测其总令牌使用量。
  • 用户必须要求价格透明度和性能保证。
  • 在实施代理人工智能的所有挑战中,最不被理解的问题是成本。 OpenAI、Google 和 Anthropic 等人工智能提供商都有价格表,但这些列出的价格都没有告诉用户实际解决问题的最终费用是多少。

    根据密歇根大学和合作机构的一项新的成本研究,结果可能会令人震惊:代理商成本飙升且不可预测。

    这项研究由来自密歇根州的主要作者 Longju Bai 以及斯坦福大学、All Hands AI、谷歌 DeepMind 部门、微软和麻省理工学院的合作者共同完成,题为“AI 代理如何花钱?分析和预测代理编码任务中的代币消耗”,据作者称,这是“第一个关于 AI 代理代币消耗的系统研究”。

    该研究已发布在 arXiv 预印本服务器上。

    值得注意的是,该书的作者是一位著名的斯坦福大学经济学家 Erik Brynjolfsson,他对人工智能对生产力的影响进行了广泛的评论。

    最重要的发现是,代理消耗的令牌比逐轮、简单、基于提示的聊天多出几个数量级 - 认为代理的令牌数量是 ChatGPT 一轮提示的 3,500 倍。

    另外:麻省理工学院的研究发现,人工智能代理快速、松散且失控

    令牌是人工智能模型处理信息的基本单位。它可以是一个单词的一部分、整个单词,或者只是一个标点符号,具体取决于模型如何将数据切成碎片。

    最糟糕的是这一切都无法预测。 Bai 和团队发现,代理无法可靠地估计他们最终将在给定任务中消耗多少代币。

    另外:代理编码启示录的 5 个神话

    计算代币成本