详细内容或原文请订阅后点击阅览
代币不是美元
以下文章最初出现在 Tim O’Brien 的 Medium 博客上，经作者许可在此重新发布。人工智能成本易算难懂，用代币量来判断努力程度？虽然这可能感觉像是价值或复杂性的有效衡量标准，但它并没有捕获定义 [...]
来源:O'Reilly Media _AI & ML以下文章最初出现在 Tim O’Brien 的 Medium 博客上，经作者许可在此重新发布。
AI成本易算难懂，以代币量来衡量努力程度？虽然这可能感觉像是价值或复杂性的有效衡量标准，但它并没有捕获定义工作负载是否值得完成的细节。
如果有人吹嘘他们使用了多少代币，或者如果您在一家正在衡量个人代币消耗作为个人生产力衡量标准的公司工作？你要么已经意识到，要么即将意识到，tokenmaxxing 是一个代价高昂的失误。
账单可以显示系统消耗了多少代币、调用了哪些模型以及这些调用的费用。它无法告诉你的是系统是否完成了任何值得付费的事情，而这就是当前人工智能宿醉背后的现实。
FinOps 在数据库方面一直存在盲点。我们可以衡量存储、计算、查询、副本和利用率，但这些数字都不能告诉我们数据库的用途、为什么这样设计，或者成本是否合理。
数据库有其用途。它支持产品、交易、客户体验或业务流程。其经济性取决于架构、工作负载、可用性、延迟、数据设计以及故障的后果。这就是为什么将数据库与计算上测量的无状态工作负载列在同一个“效率机会”表中始终是愚蠢的事情。
人工智能比普通的计量基础设施更接近这一点，但它更加复杂。依赖于大型非确定性代理网络的开发工作具有一定程度的投机价值。昨天花 500 美元看《神鬼寓言 5》一个小时真的值得吗？我们会看到的。
有用的衡量标准不仅仅是令牌。这是完成系统要做的事情的总成本。
。 。 。