控制 Codegen 支出

本文最初出现在 Medium 上。蒂姆·奥布莱恩 (Tim O’Brien) 允许我们在雷达上转发。当您使用 Cursor 或 GitHub Copilot 等 AI 工具时,真正的力量不仅仅是能够访问不同的模型,而是知道何时使用它们。有些工作可以用自动完成。其他人需要更强大的模型。还有[...]

来源:O'Reilly Media _AI & ML
本文最初出现在 Medium 上。蒂姆·奥布莱恩 (Tim O’Brien) 允许我们在雷达上转发。
这篇文章最初出现在 。蒂姆·奥布莱恩 (Tim O’Brien) 允许我们在雷达上转发。

当您使用 Cursor 或 GitHub Copilot 等 AI 工具时,真正的力量不仅仅是能够访问不同的模型,而是知道何时使用它们。有些工作可以用自动完成。其他人需要更强大的模型。有时,如果你继续花钱解决低质量模型的复杂问题,你应该放弃并转换。如果不这样做,您就会浪费时间和金钱。

这就是代码生成中缺少的讨论。这里有几个“营地”;大多数写这篇文章的人似乎都认为这是一种奇幻而有趣的“氛围编码”体验,并且有一些人正在尝试使用这项技术来交付真正的产品。如果您属于最后一类,您可能已经开始意识到,如果您没有模型选择策略,您可能会花费大量金钱。

太棒了

让我们说得非常具体 - 如果您注册 Cursor 并使用 Auto 每月支付 20 美元订阅,并且您对输出感到满意,那么就没有什么可担心的。但是,如果您开始并行运行代理并在每月订阅的基础上支付代币消耗费用,那么这篇文章将有意义。根据我自己的经验,如果一个单独工作的开发人员试图解决一个项目并选择了最昂贵的模型,那么他们每天很容易花费 200-300 美元(或这个数字的四倍)。

而且,如果您是一家公司,并且您允许开发人员无限制地访问这些工具。准备好迎接一些惊喜吧。

我的模型升级阶梯...

  • 从这里开始:自动。让光标路由到具有良好容量的强大模型。如果输出质量下降或发生循环,请升级问题。 (光标明确表示自动在高级型号之间进行选择,并在输出下降时进行切换。)
  • 从这里开始:自动。 重载:十四行诗 4 – 100 万。