详细内容或原文请订阅后点击阅览
及时偿还债务和“对抗体重”
Drew Breunig 是当今人工智能领域最聪明的人之一。他是 cmpnd.ai 的首席执行官兼联合创始人，也是一位资深黑客，拥有多个时代的丰富经验，这在当今是一笔令人惊讶的宝贵资产。他还有一本书即将出版，《上下文工程手册》，已经在早期发布中 [...]
来源:O'Reilly Media _AI & MLDrew Breunig 是当今人工智能领域最聪明的人之一。他是 cmpnd.ai 的首席执行官兼联合创始人，也是一位资深黑客，拥有多个时代的丰富经验，这在当今是一笔令人惊讶的宝贵资产。他还有一本书即将出版，《上下文工程手册》，已经由 O’Reilly 提前发布。
我想说，上下文工程是一门塑造模型所见内容的艺术，以便它真正做到你想要的。 （我刚刚意识到，我说的是安德鲁·辛格（Andrew Singer）四十多年前对我说的一句话，当时他教我调试。他称之为“弄清楚你真正告诉计算机做什么而不是你认为你告诉它做什么的艺术。”但那是另一个故事了。）
Drew 在最近的 O'Reilly 之友训练营（简称 Foo Camp）上发表了演讲，谈到了他所说的即时债务，他将其描述为“团队在对抗模型训练而不是与模型合作时积累的隐性成本”。
这对我来说是一个新颖且有用的框架，你最终会在提示中得到一堆东西来补偿模型的默认行为，这些提示随着模型升级而不再起作用，因此它成为一种技术债务。因此，他对最好的开发人员正在采取哪些不同的做法进行了很多思考。
因此，我邀请 Drew 在 Live with Tim O’Reilly 中重演他的简短演讲，然后我们与参加现场活动的人们进行了讨论。他们提出了很多很好的问题，所以这不仅是我的采访，也是 O’Reilly 的一群客户的采访。
实践中的提示债务
每个发送带有提示的应用程序的人都会识别第二张幻灯片。这是即时债务的简单而生动的例证，与技术债务一样，即时债务也有最终到期的账单。
Drew 列出了即时债务的三项成本：