详细内容或原文请订阅后点击阅览
CROSSPOST：ARIN DUBE：快速“聪明的汉斯”：对“AI”工作流程和传播的影响
或者是 Rikki-Tikki-Tavii？：连锁任务，跺脚：人工智能自动化可能如何以及在何处实际工作......
来源:Brad DeLongAgentic AI 在可验证、可测试的工作上大放异彩，但当答案不可检查时就会悄然崩溃。只有当你能够快速且廉价地评估答案时，“运行并找出答案”才有效。我们没有思考机器；我们有非常快的跑步者，他们找出我们可以将谁连接到我们的工作流程中，也就是说，如果我们可以（a）找出，或者（b）出于总结、样板或仪式的目的而对slop感到满意......
这个这个这个这个：
Arin Dube：“人工智能”每日精选 ：“从根本上说，代理人工智能在执行很大程度上可验证的任务与不可验证的任务时，其有用性存在天壤之别。如果您想要复制某些内容，或者具有代码需要重现的可验证目标，那么它可能是一个非常有效的工具。例如，最终产品可以是一个“可以运行”并通过一些测试的软件；或者可以是绘制（已知）数据的图形；等等。当没有时，它可能会变得一团糟，并且是否一团糟在很大程度上是未知的（不会产生大量的时间成本）。
这就是为什么我认识的许多研究人员拥有大量克劳德编码（或法典编码）的原始发现，但尚未见诸世人，因为……需要很长时间才能真正有信心。我们可以尝试制定里程碑、中期检查等，但坦率地说，在不产生大量成本的情况下，这存在严格的限制。 这就是为什么我认为将人工智能工具集中在更有限但更有效地完成可验证的任务上——并帮助用户真正找到那些可以有效发挥作用的有限空间——比追逐跨越某些神秘的 AGI 门槛的白日梦更能提高生产力……
分享
法学硕士们都是聪明的汉斯，他们的脚步速度比人类快得多。因此，只要有正确性测试（这意味着错误性测试），运行找出答案就会让你得到正确的答案，并且让你很快得到正确的答案。
发表评论