详细内容或原文请订阅后点击阅览
帮助AI系统从错误中恢复并找到最佳解决方案
Asari AI 开发了 EnCompass，这是一个改进 AI 代理的错误恢复和搜索策略、降低代码复杂性并提高准确性的框架。
来源:Scientific Inquirer如果您使用消费者人工智能系统，您可能经历过人工智能“脑雾”之类的情况：当您正在深入交谈时，人工智能似乎突然忘记了您一直在谈论的不同想法以及它们如何组合在一起。当程序员构建“代理”系统时，同样的问题也会出现，该系统使用大型语言模型（LLM）和符号计算机程序来解决某些多步骤任务。一旦这样的程序达到一定的规模，这意味着代码做出的决策涉及许多步骤，法学硕士几乎不可避免地会犯错误。
由校友创办的 Asari AI 公司领导的科学家团队与加州理工学院和麻省理工学院的研究人员一起开发了一个新框架，使程序员能够改进他们的智能体，减少错误，并快速从错误中恢复，而无需重写智能体的核心逻辑。该框架名为 EnCompass，允许程序员在发生错误时轻松回溯，并简单地测试不同的搜索策略以及通过代码执行不同可能执行路径的搜索方法。研究人员上个月在圣地亚哥举行的第三十九届神经信息处理系统 (NeurIPS) 年会上展示了 EnCompass。
“如果我们想要开发能够解决社会面临的最棘手问题的人工智能系统，从医疗保健到政府再到工程设计，我们需要更好的工具来组织人工智能系统的核心逻辑，”加州理工学院计算和数学科学教授 Yisong Yue 说。 “随着代理逻辑变得更加复杂，EnCompass 框架是让 AI 代理程序员能够保持干净的代码组织的重要一步。”
重要的是，人工智能代理使用大型神经网络，其工作流程中有大量潜在路径。在每个推理步骤中，都会出现额外的不确定性，从而导致小错误不断累积。
一项大型基因研究揭示了为什么一些 80 多岁的人仍然......