详细内容或原文请订阅后点击阅览
使用上下文
以下文章来自Drew Breunig的两篇博客文章:“上下文失败了多长时间”和“如何修复您的上下文”。管理您的上下文是成功代理的关键,因为Frontier模型上下文窗口继续增长,其中许多支持多达100万个令牌,我看到了许多关于长时间的窗口[…]
来源:O'Reilly Media _AI & ML以下文章来自Drew Breunig的两篇博客文章:“上下文失败了多长时间”和“如何修复您的上下文”。
上下文失败多长时间 如何修复您的上下文管理您的上下文是成功代理的关键
随着Frontier模型上下文窗口的继续增长,其中1个支持多达100万个令牌,我看到许多关于长时间的窗口将解锁我们梦dream以求的代理的令人兴奋的讨论。毕竟,有了足够大的窗口,您可以简单地将所有内容都置于您可能需要的提示中 - 工具,文档,说明等,然后让模型照顾其余的。
1 一切长篇小说是膝盖的抹布热情(当您可以在提示中安装一切时,无需找到最好的文档!),启用MCP炒作(连接到每个工具和模型可以做任何工作!),并激发了对代理的热情。2
2但实际上,较长的上下文不会产生更好的响应。超载上下文会导致您的代理商和应用程序以惊人的方式失败。上下文可能会变得中毒,分心,混乱或冲突。对于代理商而言,这尤其有问题,后者依靠上下文来收集信息,合成发现和协调行动。
让我们浏览上下文可以失控的方式,然后查看减轻或完全避免上下文失败的方法。
上下文中毒
上下文中毒是在幻觉或其他错误将其反复引用的上下文中。
DeepMind团队在Gemini 2.5技术报告中召集了上下文中毒,我们以前崩溃了。玩神奇宝贝时,双子座代理商偶尔会幻觉,使其上下文中毒:
双子座2.5技术报告 我们以前分解如果其上下文的“目标”部分被中毒,则代理人将制定荒谬的策略和重复行为,以追求无法满足的目标。