详细内容或原文请订阅后点击阅览
用于在生产中构建和部署 AI 代理的 5 个工具
本文介绍了五个工具,从构建代理的逻辑到大规模运行所有逻辑,堆栈的每一层都有一个工具。
来源:KDnuggets构建一个在笔记本中工作的代理需要一个下午的时间。让同一个代理在实际流量中生存下来,从凌晨 3 点的崩溃中恢复,并且在运行大型语言模型 (LLM) 生成的代码时不泄露其他人的数据是完全不同的工作,而且这是大多数团队低估的工作。只有极少数的生成式人工智能试点真正达到了生产水平,而差距通常不是模型。直到出现问题之前,没有人会想到它下面的五层。
本文将介绍五个可以弥补这一差距的工具,每个堆栈层都有一个工具:构建代理的逻辑、执行它生成的代码、为其提供内存、观察它的作用以及大规模运行所有这些工具。这些都不与其他竞争。它们相互叠加,您在 2026 年遇到的大多数生产代理都会同时运行这五种技术。
1.LangGraph
基本代理循环只是调用 LLM 的 Python while 循环。在循环需要分支、重试失败的工具调用、暂停以供人员批准某些内容或在运行它的服务器在任务中重新启动后恢复之前,这种方法可以正常工作。那时,您需要将代理状态视为真实的、持久的事物,而不是在进程终止时消失的变量。
LangGraph 将代理表示为有向图而不是扁平链。节点是函数,边通过可选的条件路由将它们连接起来,整个执行过程作为一系列状态转换而不是扁平消息列表进行跟踪。每个转换都会自动设置检查点,这使得暂停和恢复、时间旅行调试和人机交互批准步骤成为可能,而无需您自己构建基础设施。Klarna、LinkedIn、Uber 和 Replit 都在 LangGraph 上运行代理工作流程,并且该框架在生产设置中已经变得足够普遍,其 GitHub 存储库已超过 30,000 颗星。
