使用托管 Amazon Bedrock 知识库和 AWS CloudFormation 构建可观察的企业代理检索

本文在 Amazon Bedrock 托管知识库和 Amazon Bedrock AgentCore 上构建了企业代理检索解决方案。代理进行推理、跨多个知识库进行路由并返回引用的答案,具有七层可观察性以及按需和持续评估,所有这些都通过单个 AWS CloudFormation 链进行部署。

来源:亚马逊云科技 _机器学习

将检索增强生成 (RAG) 添加到基础模型的团队通常从针对单个知识库的单个检索步骤开始。这种方法一直有效,直到问题变得更加困难,答案跨越多个来源,或者系统必须决定在做出回应之前咨询哪个来源。

企业代理检索解决了这个问题:代理推理问题,将其路由到正确的知识库,迭代检索,并返回引用的答案。但它带来了一个更困难的操作问题。一旦代理在循环中进行推理和检索,您就无法再看到它做了什么或答案是否好。

上一篇文章使用 Amazon Bedrock 知识库和 AWS CloudFormation 构建端到端 RAG 解决方案,通过自我管理(向量存储)知识库自动化单次 RAG 工作流程。随着托管知识库的推出,Amazon Bedrock 知识库已从 RAG 发展到代理检索。托管知识库代理检索执行多轮规划、执行检索工具并生成带有引文的有依据的答案。

这篇文章采取了下一步:企业代理检索解决方案,代理在多个知识库中进行推理、检索,并综合引用的答案。它基于 Amazon Bedrock 托管知识库和 Amazon Bedrock AgentCore 构建,从一开始就内置了可观察性和评估功能。您可以使用单个 AWS CloudFormation 链部署所有这些内容。

图 1:从 Amazon S3 中的合成语料库到两个托管知识库、AgentCore Gateway(Amazon Bedrock AgentCore 的一项功能)和运行时代理到七层可观察性和评估的端到端架构,全部由 AWS CloudFormation 部署

架构图中的编号步骤映射到解决方案的工作流程,如下所示:

一、背景

从 RAG 到企业代理检索

托管知识库与自助知识库的比较

能力

二.解决方案概述