Amazon Bedrock 托管知识库的代理检索

本文重点介绍为什么经典检索无法解决多部分问题、AgenticRetrieveStream API 的工作原理(包括请求构造和跟踪解析)以及何时选择它而不是标准 Retrieve API。

来源:亚马逊云科技 _机器学习

您的用户提出多部分、比较性和探索性问题,涉及 PDF、幻灯片、门票、文字记录和网页内容。经典的单次检索在这些问题上失败了。答案缺少上下文,支持请求不断升级,分析师浪费时间重新运行搜索。 Amazon Bedrock 托管知识库的代理检索专为这些问题而设计。

考虑分析师可能会问的两个问题:“比较我们 2020 年和 2023 年的战略。发生了什么变化?”以及“整个产品线的三大风险是什么?”两者都不是单次查找。多意图问题在嵌入空间中没有可以很好地表示它的单点,因此前 k 个块作为竞争子意图的平均值返回。

代理检索计划并迭代检索,并可以在同一调用中生成响应。本文重点介绍为什么经典检索无法解决多部分问题、AgenticRetrieveStream API 的工作原理(包括请求构建和跟踪解析)以及何时选择它而不是标准 Retrieve API。

为什么单次检索失败

一个有效的例子使差距变得具体。假设您已将 25 年的亚马逊股东信件收录到托管知识库中。您的第一个问题很直接:

“文档中最重要的信息是什么?”

标准 Retrieve API 按混合分数返回五个块。在我们的测试语料库中,最高的结果是高分但低价值:它涵盖了亚马逊徽标的配色方案。以下部分涵盖招聘、建设者和差异化。检索器完成其工作并根据与查询嵌入的相似性进行排名。但“最重要的信息”是模糊的,记分员没有任何重要信息。

现在升级到一个现实问题:

“比较亚马逊在 2020 年和 2023 年如何谈论招聘、长期投资和客户至上。重点转移到哪里了?”

人类分析师会做什么

代理检索以 API 的形式自动执行此工作流程。

单次检索留下的间隙

API 演练