创建一个用LlamainDex的高级知识发现的代理抹布应用

在这篇文章中,我们演示了使用LlamainDex框架构建代理RAG应用程序的示例。 LlamainDex是将FMS连接到外部数据源的框架。它有助于从数据库,API,PDF等摄入,结构和检索信息,从而使代理和抹布适合AI应用程序。该应用程序用作研究工具,使用亚马逊基岩上的Mistral大2 FM产生对代理流量的响应。

来源:亚马逊云科技 _机器学习
代理检索增强发电(RAG)应用程序代表了AI中的高级方法,该方法将基础模型(FMS)与外部知识检索和自主代理能力集成在一起。这些系统动态访问和处理信息,分解复杂的任务,使用外部工具,应用推理并适应各种上下文。他们通过执行多步骤过程,做出决策和生成复杂的输出来超越简单的问答。在这篇文章中,我们演示了使用LlamainDex框架构建代理RAG应用程序的示例。 LlamainDex是将FMS连接到外部数据源的框架。它有助于从数据库,API,PDF等摄入,结构和检索信息,从而使代理和抹布适合AI应用程序。此应用程序用作研究工具,使用Amazon BedRock上的Mistral 2 FM生成代理流的响应。 The example application interacts with well-known websites, such as Arxiv, GitHub, TechCrunch, and DuckDuckGo, and can access knowledge bases containing documentation and internal knowledge.This application can be further expanded to accommodate broader use cases requiring dynamic interaction with internal and external APIs, as well as the integration of internal knowledge bases to provide more context-aware responses to user queries.Solution overviewThis solution uses the LlamaIndex framework to build具有两个主要组件的代理流动:AgentRunner和AgentWorker。 AgentRunner充当管理对话历史记录,创建和维护任务,执行任务步骤并为交互提供用户友好的界面的编排者。代理工作者处理分步推理和任务执行。对于推理和任务计划,我们在亚马逊基地上使用Mistral face 2。您可以使用Amazon Bedrock可用的其他文本一代FMS。有关支持模型的完整列表,请参见亚马逊基岩中支持的基础模型。