使用JWT

在这篇文章中,我们引入了一种解决方案,该解决方案使用OpenSearch Service作为多租户RAG中的向量数据存储,使用JWT和FGAC实现数据隔离和路由。该解决方案结合使用JWT和FGAC来实现严格的租户数据访问隔离和路由,因此需要使用OpenSearch服务。

来源:亚马逊云科技 _机器学习
近年来,大语言模型(LLM)的出现加速了各个行业的AI采用。但是,为了进一步增强LLMS的功能并有效使用最新信息和特定于领域的知识,与外部数据源的集成至关重要。检索增强生成(RAG)已成为解决此挑战的有效方法。RAG是一种基于用户输入的现有知识库或文档中的相关信息,并将此信息纳入LLM输入中以生成更准确且上下文适当的响应。从使用产品开发中的技术文档到在客户支持中回答常见问题解答,甚至基于最新数据支持决策系统,RAG的实施为两个软件AS-AS-Service(SaaS)提供商(SaaS)提供商及其用户(租户)提供了一个基本的型号的型号,从而,这项技术正在跨广泛的应用程序实施。当租户使用该服务时,他们的数据在受到适当的访问控制和数据隔离保护的同时积累。在使用LLMS在此类环境中实施AI功能时,RAG可以使用每个租户的特定数据提供个性化的AI服务。LET以客户服务呼叫中心SaaS为例。每个房客的历史查询记录,常见问题解答和产品手册都被积累为特定于租户的知识库。通过实现抹布系统,LLM可以通过引用这些特定于租户的数据源来生成与每个租户上下文相关的适当响应。这使高度准确的互动结合了特定于租户的商业知识,这是通用AI助手无法实现的定制水平。抹布是在