使用Amazon Bedrock

在这篇文章中,我们使用Amazon Elastic Kubernetes服务(EKS)与Amazon Bedrock一起演示了一个解决方案,以在AWS上为您的生成AI应用程序构建可扩展和容器化的RAG解决方案,同时将非结构化用户文件数据带入直接,快速和安全的方式,并将您的非结构用户文件数据带到Amazon Bedrock。

来源:亚马逊云科技 _机器学习
生成人工智能(AI)应用程序通常是使用称为检索增强发电(RAG)的技术构建的,该技术可提供基础模型(FMS)访问他们在培训期间没有的其他数据。该数据用于丰富生成的AI提示,以在不连续检验FM的情况下提供更特定于上下文的响应,同时还提高了透明度并最小化幻觉。在这篇文章中,我们在本文中使用Amazon Elastic Kubernetes服务(EKS)在构建Amazon bedrock上使用Amazon bedrone dota to scarerized Rag ai II,在此帖子中演示了一种解决方案,并将其用于集合的rag sepriptions,并将其用于集装效果。 Amazon EKS以直接,快速和安全的方式进行床架,为使用Amazon Bedrock构建RAG应用程序提供了一个可扩展,安全且具有成本效益的环境,还可以有效地部署和监视AI驱动的工作负载,同时利用Bedrock FMS的FMS进行推理。它通过优化的计算实例提高了性能,自动化GPU的工作量,同时通过Amazon EC2斑点实例降低成本,并通过AWS Fargate进行AWS Fargate,并通过本机AWS机制提供企业级安全性用户的现有文件和文件夹以及相关的元数据。通过使用Amazon Bedrock API丰富的Amazon Bedrock API,通过从OpenSearch搜索无服务器矢量数据库中检索的特定于公司的数据来富含生成的AI提示,从而实现了带有Amazon Bedrock的RAG场景。解决方案概述该解决方案使用Amazon EKS托管节点组来自动化Nodes eCycle(Amazon Ec2 Inters)的供应和LifeCycle Managements(Amazon Ec2 Insterness)。集群中的每个托管节点都是为您为您管理的Amazon EC2自动缩放组的一部分