详细内容或原文请订阅后点击阅览
使用 AWS 混合和边缘服务实现 RAG，同时满足数据驻留要求
在本文中，我们展示了如何将 Amazon Bedrock Agents 扩展到混合和边缘服务（例如 AWS Outposts 和 AWS Local Zones），以使用本地数据构建分布式检索增强生成 (RAG) 应用程序，从而改善模型结果。借助 Outposts，我们还涵盖了完全本地 RAG 应用程序的参考模式，该应用程序需要基础模型 (FM) 和数据源都驻留在本地。
来源:亚马逊云科技 _机器学习随着 Amazon Bedrock Agents 的全面推出，您可以快速开发生成式 AI 应用程序，以在众多企业系统和数据源中运行多步骤任务。但是，受数据保护和隐私法规约束的一些地区和受监管行业试图将云中的生成式 AI 服务与本地受监管数据相结合。在本文中，我们将展示如何将 Amazon Bedrock Agents 扩展到混合和边缘服务（例如 AWS Outposts 和 AWS 本地区域），以使用本地数据构建分布式检索增强生成 (RAG) 应用程序，从而改善模型结果。借助 Outposts，我们还介绍了完全本地 RAG 应用程序的参考模式，该应用程序需要基础模型 (FM) 和数据源都驻留在本地。
Amazon Bedrock 代理 AWS Outposts AWS 本地区域解决方案概述
对于处理或存储敏感信息（例如个人身份信息 (PII)）的组织，客户要求 AWS 全球基础设施解决这些特定位置的问题，包括确保数据存储和处理符合当地法律法规的机制。通过 AWS 混合和边缘服务（例如本地区域和 Outposts），您可以受益于 AWS 云的可扩展性和灵活性，以及本地（或本地化）基础设施的低延迟和本地处理功能。这种混合方法允许组织在更靠近源的地方运行应用程序和处理数据，从而减少延迟、提高对时间敏感的工作负载的响应能力并遵守数据法规。
AWS 全球基础设施 Outposts 机架 本地区域 小型语言模型为电信行业带来的机遇：来自 AWS 和 Meta 的见解除了 SLM 之外，人们对边缘生成 AI 的兴趣还受到两个主要因素的驱动：
延迟 隐私和安全在本文中，我们介绍了两种主要的架构模式：完全本地 RAG 和混合 RAG。