确保 Amazon Bedrock 跨区域推理的安全:地理和全球

在本文中,我们探讨了实施 Amazon Bedrock 跨区域推理配置文件的安全注意事项和最佳实践。无论您是构建生成式 AI 应用程序还是需要满足特定的区域合规性要求,本指南都将帮助您了解 Amazon Bedrock CRIS 的安全架构以及如何正确配置您的实施。

来源:亚马逊云科技 _机器学习

随着组织构建更多在生产中大规模使用 AI 功能的操作工作负载,生成式 AI 推理的采用和实施有所增加。为了帮助客户实现生成式 AI 应用程序的规模,Amazon Bedrock 提供了跨区域推理 (CRIS) 配置文件,组织可以使用这一强大的功能在多个 AWS 区域之间无缝分配推理处理。此功能可帮助您在大规模构建时获得更高的吞吐量,并有助于即使在重负载下也能保持生成式 AI 应用程序的响应能力和可靠性。

在本文中,我们探讨了实施 Amazon Bedrock 跨区域推理配置文件的安全注意事项和最佳实践。无论您是构建生成式 AI 应用程序还是需要满足特定的区域合规性要求,本指南都将帮助您了解 Amazon Bedrock CRIS 的安全架构以及如何正确配置您的实施。

推理配置文件基于两个关键概念:

  • 源区域 – 发出 API 请求的区域
  • 目标区域 – Amazon Bedrock 可以将推理请求路由到的区域
  • 当您在 Amazon Bedrock 中调用跨区域推理配置文件时,您的请求将遵循智能路由路径。该请求源自您进行 API 调用的源区域,并自动路由到推理配置文件中定义的目标区域之一。跨区域推理通过安全的 AWS 网络进行操作,并对传输中的数据进行端到端加密。

    Amazon Bedrock 提供两种类型的跨区域推理配置文件:

  • 地理跨区域推理 – Amazon Bedrock 会自动选择定义地理范围内的最佳区域(例如美国、欧盟、澳大利亚和日本)来处理您的推理请求。此配置文件在特定地理边界内维护推理处理,这可以帮助组织满足区域数据驻留要求。