详细内容或原文请订阅后点击阅览
确保 Amazon Bedrock 跨区域推理的安全:地理和全球
在本文中,我们探讨了实施 Amazon Bedrock 跨区域推理配置文件的安全注意事项和最佳实践。无论您是构建生成式 AI 应用程序还是需要满足特定的区域合规性要求,本指南都将帮助您了解 Amazon Bedrock CRIS 的安全架构以及如何正确配置您的实施。
来源:亚马逊云科技 _机器学习随着组织构建更多在生产中大规模使用 AI 功能的操作工作负载,生成式 AI 推理的采用和实施有所增加。为了帮助客户实现生成式 AI 应用程序的规模,Amazon Bedrock 提供了跨区域推理 (CRIS) 配置文件,组织可以使用这一强大的功能在多个 AWS 区域之间无缝分配推理处理。此功能可帮助您在大规模构建时获得更高的吞吐量,并有助于即使在重负载下也能保持生成式 AI 应用程序的响应能力和可靠性。
在本文中,我们探讨了实施 Amazon Bedrock 跨区域推理配置文件的安全注意事项和最佳实践。无论您是构建生成式 AI 应用程序还是需要满足特定的区域合规性要求,本指南都将帮助您了解 Amazon Bedrock CRIS 的安全架构以及如何正确配置您的实施。
推理配置文件基于两个关键概念:
当您在 Amazon Bedrock 中调用跨区域推理配置文件时,您的请求将遵循智能路由路径。该请求源自您进行 API 调用的源区域,并自动路由到推理配置文件中定义的目标区域之一。跨区域推理通过安全的 AWS 网络进行操作,并对传输中的数据进行端到端加密。
Amazon Bedrock 提供两种类型的跨区域推理配置文件:
