如何使用Amazon BedRock自定义模型IMPORT

在本指南中,我们将带您浏览分步说明,以配置Amazon Bedrock自定义模型导入的跨账户访问,并涵盖了基于加密的不加密和AWS密钥管理服务(AWS KMS)的情况。

来源:亚马逊云科技 _机器学习

在企业环境中,组织经常将其AI运营分为两个专业团队:一个AI研究团队和一个模型托管团队。研究团队致力于使用模型培训和微调技术开发和增强AI模型。同时,一个单独的托管团队负责在自己的开发,分期和生产环境中部署这些模型。

模型培训和微调

使用Amazon BedRock自定义模型导入,托管团队可以使用按需定价的支持架构(例如Meta Llama 2,Llama 3和Mistral)导入和提供自定义模型。团队可以从Amazon Sagemaker或Amazon Simple Storage Service(Amazon S3)中进口具有权重的模型。这些导入的自定义模型与现有的Amazon Bedrock基础模型(FMS)一起通过无服务器的方式与单个统一的API一起工作,从而减轻了管理模型部署和扩展的需求。

亚马逊基岩自定义型号导入 Meta Llama 2,Llama 3 Mistral 按需 拥抱脸部安全 Amazon Sagemaker 亚马逊简单存储服务 亚马逊基岩 基础模型

但是,在这样的企业环境中,这些团队通常出于安全和操作原因在单独的AWS帐户中工作。模型开发团队的培训结果,称为模型工件,例如模型权重,通常存储在研究团队AWS帐户中的S3存储桶中,但是托管团队需要从另一个帐户中访问这些工件以部署模型。这构成了一个挑战:您如何在帐户之间安全地共享模型伪像?

这是跨学会访问变得重要的地方。借助Amazon Bedrock自定义型号导入跨账户支持,我们可以帮助您配置存储模型工件和托管帐户之间的直接访问。这简化了您的操作工作流程,同时保持团队之间的安全界限。我们的客户引号之一:

111122223333