详细内容或原文请订阅后点击阅览
将 Amazon Bedrock 工具与 Amazon SageMaker JumpStart 模型结合使用
在本文中,我们探讨了如何从 SageMaker JumpStart 部署 AI 模型并将它们与 Amazon Bedrock 的强大功能一起使用。用户可以将 SageMaker JumpStart 的模型托管与 Bedrock 的安全和监控工具相结合。我们以 Gemma 2 9B Instruct 模型为例进行了演示,展示了如何部署它并使用 Bedrock 的高级功能。
来源:亚马逊云科技 _机器学习今天,我们很高兴地宣布推出一项新功能,让您可以从 Amazon SageMaker JumpStart 部署 100 多个开放权重和专有模型,并将它们注册到 Amazon Bedrock,从而让您可以通过强大的 Amazon Bedrock API 无缝访问它们。现在,您可以将 Amazon Bedrock 功能(例如 Amazon Bedrock 知识库和 Amazon Bedrock Guardrails)与通过 SageMaker JumpStart 部署的模型结合使用。
Amazon SageMaker JumpStart Amazon Bedrock Amazon Bedrock 知识库 Amazon Bedrock GuardrailsSageMaker JumpStart 通过提供完全可定制的解决方案以及一键部署和微调 400 多个流行的开放权重和专有生成式 AI 模型来帮助您开始使用机器学习 (ML)。 Amazon Bedrock 是一项完全托管的服务,提供单一 API 来访问和使用各种高性能基础模型 (FM)。它还提供了一系列构建生成式 AI 应用程序的功能。Amazon Bedrock Converse API 是一种运行时 API,它提供了适用于不同模型的一致接口。它允许您使用 Amazon Bedrock 中的高级功能,例如游乐场、护栏和工具使用(函数调用)。
Amazon Bedrock Converse APISageMaker JumpStart 长期以来一直是寻求部署最先进生成式 AI 模型的开发人员和数据科学家的首选服务。通过这种集成,您现在可以将在 SageMaker JumpStart 上托管模型的灵活性与 Amazon Bedrock 的完全托管体验相结合,包括高级安全控制、可扩展基础设施和全面的监控功能。
在本文中,我们将向您展示如何通过 SageMaker JumpStart 部署 FM、将它们注册到 Amazon Bedrock 以及使用 Amazon Bedrock API 调用它们。
解决方案概述
工具 包括护栏 支持的模型和模型功能 Bedrock Marketplace Amazon Bedrock Marketplace在本文中,我们将介绍以下步骤:
RetrieveAndGenerate
Studio
Action