使用 Amazon Bedrock 无服务器功能和 Amazon SageMaker 训练模型解锁经济高效的 AI 推理
Amazon Bedrock 是一项完全托管的服务，它通过单一 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon 等领先 AI 公司的高性能基础模型 (FM)，以及一系列广泛的功能，用于构建具有安全性、隐私性和负责任 AI 的生成式 AI 应用程序。在这篇文章中，我将向您展示如何将 Amazon Bedrock（及其完全托管的按需 API）与您的 Amazon SageMaker 训练或微调模型结合使用。
来源:亚马逊云科技 _机器学习在本文中，我将向您展示如何将 Amazon Bedrock（及其完全托管的按需 API）与您的 Amazon SageMaker 训练或微调模型结合使用。
Amazon Bedrock Amazon SageMakerAmazon Bedrock 是一项完全托管的服务，它通过单个 API 提供来自领先 AI 公司（例如 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon）的多种高性能基础模型 (FM)，以及一系列广泛的功能，用于构建具有安全性、隐私性和负责任 AI 的生成式 AI 应用程序。
以前，如果您想在 Amazon Bedrock 中使用自己的自定义微调模型，您要么必须在 SageMaker 中自行管理推理基础设施，要么直接在 Amazon Bedrock 中训练模型，这需要昂贵的预配置吞吐量。
借助 Amazon Bedrock 自定义模型导入，您可以使用 Amazon SageMaker JumpStart 在 SageMaker 中训练或微调的新模型或现有模型。您可以将支持的架构导入 Amazon Bedrock，从而可以通过 Amazon Bedrock 完全托管的调用模型 API 按需访问它们。
Amazon Bedrock 自定义模型导入 Amazon SageMaker JumpStart解决方案概述
在撰写本文时，Amazon Bedrock 支持从以下架构导入自定义模型：
导入自定义模型- MistralFlanMeta Llama 2 和 Llama 3
对于这篇文章，我们使用 Hugging Face Flan-T5 基础模型。
Hugging Face Flan-T5 Base在以下部分中，我将引导您完成在 SageMaker JumpStart 中训练模型并将其导入 Amazon Bedrock 的步骤。然后，您可以通过 Amazon Bedrock 游乐场与您的自定义模型进行交互。
先决条件
开始之前，请验证您拥有具有 Amazon SageMaker Studio 和 Amazon Bedrock 访问权限的 AWS 账户。
Amazon SageMaker Studio如果您还没有 SageMaker Studio 实例，请参阅启动 Amazon SageMaker Studio 以获取创建实例的说明。
启动 Amazon SageMaker Studio JumpStart 训练 数据