使用 AWS Step Functions 工作流在 Amazon Bedrock 中自动执行模型自定义

大型语言模型已成为在各种业务用例中生成智能和细致入微的响应不可或缺的一部分。但是,企业通常具有独特的数据和用例,需要定制大型语言模型,超出其开箱即用的功能。Amazon Bedrock 是一项完全托管的服务,提供多种高性能基础模型 (FM) [...]

来源:亚马逊云科技 _机器学习

大型语言模型对于在各种业务用例中生成智能且细致入微的响应已成为不可或缺的。但是,企业通常具有独特的数据和用例,需要对大型语言模型进行自定义,超出其开箱即用的功能。Amazon Bedrock 是一项完全托管的服务,它通过单一 API 提供来自领先 AI 公司(如 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon)的多种高性能基础模型 (FM) 选择,以及构建具有安全性、隐私性和负责任的 AI 的生成式 AI 应用程序所需的广泛功能。为了实现安全且可扩展的模型定制,Amazon Web Services (AWS) 在 AWS re:Invent 2023 上宣布支持在 Amazon Bedrock 中自定义模型。这使客户能够使用他们自己的专有数据进一步预训练选定的模型,以根据他们的业务环境定制模型响应。自定义模型的质量取决于多种因素,包括训练数据质量和用于自定义模型的超参数。这要求客户执行多次迭代,以开发出最适合其需求的定制模型。

Amazon Bedrock Amazon Web Services (AWS) 在 Amazon Bedrock 中自定义模型

为了应对这一挑战,AWS 宣布了 Amazon Bedrock 与 AWS Step Functions 之间的原生集成。这使客户能够编排可重复和自动化的工作流程来定制 Amazon Bedrock 模型。

宣布 Amazon Bedrock AWS Step Functions

在本文中,我们将演示 Step Functions 如何帮助克服模型定制中的关键痛点。您将学习如何配置一个示例工作流程来编排模型训练、评估和监控。通过可重复的框架自动执行这些复杂任务可缩短开发时间,并释放 Amazon Bedrock 的全部价值以满足您的独特需求。

架构

超参数 用户指南 JSON 行 自定义BedrockModel