使用 Amazon Bedrock 和 AWS Step Functions 编排生成式 AI 工作流
本博文讨论了如何使用 AWS Step Functions 高效协调多步骤生成式 AI 工作流,例如并行化对 Amazon Bedrock 的 API 调用以快速收集已提交问题列表的答案。我们还介绍了使用检索增强生成 (RAG) 来优化输出并提供额外的精度,以及通过 Step Functions 进行的其他可能的集成。
来源:亚马逊云科技 _机器学习各行各业的公司都在利用生成式 AI 的力量来解决各种用例。云提供商已经认识到需要通过 API 调用提供模型推理,从而大大简化应用程序中 AI 的实施。虽然单个 API 调用可以解决简单的用例,但更复杂的用例可能需要使用多个调用和与其他服务的集成。
生成式 AI这篇文章讨论了如何使用 AWS Step Functions 高效协调多步骤生成式 AI 工作流程,例如并行化对 Amazon Bedrock 的 API 调用以快速收集已提交问题列表的答案。我们还谈到了使用检索增强生成 (RAG) 来优化输出并提供额外的精度层,以及通过 Step Functions 进行的其他可能的集成。
AWS Step Functions Amazon Bedrock 检索增强生成Amazon Bedrock 和 Step Functions 简介
Amazon Bedrock 是一种完全托管的服务,它通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon 等领先 AI 公司的高性能基础模型 (FM) 选择,以及构建具有安全性、隐私性和负责任的 AI 的生成式 AI 应用程序所需的广泛功能。使用 Amazon Bedrock,您可以轻松试验和评估适合您用例的顶级 FM,使用微调和检索增强生成 (RAG) 等技术使用您的数据私下定制它们,并构建使用您的企业系统和数据源执行任务的代理。由于 Amazon Bedrock 是无服务器的,因此您无需管理任何基础设施,并且可以使用您熟悉的 AWS 服务安全地将生成式 AI 功能集成并部署到您的应用程序中。
更快地诊断和调试问题使用映射功能编排并行任务
内联映射
分布式映射
Amazon Simple Storage Service{}
.$