详细内容或原文请订阅后点击阅览
使用 SageMaker AI 和 Bedrock AgentCore 构建代理工作流程
了解如何将 Amazon SageMaker AI 上与 OpenAI 兼容的终端节点与 Amazon Bedrock AgentCore 运行时相结合,以构建多代理工作流程,其中每个专业代理都使用最适合其工作的模型。这篇文章还展示了如何从 Strands Agent 默认情况下不检测的 SageMaker 端点获取令牌级别的可观测性。
来源:亚马逊云科技 _机器学习构建代理工作流程的一个常见挑战是将托管基础模型 (FM) 与您自己的成本优化或特定于域的模型混合在一起,而无需重写代理框架来完成此任务。在本文中,我们将向您展示如何将 Amazon SageMaker AI 上与 OpenAI 兼容的终端节点与 Amazon Bedrock AgentCore 运行时(Amazon Bedrock AgentCore 的一项功能及其托管部署)相结合。专业代理可以协作完成复杂的任务,同时每个代理都使用最适合其工作的模型。这种组合可以在单个生产就绪架构中为您提供成本优化、数据驻留和模型灵活性。
我们将逐步介绍如何在 Amazon SageMaker AI 上部署 Qwen 3.5 9B,将其与 Amazon Bedrock 上的模型一起集成到 Strands Agents 多代理系统中,并将整个工作流程传送到 Amazon Bedrock AgentCore 运行时。重点是集成机制,包括如何从 SageMaker 端点获取令牌级别的可观察性,而 Strands 默认情况下不提供这种功能。
解决方案概述
该架构通过单个 Amazon Bedrock AgentCore 容器连接三个模型托管路径:
Amazon Bedrock 模型的可用性因 AWS 区域而异。请参阅 Amazon Bedrock 中 AWS 区域支持的型号。
图 1:跨 Amazon Bedrock 和 Amazon SageMaker AI 的多代理工作流程架构
先决条件
您必须满足以下先决条件才能完成这篇文章。
pip install sagemaker-core openai httpxstrands-agents[otel] yfinance pydantic bedrock-agentcore。
