使用 AgentCore Observability 监控本地和多云 AI 代理

为在 AWS 外部运行的 AI 代理设置 Amazon Bedrock AgentCore Observability:本地、GCP、Azure 或开发人员计算机上。本演练使用 AWS Distro for OpenTelemetry (ADOT) 和 IAM 凭证将会话跟踪、跨度指标和令牌使用情况路由到同一 AgentCore Observability 仪表板。

来源:亚马逊云科技 _机器学习

当您部署使用 Strands Agents、LangGraph 和 CrewAI 等框架构建的 AI 代理时,您需要可观察其性能。无论它们是在 Amazon Elastic Kubernetes Service (Amazon EKS)、Amazon Elastic Container Service (Amazon ECS)、AWS Lambda、本地还是其他云提供商(例如 Google Cloud Platform (GCP) 或 Microsoft Azure)上运行,都是如此。

Amazon Bedrock AgentCore 是一个使用任何框架或模型大规模构建、连接和优化代理的平台。尽管 Amazon Bedrock AgentCore Observability 是 Amazon Bedrock AgentCore 的一项功能,可提供本地云监控工具无法提供的原生跟踪、监控和分析功能,但它本身仅支持部署在 AWS 云中的 AgentCore 运行时上的代理。如果您的代理在其他地方运行,您需要额外的配置才能将遥测数据发送到仪表板。

在这篇文章中,我们将向您展示如何为在 AWS 外部运行的代理设置可观察性。您将了解如何在非 AWS 环境中配置 AWS Distro for OpenTelemetry (ADOT) 自动检测、将遥测数据路由到 AgentCore Observability 仪表板以及端到端验证设置。

下图显示了端到端可观测性管道以及遥测数据如何从代理流向 AgentCore 可观测性仪表板。

图 1:从代理到 AgentCore 可观测性仪表板的端到端可观测性管道

解决方案概述

该解决方案使用与代理应用程序一起运行的 AWS Distro for OpenTelemetry (ADOT)。 ADOT 自动检测代理框架并捕获生成式 AI 语义约定范围,然后使用 SigV4 身份验证和 AWS Identity and Access Management (IAM) 凭证将遥测数据直接导出到 Amazon CloudWatch OpenTelemetry Protocol (OTLP) 终端节点。

将遥测数据从 AI 代理发送到 Amazon Bedrock AgentCore Observability 需要三个核心组件:

先决条件

在开始之前,请验证您是否拥有:

  • AWS 账户:
  • 清理