nOps 如何利用 Amazon Bedrock AgentCore 将 FinOps 代理的交付速度提高 75%

nOps 在 Amazon Bedrock AgentCore 上重建了 Clara FinOps AI 代理,取代了运行 LangChain 和 LangGraph 的自管理 Amazon EKS 堆栈。此举将生产时间缩短了 75%(从 10-12 个月缩短到 4 个月),提高了响应质量,减少了运营开销,同时通过 Databricks Lakehouse Metric Views 控制分析。

来源:亚马逊云科技 _机器学习

nOps 是一种人工智能驱动的云优化解决方案,最近通过过渡到 Amazon Bedrock AgentCore 重新构想了其财务运营 (FinOps) 分析功能。 Amazon Bedrock AgentCore 是一项使用任何框架或模型大规模构建、连接和优化代理的服务。新的基础帮助 nOps 更好地为客户提供跨 Amazon Web Services (AWS)、Google Cloud Platform (GCP) 和 Microsoft Azure 管理承诺优化的服务。通过持续优化预留实例和 AWS Savings Plans 等承诺,nOps 可以帮助团队最大限度地节省成本、降低风险并自动减轻手动 FinOps 的运营负担。如今,nOps 为客户管理的云支出超过 40 亿美元。

在这篇文章中,我们将解释 nOps 如何使用 Amazon Bedrock AgentCore、Databricks Lakehouse Metric Views、Databricks Lakebase、Amazon DynamoDB 和 Vercel 转变我们的分析和代理体验,以加速产品交付、提高响应质量并降低运营复杂性。

扩展 FinOps AI 超越以 API 为中心的基础设施的限制

随着我们扩大产品组合和客户群,基础设施、前端和后端团队需要支持日益复杂的分析工作流程,同时保持高可靠性和多租户隔离。现有的基础设施模式带来了摩擦:

  • 响应延迟和不一致:来自基于 API 的数据访问的长上下文消息增加了延迟并降低了响应一致性。
  • 系统复杂性:多个编排和可观察层增加了系统复杂性。
  • 创新拖累:工程时间越来越多地被基础设施维护而非产品创新所消耗。
  • “我们试图在基础设施之上构建先进的人工智能功能,但这些功能并不是为分析驱动的代理而设计的,这使得迭代缓慢、复杂且容易出现错误。”

    — 乔丹斯坦

    当前状态

    解决方案概述

    Web 应用程序