通过 Amazon Bedrock 项目管理 AI 成本

借助 Amazon Bedrock Projects,您可以将推理成本归因于特定工作负载,并在 AWS Cost Explorer 和 AWS Data Exports 中对其进行分析。在这篇文章中,您将学习如何端到端地设置项目,从设计标记策略到分析成本。

来源:亚马逊云科技 _机器学习

随着组织在 Amazon Bedrock 上扩展其 AI 工作负载,了解推动支出的因素变得至关重要。团队可能需要执行退款、调查成本峰值并指导优化决策,所有这些都需要在工作负载级别进行成本归因。

借助 Amazon Bedrock Projects,您可以将推理成本归因于特定工作负载,并在 AWS Cost Explorer 和 AWS Data Exports 中对其进行分析。在这篇文章中,您将学习如何端到端地设置项目,从设计标记策略到分析成本。

Amazon Bedrock 项目和成本分配的工作原理

Amazon Bedrock 上的项目是代表工作负载(例如应用程序、环境或实验)的逻辑边界。要归因项目的成本,您可以附加资源标签并在 API 调用中传递项目 ID。然后,您可以激活 AWS Billing 中的成本分配标签,以筛选、分组和分析 AWS Cost Explorer 和 AWS Data Exports 中的支出。

下图说明了端到端流程:

图 1:Amazon Bedrock 项目的端到端成本归因流程

注释:

  • Amazon Bedrock 项目支持 OpenAI 兼容 API:响应 API 和聊天完成 API。
  • 没有项目 ID 的请求会自动与您的 AWS 账户中的默认项目关联。
  • 先决条件

    要按照本文中的步骤操作,您需要:

    定义您的标记策略

    您附加到项目的标签将成为您可以在成本报告中过滤和分组的维度。我们建议您在创建第一个项目之前规划这些。常见的方法是按应用程序、环境、团队和成本中心进行标记:

    有关构建成本分配策略的更多指导,请参阅标记 AWS 资源的最佳实践。定义标签策略后,您就可以创建项目并开始分配成本。

    创建项目

    首先,安装所需的依赖项:

    $ pip3 安装 openai 请求

    使用您的标签分类创建一个项目:

    结论