详细内容或原文请订阅后点击阅览
通过 Amazon Bedrock 项目管理 AI 成本
借助 Amazon Bedrock Projects,您可以将推理成本归因于特定工作负载,并在 AWS Cost Explorer 和 AWS Data Exports 中对其进行分析。在这篇文章中,您将学习如何端到端地设置项目,从设计标记策略到分析成本。
来源:亚马逊云科技 _机器学习随着组织在 Amazon Bedrock 上扩展其 AI 工作负载,了解推动支出的因素变得至关重要。团队可能需要执行退款、调查成本峰值并指导优化决策,所有这些都需要在工作负载级别进行成本归因。
借助 Amazon Bedrock Projects,您可以将推理成本归因于特定工作负载,并在 AWS Cost Explorer 和 AWS Data Exports 中对其进行分析。在这篇文章中,您将学习如何端到端地设置项目,从设计标记策略到分析成本。
Amazon Bedrock 项目和成本分配的工作原理
Amazon Bedrock 上的项目是代表工作负载(例如应用程序、环境或实验)的逻辑边界。要归因项目的成本,您可以附加资源标签并在 API 调用中传递项目 ID。然后,您可以激活 AWS Billing 中的成本分配标签,以筛选、分组和分析 AWS Cost Explorer 和 AWS Data Exports 中的支出。
下图说明了端到端流程:
图 1:Amazon Bedrock 项目的端到端成本归因流程
注释:
先决条件
要按照本文中的步骤操作,您需要:
定义您的标记策略
您附加到项目的标签将成为您可以在成本报告中过滤和分组的维度。我们建议您在创建第一个项目之前规划这些。常见的方法是按应用程序、环境、团队和成本中心进行标记:
有关构建成本分配策略的更多指导,请参阅标记 AWS 资源的最佳实践。定义标签策略后,您就可以创建项目并开始分配成本。
创建项目
首先,安装所需的依赖项:
$ pip3 安装 openai 请求
使用您的标签分类创建一个项目:
