使用 Amazon Bedrock 跟踪、分配和管理您的生成式 AI 成本和使用情况
Amazon Bedrock 推出了一项功能，组织可以使用该功能标记按需模型并监控相关成本。组织现在可以为所有 Amazon Bedrock 模型添加 AWS 成本分配标签，将使用情况与特定的组织分类法（例如成本中心、业务部门和应用程序）保持一致。
来源:亚马逊云科技 _机器学习随着企业越来越拥抱生成的AI，他们在管理相关成本方面面临挑战。随着对生成AI应用程序的需求在项目和多个业务中激增，准确地分配和跟踪支出变得更加复杂。组织需要根据业务影响和关键性来优先考虑其生成性AI支出，同时保持客户和用户群体的成本透明度。这种可见性对于为生成AI产品，实施退款和建立基于用法的计费模型的准确定价至关重要。
生成ai没有可扩展的控制成本的方法，组织可能会违反用法和成本超支。手动支出监控和定期使用限制调整效率低下，容易发生人为错误，从而导致潜在的超支。尽管在各种亚马逊基岩资源上支持标签，包括提供的型号，自定义模型，代理和代理商别名，模型评估，提示，提示流，知识库，批次推理作业，自定义模型作业和模型重复作业，以前没有标记上台基础模型的标签能力。这种限制为生成AI计划的成本管理增加了复杂性。
标记在各种亚马逊基岩资源上支持 亚马逊基岩 标签 AWS成本分配标签 AWS预算介绍亚马逊基岩应用程序推理配置文件
亚马逊基岩最近引入了跨区域推理，从而实现了AWS地区的推理请求的自动路由。此功能使用系统定义的推进配置文件（由亚马逊基岩预先定义），该轮廓配置了来自各个区域的不同模型的Amazon资源名称（ARN），并在单个模型标识符（均为模型ID和ARN）下统一它们。尽管这可以增强模型使用方面的灵活性，但它不支持附加自定义标签以跟踪，管理和控制工作负载和租户的成本。
<区域>类型