Estimated关键词检索结果

亚马逊云科技 _机器学习
2026年3月12日 21:20

利用 TTFT 和估计配额消耗的新 CloudWatch 指标提高 Amazon Bedrock 上推理工作负载的运营可见性

Improve operational visibility for inference workloads on Amazon Bedrock with new CloudWatch metrics for TTFT and Estimated Quota Consumption

今天，我们宣布针对 Amazon Bedrock 推出两个新的 Amazon CloudWatch 指标：TimeToFirstToken 和 EstimatedTPMQuotaUsage。在这篇文章中，我们将介绍它们的工作原理以及如何设置警报、建立基线以及使用它们主动管理容量。