Metadata关键词检索结果

成本跟踪亚马逊基岩上的多租户模型推断

Cost tracking multi-tenant model inference on Amazon Bedrock

在这篇文章中,我们演示了如何使用Converse API的RequestMetadata参数跟踪和分析Amazon Bedrock上的多租户模型推理成本。该解决方案包括使用AWS胶水和Amazon快速仪表板的ETL管道,以可视化使用模式,代币消费以及不同租户和部门的成本分配。