机构名称：
¥ 1.0
AI 效能是指 AI 模型的预期执行程度，而 AI 训练效率是指训练 AI 模型以达到其所需性能水平所需的时间和资源量。例如，Meta 的 Llama 2 模型的预训练时间范围从 70 亿参数模型的 184K GPU 小时到 700 亿参数模型的 1.7M GPU 小时。任何降低 GPU 处理速度的低效率都会增加模型训练时间。同样，增加或减少参数或 GPU 的数量都会影响训练时间。增加计算是减少训练时间的合理方法，但 GPU 价格昂贵，占 AI 训练成本的 80%。研究这些成本的瞻博网络团队估计，由 8 个 GPU 驱动的 AI 训练服务器的成本可能超过 400,000 美元。
人工智能数据中心联网
主要关键词
相关文件推荐
