详细内容或原文请订阅后点击阅览
AI 能源使用：新工具显示哪种模型消耗最多电量以及原因
AI 用户和开发人员现在可以使用开源软件和密歇根大学开发的在线排行榜来测量各种 AI 模型完成任务所消耗的电量。
来源:密歇根大学软件可以帮助开发人员评估 AI 模型的能源使用情况，这对于降低成本和减轻电网压力是必要的
AI 用户和开发人员现在可以使用开源软件和密歇根大学开发的在线排行榜来测量各种 AI 模型完成任务所消耗的电量。
公司可以下载该软件来评估在私有硬件上运行的私有模型。虽然该软件无法评估在私人数据中心的专有人工智能模型上运行的查询的能源成本，但它允许密歇根大学工程师测量开放式人工智能模型所使用的功率，其中底层参数是公开的。电源要求可以在本月更新的在线排行榜上查看。他们的结果揭示了人工智能能源使用如何随模型设计和实施而变化的趋势。
“如果你想优化能源效率并最大程度地减少对环境的影响，了解模型的能源需求至关重要，但评估人工智能的流行基准忽略了这方面的性能，”计算机科学与工程副教授、描述该软件的研究的通讯作者莫沙拉夫·乔杜里 (Mosharaf Chowdhury) 说。
明智决策的工具
研究人员测量了几种不同任务的能源使用情况，包括聊天、视频和图像生成、问题解决和编码。对于某些任务，开放权重模型的能源需求可能会相差 300 倍。根据研究结果，Chowdhury 的团队开发了教程，供开发人员学习如何测量和降低模型的能源成本。他们在 12 月的神经信息处理系统 (NeurIPS) 会议上发布了最新的教程。
为什么某些 AI 模型消耗更多电量？
这项研究还得到了 VMware、Mozilla 基金会、思科、福特、GitHub、Salesforce、Google 和 Kwanjeong 教育基金会的资助和捐赠的支持。