详细内容或原文请订阅后点击阅览
更快地估算 AI 功耗的方法
“EnergAIzer”方法可在几秒钟内生成可靠的结果，使数据中心运营商能够有效地分配资源并减少能源浪费。
来源:MIT新闻 - 人工智能根据劳伦斯伯克利国家实验室的数据，由于人工智能的爆炸性增长，预计到 2028 年，数据中心消耗的电力将占美国总电力的 12%。提高数据中心能源效率是科学家努力使人工智能更具可持续性的一种方法。
为了实现这一目标，来自 MIT 和 MIT-IBM Watson AI 实验室的研究人员开发了一种快速预测工具，可以告诉数据中心运营商在特定处理器或 AI 加速器芯片上运行特定 AI 工作负载会消耗多少电量。
他们的方法可以在几秒钟内产生可靠的功率估计，这与传统的建模技术不同，传统的建模技术可能需要数小时甚至数天才能产生结果。此外，他们的预测工具可以应用于广泛的硬件配置——甚至是尚未部署的新兴设计。
数据中心运营商可以利用这些估计在多个人工智能模型和处理器之间有效分配有限的资源，从而提高能源效率。此外，该工具还可以允许算法开发人员和模型提供商在部署新模型之前评估其潜在的能耗。
“人工智能可持续性挑战是我们必须回答的一个紧迫问题。因为我们的估算方法快速、方便，并提供直接反馈，我们希望它能让算法开发人员和数据中心运营商更有可能考虑减少能源消耗，”麻省理工学院博士后、该技术论文的主要作者 Kyungmi Lee 说道。
加快能源估算
在数据中心内，数千个强大的图形处理单元 (GPU) 执行操作来训练和部署 AI 模型。特定 GPU 的功耗将根据其配置和处理的工作负载而有所不同。
“软件开发人员使用的这些优化创建了一个规则的结构，这就是我们试图利用的，”Lee 解释道。
准确的评估