详细内容或原文请订阅后点击阅览
首先,Google发布了有关AI提示使用多少能量
Google刚刚发布了一份技术报告,详细介绍了其双子座应用在每个查询中使用的能量。总体而言,中位提示(属于能源需求范围的中间)的中位数提示可用于0.24瓦的电力,这相当于运行标准微波炉大约一秒钟。该公司还提供了平均估计…
来源:MIT Technology Review _人工智能今年早些时候,麻省理工学院技术评论(MIT Technology Review)发表了有关AI和能源的综合系列,届时,主要的AI公司都不会透露其每日能源的使用。 Google的新出版物终于可以在研究人员和分析师长期希望的窗帘后面窥视。
麻省理工学院技术评论 发表了有关AI和Energy的综合系列这项研究集中于广泛的能源需求,不仅包括运行模型的AI芯片所使用的功率,还包括支持该硬件所需的所有其他基础架构。
“我们希望在包括的所有内容中都非常全面,” Google首席科学家Jeff Dean在对MIT Technology Review的独家采访中有关新报告的独家采访时说。
这很重要,因为在此测量中,AI芯片(在这种情况下,Google的定制TPU,该公司的专有等效性GPU)仅占0.24瓦小时的总电力需求的58%。
支持AI特异性硬件所需的设备所需的另一个大部分能量:主机的CPU和内存占所用总能量的25%。如果某些东西发生故障,则还需要备份设备 - 这些闲置机占总数的10%。最后的8%来自与运行数据中心相关的间接费用,包括冷却和电源转换。
密歇根大学教授,ML.Energy排行榜的负责人之一Mosharaf Chowdhury说,此报告显示了行业投入对能源和AI研究的价值。
ml。能源排行榜Google的数字并不代表提交给双子座的所有查询:该公司处理了各种各样的请求,并且该估算值是根据中位能源需求计算得出的,该估计值属于可能的查询范围。