AI聊天机器人令人惊讶的能量足迹

它很重要的是:AI Chatbots令人惊讶的能量足迹揭示了日常AI的使用如何驱动全球范围内的大量功耗。

来源:人工智能+

AI Chatbots令人惊讶的能源足迹提出了许多用户可能忽略的关键问题。每次您将问题输入聊天机器人,例如Chatgpt,都会有一个隐藏的成本:能源。似乎与AI的快速,无缝的对话实际上依赖于消耗大量电力的大规模计算基础架构。随着收养的迅速增长,科学家和政策研究人员发现,这些AI相互作用的环境影响可能与传统的云服务和数据中心的能源使用相匹配,甚至超过传统的能源。本文探讨了AI推理的功能,什么推动其能源使用以及技术领域如何转向更可持续的AI未来。

关键要点

    ai聊天机器人查询每次互动的能量更多。大多数持续的能源使用来自推断(培训后使用该模型),不仅是培训。越来越多的聊天机器人的使用可能会导致小型国家或国家数据系统可比性可比性。
  • AI聊天机器人查询每次交互的能量更多。
  • 大多数持续的能源使用都来自推论(训练后使用模型),而不仅仅是培训。
  • 广泛的聊天机器人使用可能会导致能源需求与小国或国家数据系统相当。
  • 正在探索技术进步和基础设施变化,以缩小AI的碳和能源成本。
  • AI功耗的规模

    训练与推理:能量进行

    许多人认为训练AI模型需要最大的能量。培训的确涉及大量使用计算资源,通常数周的24/7全天候运行成千上万的GPU。即便如此,培训还是一次性活动。继续消耗能量的是推断。每当使用训练有素的模型回答新问题或过程输入时,就会发生这种情况。