详细内容或原文请订阅后点击阅览
平衡准确性和排放:AI
每当您向人工智能提出一个问题时,就会有一个令人惊讶的成本:碳排放。
来源:宇宙杂志每当您向人工智能提出一个问题时,就会有一个令人惊讶的成本:碳排放。
在像chatgpt这样的AI可以做出回应之前,它首先将您的输入分解为“令牌” - 单词,单词的一部分或标点符号之类的一小部分文本。这些令牌被变成数字,模型可以使用数十亿个称为参数的内部设置来处理,从而帮助其识别模式,建立连接并预测接下来会发生什么。这些预测一次是一个令牌,然后组装成最终答案。
参数整个过程都消耗了能量。而现在,德国的研究人员已经计算出不同语言模型(LLMS)回答问题时释放了多少CO₂。
llms是诸如Chatgpt,Google Gemini和其他AI助手之类的工具背后的软件。他们已经接受了大量文本的培训,以学习如何智能读写和响应。
“如果用户知道其AI生成的输出的确切成本,例如随便将自己变成一个动作人物,那么他们可能会对何时以及如何使用这些技术更加选择性和周到。”
研究人员通过询问各种主题的1,000个基准问题来测试14个LLM。 然后,他们计算了相关的二合一排放,揭示了“简洁”模型与产生冗长的合理响应的模型之间的巨大鸿沟。
“受过质疑的LLM的环境影响由他们的推理方法强烈决定,明确的推理过程大大推动了能源消耗和碳排放,” HochschuleMünchen应用科学科学的Hochschule Maximilian Dauner说。 “我们发现,支持推理的模型比简明响应模型高达50倍。”
表现最好的模型Cogito(具有700亿个参数)的精度为84.9%,但发射的CO₂比相似大小的模型高三倍,该模型给出了更短的答案。
边界。