详细内容或原文请订阅后点击阅览
平衡准确性和排放：AI
每当您向人工智能提出一个问题时，就会有一个令人惊讶的成本：碳排放。
来源:宇宙杂志每当您向人工智能提出一个问题时，就会有一个令人惊讶的成本：碳排放。
在像chatgpt这样的AI可以做出回应之前，它首先将您的输入分解为“令牌” - 单词，单词的一部分或标点符号之类的一小部分文本。这些令牌被变成数字，模型可以使用数十亿个称为参数的内部设置来处理，从而帮助其识别模式，建立连接并预测接下来会发生什么。这些预测一次是一个令牌，然后组装成最终答案。
参数整个过程都消耗了能量。而现在，德国的研究人员已经计算出不同语言模型（LLMS）回答问题时释放了多少CO₂。
llms是诸如Chatgpt，Google Gemini和其他AI助手之类的工具背后的软件。他们已经接受了大量文本的培训，以学习如何智能读写和响应。
“如果用户知道其AI生成的输出的确切成本，例如随便将自己变成一个动作人物，那么他们可能会对何时以及如何使用这些技术更加选择性和周到。”
研究人员通过询问各种主题的1,000个基准问题来测试14个LLM。 然后，他们计算了相关的二合一排放，揭示了“简洁”模型与产生冗长的合理响应的模型之间的巨大鸿沟。
“受过质疑的LLM的环境影响由他们的推理方法强烈决定，明确的推理过程大大推动了能源消耗和碳排放，” HochschuleMünchen应用科学科学的Hochschule Maximilian Dauner说。 “我们发现，支持推理的模型比简明响应模型高达50倍。”
表现最好的模型Cogito（具有700亿个参数）的精度为84.9％，但发射的CO₂比相似大小的模型高三倍，该模型给出了更短的答案。
边界。