详细内容或原文请订阅后点击阅览
赋予人工智能监控自身思维过程的能力可以帮助它像人类一样思考
当今最好的人工智能系统并不能很好地掌握自己的思维过程，但新模型可能会让它们利用元认知
来源:LiveScience您是否有过这样的经历：把一个句子读了好几遍却发现还是不明白？正如许多即将入学的大学新生所学到的那样，当你意识到自己在原地踏步时，就该改变你的方法了。
这个过程，意识到某些事情不起作用，然后改变你正在做的事情，是元认知或思考思考的本质。
它是你的大脑监控自己的思维、识别问题并控制或调整你的方法。事实上，元认知是人类智能的基础，直到最近，元认知在人工智能系统中还没有得到充分研究。
我和我的同事 Charles Courchaine、Hefei Qiu 和 Joshua Iacoboni 正在努力改变这一现状。我们开发了一个数学框架，旨在允许生成式人工智能系统，特别是像 ChatGPT 或 Claude 这样的大型语言模型，来监控和调节它们自己的内部“认知”过程。从某种意义上说，你可以将其视为给生成式人工智能一种内心独白，一种评估自身信心、发现困惑并决定何时更深入地思考问题的方法。
为什么机器需要自我意识
当今的生成式人工智能系统功能非常强大，但从根本上来说是无意识的。他们在生成回复时并没有真正了解自己的回复可能有多自信或困惑，是否包含相互冲突的信息，或者某个问题是否值得额外关注。当生成式人工智能无法识别自身的不确定性可能会产生严重后果时，这种限制就变得至关重要，特别是在医疗诊断、财务建议和自动驾驶汽车决策等高风险应用中。
发展这种能力需要元认知，它既涉及通过自我意识监控自己推理的能力，又涉及通过自我调节控制反应的能力。
将世界上最迷人的发现直接发送到您的收件箱。