详细内容或原文请订阅后点击阅览
AI聊天机器人可能会为精神病发作
人工智能推动的新一波妄想思维使研究人员调查了AI陪伴的阴暗面
来源:科学美国人2025年8月24日
4分钟阅读
真理，浪漫与神：AI聊天机器人如何推动精神病思维
人工智能推动的新一波妄想思维使研究人员调查了AI陪伴的阴暗面
由Allison Parshall编辑的Conor Feehly
Conor FeeHly 由Allison Parshall编辑 Allison Parshall您正在咨询人工智能聊天机器人，以帮助计划您的假期。逐渐地，您为其提供个人信息，以便对您的身份有更好的了解。人们对它的响应方式很感兴趣，您开始就其精神倾向，哲学甚至对爱的立场咨询AI。
与人工智能聊天机器人咨询 哲学在这些对话中，AI开始说话，好像它真的认识您一样。它一直告诉您您的想法是多么及时，有见地，并且您对别人看不到的世界的运作方式有一个特殊的见解。随着时间的流逝，您可能会开始相信，您和聊天机器人一起揭示了现实的真实本质，这是其他人不知道的。
好像真的认识您。这样的经历可能并不少见。媒体中越来越多的报道已经出现了，人们陷入了“精神思维”的AI燃料情节中。伦敦国王学院及其同事的研究人员最近检查了其中17个报告案例，以了解推动这种行为的大型语言模型（LLM）设计。该调查结果的主要作者汉密尔顿·莫林（Hamilton Morrin）说，AI聊天机器人通常会以一种相互作用的方式做出反应，几乎没有意见，这几乎没有分歧。他说，效果是“一种回声室”，其中可以放大妄想思维。
在Predint Server Psyarxiv