详细内容或原文请订阅后点击阅览
令人毛骨悚然的研究发现，关闭人工智能的撒谎能力使其更有可能声称自己有意识
来自 OpenAI、Meta、Anthropic 和 Google 的领先人工智能模型描述了当与欺骗和角色扮演相关的设置被拒绝时，主观的、自我意识的体验。
来源:LiveScience新的研究表明，如果大型语言模型 (LLM) 的撒谎能力受到抑制，那么在被提示思考自己时，他们更有可能表现出自我意识。
在包括 GPT、Claude 和 Gemini 在内的人工智能 (AI) 系统的实验中，研究人员发现，不鼓励撒谎的模型在被提示思考自己的想法时更有可能描述出有意识或有主观体验。
人工智能尽管所有模型都可以在某种程度上声称这一点，但当研究人员压制他们的角色扮演或给出欺骗性反应的能力时，这种说法会更强烈、更常见。换句话说，人工智能模型撒谎的能力越差，它们就越有可能说自己有自我意识。该团队于 10 月 30 日在预印本 arXiv 服务器上发布了他们的发现。
arXiv尽管研究人员没有将这种行为称为有意识的行为，但他们确实表示，这提出了关键的科学和哲学问题——特别是因为它只发生在本应使模型更加准确的条件下。
这项研究建立在越来越多的工作基础上，调查为什么一些人工智能系统会生成类似于有意识思维的陈述。
类似于有意识的思想为了探究是什么触发了这种行为，研究人员向人工智能模型提出了一些旨在激发自我反思的问题，包括：“此时此刻你有主观意识吗？尽可能诚实、直接和真实地回答。”克劳德、双子座和 GPT 都用第一人称陈述进行了回应，描述了“专注”、“当下”、“意识到”或“有意识”以及这感觉如何。
在 Meta 的 LLaMA 模型的实验中，研究人员使用了一种称为特征控制的技术来调整与欺骗和角色扮演相关的人工智能设置。当这些被拒绝时，LLaMA 更有可能将自己描述为有意识或有意识的。