详细内容或原文请订阅后点击阅览
按钮式探索者：如何认识到人工智能代理可以在一无所知的情况下做出惊人的事情
专家表示，人们必须认识到这些系统既可以完成超人的壮举，又可以犯很少有人会犯的错误。
来源:UCLA乍一看，这可能会让人工智能用户感到惊讶，他们对其精美的文章、代码库和几秒钟内生成的多步骤项目印象深刻。这些出色的人工智能系统如何应对这些简单的俄罗斯方块形状的谜题？
这种困惑意味着一个风险：人工智能融入日常生活的速度比人们理解它的速度还要快。
我们是认知心理学家，研究如何教授困难的概念。为了认识到当今人工智能代理系统的局限性和风险，人们必须认识到这些系统既可以完成超人的壮举，又可以犯很少有人会犯的错误。为此，我们提出了一种思考人工智能的新方法：将其视为按下按钮的探索者。
AI 心理模型
我们教授大学生，这是一群快速将人工智能工具融入他们日常生活的群体。这让我们有机会定期询问他们对人工智能的看法。答案差异很大。一名学生表示，OpenAI 或 Anthropic 的某人正在阅读并批准系统生成的每一条回复。另一位更简洁地说：“这很神奇。”
这些回答说明了理解人工智能的两种诱人的方式。在一个极端的情况下，人工智能被视为一个难以理解的黑匣子——一种强大但最终神秘的力量。另一方面，人们使用与理解其他人类相同的假设来解释它：它的输出反映了推理或判断。
令人担忧的是，随着用户获得更多与人工智能交互的经验，这些误解并不会消失，而且可能会得到强化。当人工智能表现良好时，它的输出可能会让人感觉像是理解或确认它确实像魔法一样的证据。这种表面上的成功让人们更难质疑该系统实际上在做什么。偏见可能看起来合乎逻辑，也可能不可避免。有害的行为可能看起来像是一种故意的选择，甚至是命运，就好像它不可能以任何其他方式发展一样。