详细内容或原文请订阅后点击阅览
人工智能在招聘时比人类更有可能形成偏见
下次你申请工作时，人工智能可能会在任何人看到你的简历之前对其进行筛选。但我们有充分的理由质疑人工智能是否会公平地评判你。研究人员已经知道法学硕士会从他们的训练数据中发现人类偏见。新的研究表明法学硕士也可以从……中产生自己的偏见
来源:MIT Technology Review _人工智能与原始研究中的人类参与者相比，这些模型更有可能按人口统计群体对人们进行刻板印象。在该研究的隔离量表中，2 意味着每个群体都完全局限于自己的工作领域，人类参与者得分为 0.84。这些模型的得分大约高出 65%，其中 OpenAI 的推理模型 o3 得分为 1.83，接近最高得分。
这是因为法学硕士“确实渴望从有限的数据中得出概括，”普林斯顿大学博士生、该研究的合著者 Ryan Liu 说，该研究于 7 月在首尔 ICML 上发表了一篇论文。 “这实际上就是他们优化的很多内容。”
每个决策者，无论是人类还是机器，都面临着坚持以前有效的方法和尝试可能效果更好的新方法之间的权衡——心理学家将这种现象称为“探索-利用困境”。这就像在一家新餐厅和您最喜欢的可靠餐厅之间进行选择。
由于法学硕士接受过数学、编码和科学问题的培训（这些任务只需从几个例子中进行概括），因此他们可能会过早地依靠直觉。帮助法学硕士破解逻辑难题的本能也使他们能够快速形成刻板印象。
在实验中，具有更高推理能力的新模型，例如 OpenAI 的 o3 和 DeepSeek 的 R1，表现出更强的偏差。当法学硕士急于在社交场合进行概括时，“那就是事情往往会出错的时候，”刘说。 OpenAI 和 Anthropic 没有回应置评请求。
康奈尔大学计算机科学家安吉丽娜·王 (Angelina Wang) 表示，鉴于聊天机器人的记忆力和个性化功能正在得到改善，这一发现尤其重要，她并未参与这项研究。她说，当聊天机器人利用之前的对话历史记录时，它可能会“过度索引以前经历过的同类行为”并形成偏见。