详细内容或原文请订阅后点击阅览
人工智能表现出 CV 种族偏见，绝对没有人感到惊讶
尽管人工智能承诺会减少种族偏见，但这些模型似乎只会延续种族偏见。
来源:ZME科学自从 ChatGPT 等大型语言模型 (LLM) 被广泛使用以来，专家们就警告说，这些系统可能会延续甚至加剧现有的社会偏见。现在，一项新的研究证实了这一点：人工智能模型在招聘模拟中表现出对与白人相关的名字的强烈偏好，这引发了人们对其在延续歧视方面所扮演的角色的担忧。
二十年前，经济学家进行了一项具有里程碑意义的研究，他们向波士顿和芝加哥的公司发送了数千份虚构的求职申请。除了名字之外，这些申请完全相同——有些听起来像黑人，而有些听起来像白人。结果令人震惊：名字为白人的申请人收到的回电多 50%。
进行了一次具有里程碑意义的研究虽然随着时间的推移，差距已经缩小，但偏见仍然存在。今年的一项最新研究涉及发送 83,000 份虚假求职申请，发现回电率相差 10%。尽管人工智能承诺会减少人类偏见，但有迹象表明这些模型可能没有达到这一预期。
人工智能似乎不喜欢黑人申请人
华盛顿大学的研究人员使用 500 多个职位描述和 500 份简历测试了三个前沿的法学硕士。他们专注于九种职业，包括首席执行官、教师、会计师和工程师。
目的是评估人工智能系统是否青睐带有种族（黑人与白人）和性别（男性与女性）信号的简历。他们还分析了这些偏见是否会因交叉身份（例如黑人女性）而加剧。
尤其是黑人男性，处于明显的劣势。在某些情况下，黑人女性的名字完全被忽视，而白人男性候选人则受到青睐。黑人女性的名字表现稍好一些，但与白人相比仍然面临相当大的劣势。