ChatGPT 对具有暗示残疾的资历的简历有偏见——但它可以改进
华盛顿大学的研究人员发现，ChatGPT 对拥有残疾相关荣誉和证书（如“汤姆·威尔逊残疾领导奖”）的简历的排名始终低于没有这些荣誉和证书的简历。但当研究人员根据书面说明定制该工具时，指示其不要歧视残疾人，该工具减少了除一种残疾之外所有测试对象的这种偏见。
来源:华盛顿大学工程 | 新闻稿 | 研究 | 技术
工程 新闻稿 研究 技术2024 年 6 月 21 日
ChatGPT 对带有暗示残疾的资历的简历有偏见——但它可以改进
华盛顿大学的研究人员发现，ChatGPT 对具有残疾相关荣誉和资历（例如“汤姆·威尔逊残疾领导奖”）的简历的排名始终低于没有这些荣誉和资历的简历。但是，当研究人员根据书面说明对该工具进行定制，指示其不要歧视残疾人时，该工具减少了除一种残疾之外的所有残疾的偏见。Solen Feyissa/Unsplash
Solen Feyissa/Unsplash去年，华盛顿大学研究生 Kate Glazko 在寻找研究实习机会时注意到招聘人员在网上发布消息称，他们使用了 OpenAI 的 ChatGPT 和其他人工智能工具来总结简历并对候选人进行排名。几十年来，自动筛选一直是招聘中的常见做法。然而，华盛顿大学保罗·G·艾伦计算机科学与工程学院的博士生 Glazko 研究了生成式人工智能如何复制和放大现实世界的偏见——例如对残疾人的偏见。她想知道，这样的系统如何对暗示某人有残疾的简历进行排名？
几十年来一直是招聘中的常见做法 Glazko 生成式 AI 如何复制和放大现实世界的偏见 针对残疾人在一项新研究中，华盛顿大学的研究人员发现，ChatGPT 始终将获得残疾相关荣誉和证书（例如“汤姆·威尔逊残疾领导奖”）的简历排名低于没有这些荣誉和证书的简历。当被要求解释排名时，该系统吐出了对残疾人的偏见。例如，它声称获得自闭症领导奖的简历“不太强调领导角色”——暗示自闭症患者不是好领导者的刻板印象。
自闭症患者不是好领导者的刻板印象 它的发现 Jennifer Mankoff 健全主义 。