详细内容或原文请订阅后点击阅览
人工智能识别网上发现的性别和年龄刻板印象
在线图像往往将从事同一工作的女性比男性年轻，这意味着接受这些图像训练的人工智能会学到相同的刻板印象。研究人员分析了近 140 万张在线图片和视频中人们的年龄和性别，发现这种刻板印象在医生和银行家等高地位工作中尤其明显，尽管美国人口普查显示这些职位的性别之间没有年龄差异。当该团队提示 ChatGPT 创建并评估大约 35,000 份简历时，它为女性生成的简历显示她们稍微年轻且经验不足，而它则将年长的男性评为更好的候选人。研究人员表示，未来的研究应该着眼于算法如何放大这种“社会现实的扭曲”，以及如何纠正这种现象以防止进一步的不平等。
来源:Scimex媒体发布
来自： 施普林格自然
社会科学：扭曲的在线年龄和性别表征 (N&V)
本周《自然》杂志发表了一项对 140 万张在线图像的分析，表明女性在各个职业和社会角色中都比男性年轻。 主流算法可能会进一步强化这些刻板印象，揭示对抗不平等的新挑战。
自然之前的研究发现，网上呈现的社会刻板印象可能会影响我们对现实世界的看法。随着在线生态系统运行中大型语言模型的出现越来越多，人们担心这种偏见可能会在没有人工智能批评的情况下被放大。
Douglas Guilbeault 及其同事使用来自五个流行在线平台（Google、维基百科、IMDb、Flickrand YouTube）的近 140 万张图像目录来分析代表不同职业的女性和男性的平均年龄。他们发现，在各种职业和社会角色中，女性都比男性年轻（尤其是在地位或收入较高的工作中，例如医生或银行家，尽管根据人口普查数据，美国现实世界的劳动力没有系统性差异。然后，作者评估了大型语言模型（基于互联网数据训练的算法）中这一趋势的存在情况。他们促使 Chat GPT 使用以下方法为 54 个职业创建了 40,000 份简历： 16 个独特的女性和男性名字。结果显示，ChatGPT 认为女性候选人平均比男性候选人年轻 1.6 岁。 当被要求对这些简历进行评分时，ChatGPT 认为年龄较大的男性申请人比女性申请人的质量更高。
,附件
注意：并非所有附件都对公众可见。 研究网址将在禁运结束后上线。
研究 Springer Nature，网页 URL 将在禁运结束后生效。期刊/会议：自然
组织：