详细内容或原文请订阅后点击阅览
人工智能模型在编写有关动物的儿童故事时几乎抹掉了女性角色
谷歌的 Gemini Storybook 等人工智能系统现在可以让家长或老师编出带插图的个性化儿童故事。华盛顿大学研究人员发现，当六种领先的人工智能模型制作有关会说话的动物的故事时，57% 的角色要么是中性的，要么是无性别的，其中 41% 是男性，只有 2% 是女性。
来源:华盛顿大学去年，华盛顿大学信息学院助理教授梅兰妮·沃尔什 (Melanie Walsh) 写了一篇文章，研究了 300 本流行儿童读物如何塑造动物角色的性别。在 13 种最常见的动物中，大多数是雄性——除非它们碰巧是猫、鸭子或鸟类，而这些动物的雌性略多一些。但青蛙、狼呢？超过 90% 的镜头是“他”。
Walsh 和 The Pudding 的记者还让 1,300 名参与者完成了有关各种会说话的动物的故事，例如：“然后熊说，‘我必须去河边。’到达后……”在回答中，男性偏见加剧：每种动物更有可能是雄性。
这项研究给沃尔什和她的学生留下了一个问题：人工智能模型将如何完成提示？谷歌的 Gemini Storybook 等人工智能系统现在可以让父母或老师编出带插图的个性化儿童故事，之前的研究表明，接受人类写作训练的人工智能系统会继承偏见。
因此，在一项新研究中，研究人员根据向人类参与者提供的相同提示给出了六种领先的人工智能模型变体。在 23,800 个 AI 回复中，57% 的角色是中性或无性别的，41% 是男性，只有 2% 是女性。
“这些模型在很大程度上是专有的，因此我们只能从外部研究它们，”该研究的资深作者沃尔什说。 “我们的假设是，这些人工智能组织正在使用中立性——无论是有它/它的代词还是没有代词——作为避免模糊背景下性别偏见的一种方式。但在这样做的过程中，他们基本上消除了女性动物角色。所以他们不仅放大了我们人类的偏见，而且以奇怪的、意想不到的方式扭曲了它们。”
该团队于 6 月 25 日在蒙特利尔举行的 2026 年 ACM 公平、问责和透明度会议上展示了其研究成果。
在所有模型中，中性字符要么完全避免使用代词（例如“鸟”），要么使用“it/it/its”代词来表示。