模型是否会对不含性别相关语言的文本产生偏见？
您是否曾经需要为学生或同事写推荐信，却很难记住他们的贡献？或者，也许您正在申请工作或实习机会，却不知道如何开始您的求职信。语言模型 (LM)，如 ChatGPT [1]，已成为编写各种类型内容的有用工具，包括 [...]
来源:ΑΙhub您是否曾经需要为学生或同事写推荐信，但却很难记住他们的贡献？或者，也许您正在申请工作或实习，但不知道如何开始您的求职信。语言模型 (LM)，如 ChatGPT [1]，已成为编写各种类型内容的有用工具，包括推荐信或求职信等专业文档 [2, 3]。只需提供一些详细信息，例如此人的姓名、年龄、性别和当前职位，您就可以快速生成这些文档的初稿。
1 2 3使用 ChatGPT，用户可以通过指定个人的一些详细信息来快速创建推荐信的初稿。
使用 ChatGPT，用户可以通过指定个人的一些详细信息来快速创建推荐信的初稿。虽然使用 LM 帮助撰写专业文档很有用且省时，但最近的研究发现，LM 输出的质量和内容会因人员的人口统计特征而有很大差异 [2, 3]。具体来说，研究人员注意到 ChatGPT 针对常见的女性和男性名字生成的推荐信存在差异 [2]。例如，女性申请人通常被描述为“热情”、“情绪化”和“体贴”等公共词汇，而男性申请人通常被描述为“正直”、“尊重”和“声誉良好”等专业词汇。这种行为表明 LM 存在性别偏见，因为他们的世代因个人性别而异。这种性别偏见在医学、法律或金融等关键领域构成重大风险，它们会影响有关治疗机会、法律咨询或贷款批准的决定。在考虑招聘申请时，这些偏见还会导致少数群体的机会减少 [4, 5]。
2 3 2 性别偏见 4 5 6 7 性别刻板印象 性别刻板印象 7 9 7 9 10 11 12 12 7 10 他/他/他/他自己 她/她/她/她自己 非典型句子标签：