ChatGPT 中的语言偏见：语言模型强化了方言歧视

样本语言模型对不同英语和母语者反应的不同品种的反应。

Eve Fleisig，Genevieve Smith，Madeline Bossi，Ishita Rustagi，Xavier Yin和Dan Klein

eve fleisig Genevieve Smith Madeline Bossi Ishita Rustagi Xavier Yin Dan Klein chatgpt在与英语的人交流方面表现非常出色。但是谁的英语？ 只有15％的chatgpt用户来自美国，其中标准的美国英语为默认值。但是该模型也通常在人们说其他英语品种的国家和社区中使用。世界各地有超过10亿人讲的品种，例如印度英语，尼日利亚英语，爱尔兰英语和非裔美国人英语。 只有15％ 这些非“标准”品种的说话者经常在现实世界中面临歧视。他们被告知，他们的讲话方式是不专业或不正确的，被抹黑为证人，并否认住房，尽管大量研究表明所有语言品种同样复杂且合法。歧视某人说话的方式通常是歧视自己的种族，种族或国籍的代表。如果Chatgpt加剧这种歧视怎么办？ 不专业 不正确 被抹黑为证人 拒绝住房 广泛的 研究 为了回答这个问题，我们最近的论文研究了Chatgpt的行为如何响应不同的英语种类的文本。我们发现，CHATGPT响应对非“标准”品种表现出一致和普遍的偏见，包括增加刻板印象和贬低内容，较差的理解和屈从于响应。 我们最近的论文 我们的研究 结果 做 模型响应始终偏向非“标准”品种。默认的GPT-3.5对非“标准”品种的响应始终显示出一系列问题：刻板印象（比“标准”品种差19％），贬低内容（差25％）（差25％），缺乏理解（9％差）和屈服于依赖的反应（屈服于15％）。 含义 [纸] Ishita Rustagi Xavier Yin

Dan Klein

chatgpt在与英语的人交流方面表现非常出色。但是谁的英语？

只有15％的chatgpt用户来自美国，其中标准的美国英语为默认值。但是该模型也通常在人们说其他英语品种的国家和社区中使用。世界各地有超过10亿人讲的品种，例如印度英语，尼日利亚英语，爱尔兰英语和非裔美国人英语。

只有15％

这些非“标准”品种的说话者经常在现实世界中面临歧视。他们被告知，他们的讲话方式是不专业或不正确的，被抹黑为证人，并否认住房，尽管大量研究表明所有语言品种同样复杂且合法。歧视某人说话的方式通常是歧视自己的种族，种族或国籍的代表。如果Chatgpt加剧这种歧视怎么办？ 不专业 不正确 被抹黑为证人 拒绝住房 广泛的

研究

为了回答这个问题，我们最近的论文研究了Chatgpt的行为如何响应不同的英语种类的文本。我们发现，CHATGPT响应对非“标准”品种表现出一致和普遍的偏见，包括增加刻板印象和贬低内容，较差的理解和屈从于响应。

我们最近的论文

我们的研究

结果

做

模型响应始终偏向非“标准”品种。默认的GPT-3.5对非“标准”品种的响应始终显示出一系列问题：刻板印象（比“标准”品种差19％），贬低内容（差25％）（差25％），缺乏理解（9％差）和屈服于依赖的反应（屈服于15％）。

含义[纸]