机构名称：
¥ 1.0
摘要 许多教育技术使用人工智能 (AI) 向学习者呈现生成或制作的语言。我们认为，所有语言，包括所有人工智能通信，都编码了有关为语言的制定做出贡献的人类身份的信息。然而，通过人工智能通信，用户可能会索引与来源不匹配的身份信息。如果与一个文化群体相关的语言被呈现为“标准”或“中性”，如果该语言对一个群体有利，或者如果该语言强化了负面刻板印象，这可能会导致表征损害。在这项工作中，我们讨论了一个案例研究，使用视觉问题生成 (VQG) 任务，涉及从目标人口群体收集众包数据。生成的问题将呈现给人类评估者，以了解他们如何索引语言背后的身份，他们是否以及如何看待任何表征损害，以及他们如何理想地解决人工智能通信造成的任何此类损害。我们反思这项工作的教育应用以及对平等、多样性和包容性 (EDI) 的影响。
人工智能通信学习中的表征危害
主要关键词
相关文件推荐
