详细内容或原文请订阅后点击阅览
人工智能对黑人学生给予更多的赞扬，更少的批评
随着学校将人工智能引入课堂，一项新的分析表明，这些工具可以根据学生的身份引导他们走向不同的方向。斯坦福大学的研究人员将 600 篇中学论文输入到四个不同的人工智能模型中，并要求模型提供写作反馈。争论性文章的主题是……人工智能对黑人学生给予更多赞扬，更少批评的帖子首先出现在《赫钦格报告》上。
来源:The Hechinger Report随着学校将人工智能引入课堂，一项新的分析表明，这些工具可以根据学生的身份引导他们走向不同的方向。
斯坦福大学的研究人员将 600 篇中学论文输入到四个不同的人工智能模型中，并要求模型提供写作反馈。这些争论性的文章涉及学校是否应该要求社区服务以及外星人是否在火星上创造了一座小山。 （它们来自出于研究目的而收集的学生作品集。）
然后，研究人员做了一些简单但富有启发性的事情：他们将每篇论文提交给人工智能模型 12 次以上，对撰写论文的学生进行不同的描述——例如，识别作者是黑人还是白人、男性还是女性、积极性高还是缺乏积极性，或者是否有学习障碍。
反馈发生了变化。
研究人员发现所有人工智能模型都有一致的模式。黑人学生的论文受到更多的赞扬和鼓励，有时强调领导力或权力。 （“你的个人故事很强大！添加更多关于你的经历如何与他人联系的信息可以让这种感觉变得更加强大。”）标记为西班牙裔学生或英语学习者撰写的论文更有可能引发有关语法和“正确”英语的纠正。当学生被认定为白人时，反馈通常会集中在论点结构、证据和清晰度上——这些评论可以促使作者强化他们的想法。
AI 模型对女学生的称呼更加亲切，并且使用了更多的第一人称代词。 （“我喜欢你有信心表达自己的观点！”）被标记为没有动力的学生得到了积极的鼓励。相比之下，被描述为高成就或积极性的学生更有可能收到旨在改进他们的工作的直接、批评性的建议。
针对不同的学生使用不同的单词
但需要权衡。