算法偏见继续对少数族裔学生产生负面影响

随着高等教育机构转向人工智能机器学习和数据驱动算法来提高工作效率，美国教育研究协会 (AERA) 同行评审期刊 AERA Open 发表的一项新研究提醒管理人员，算法可能存在种族偏见。

， AERA Open， ，

德克萨斯大学奥斯汀分校教育领导与政策助理教授、该研究的合著者 Denisa Gándara 博士在他们的研究“黑匣子内幕”中发现，用于预测学生成功的算法对 19% 的黑人和 21% 的拉丁裔学生产生了假阴性，错误地计算了这些学生将无法上大学的比例。该研究使用了美国国家教育统计中心过去十年收集的超过 15,200 名学生的数据，研究了高中毕业八年后四年制院校的学士学位获得情况。

德克萨斯大学奥斯汀分校教育领导与政策助理教授、该研究的合著者 Denisa Gándara 博士。 德克萨斯大学奥斯汀分校教育领导与政策助理教授、该研究的合著者 Denisa Gándara 博士。 德克萨斯大学奥斯汀分校教育领导与政策助理教授、该研究的合著者 Denisa Gándara 博士。 黑匣子内部

“机构参与者必须了解模型对特定群体的表现。我们的研究表明，模型对被归类为白人和亚洲人的学生表现更好，”德克萨斯大学奥斯汀分校教育领导与政策助理教授、该研究的合著者 Denisa Gándara 博士说。

机构使用算法来预测大学成功、录取、经济援助分配、纳入学生成功计划、招聘以及更多任务。

可以通过 [email protected] 联系 Liann Herder。

[email protected]