报告警告称,人工智能和其他教育技术可能侵犯残疾人和 LGBTQ 学生的权利

民权组织呼吁联邦政府就如何在技术领域保护学生权利提供指导,他们表示,随着生成式人工智能的爆发式增长,这一问题“变得更加紧迫”。

来源:EdSource

图片来源:Allison Shelley for American Education

图片来源:Allison Shelley for American Education

周三发布的一份新报告警告称,学校使用人工智能、数字监控和内容过滤器等教育技术对残疾学生、LGBTQ 学生和有色人种学生的公民权利构成威胁。

民主与技术中心 (Center for Democracy and Technology) 的报告警告称,学校使用的一些技术来屏蔽露骨的成人内容并标记有自残或伤害他人风险的学生,也给本已脆弱的学生带来了严重问题。民主与技术中心是一个倡导数字世界公民权利的非营利、无党派组织。

该报告基于一项关于学校、学生和教师使用技术的广泛在线全国调查。今年夏天,民主与技术中心对 1,029 名九至十二年级学生、1,018 名六至十二年级学生家长和 1,005 名六至十二年级学生教师进行了民意调查,该组织称该样本经过加权后具有“全国代表性”。

据民主与技术中心称,调查还表明,人们对人工智能在课堂上的作用普遍感到困惑,大多数家长、学生和教师表示,他们希望获得有关如何正确使用人工智能的更多信息和培训。

报告概述了教育技术对学生的风险

该报告概述了学校技术如何经常无意中伤害学生。民主与技术中心表示,这些危害对弱势学生影响最为严重。

学生们报告了 LGBTQ 同学被数字监控曝光的事件,这是一种未经同意就分享其性身份或性取向的潜在创伤事件。

残疾学生表示,他们最有可能使用人工智能——而且他们更有可能报告因使用人工智能而面临纪律处分。