XiaoMi-AI文件搜索系统
World File Search System加剧
美国公民自由联盟白皮书：医疗保健领域的人工智能可能会加剧医疗种族主义
人工智能和算法决策系统在刑事司法系统、教育、招聘、住房和其他领域中的应用越来越普遍。每天似乎都会出现有关人工智能工具如何延续和强化种族主义和历史偏见的新头条新闻：存在缺陷的面部识别工具导致又一次错误逮捕一名黑人；商业产品中常用的语音识别系统在识别非白人顾客的言语方面表现更差；某社交媒体平台的图像识别算法再次将黑人贴上了灵长类动物的标签。然而，人们对医疗保健和医学领域的算法偏见问题关注得还远远不够，而这些工具在这些领域也已大量出现。医疗保健中的决策可能会产生严重后果，在某些情况下甚至会给患者带来生死攸关的后果。因此，关注如何识别、改善和适当监管医疗保健领域的自动化偏见尤为重要。
TikTok 日益严重的虚假信息问题因……而加剧
TikTok 的月度用户群从 2020 年初到 2021 年 9 月翻了一番，用户数超过 10 亿。“TikTok 的用户群在过去一年半中急剧增加。2020 年初，该平台在全球拥有超过 5 亿用户。据该公司称，9 月份其月度用户数突破 10 亿。” [纽约时报，2021 年 10 月 2 日] TikTok 在美国的用户平均每天在该平台上花费 82 分钟。“在 2018 年中期选举时，TikTok 刚刚在美国推出，在 2020 年总统大选期间，它仍然被广泛认为是年轻人的娱乐应用程序。根据应用分析公司 Sensor Tower 最近发布的报告，如今，TikTok 的美国用户群平均每天在该平台上花费 82 分钟，是 Snapchat 或 Twitter 的三倍，是 Instagram 或 Facebook 的两倍。TikTok 正变得越来越重要，成为政治内容的目的地，这些内容通常由有影响力的人制作。” [纽约时报，2022 年 8 月 14 日] 美国三分之二的 13-17 岁青少年使用 TikTok。“TikTok 拥有超过 10 亿用户，已成为文化现象的主要引擎，例如上个月有数十名年轻人发布了关于穿着西装去看最新《小黄人》电影的帖子。根据皮尤研究中心上周发布的一份报告，如今，67% 的美国 13 至 17 岁青少年使用该应用。” [纽约时报，2022 年 8 月 14 日] 标题：The Verge：“调查发现，TikTok 是英国成年人增长最快的新闻来源。” [The Verge，2022 年 7 月 21 日] 标题：Buzzfeed 新闻：“‘我不再使用 Google 了。我用 TikTok。’” [Buzzfeed 新闻，2022 年 6 月 7 日] 标题：TechCrunch：“33% 的美国 TikTok 用户表示他们经常通过该应用获取新闻，高于 2020 年的 22%。” [TechCrunch，2022 年 9 月 20 日] 路透社研究所的研究发现，40% 的 18-24 岁年轻人使用 TikTok，其中 15% 的人将 TikTok 用作新闻来源。“TikTok 已成为今年调查中增长最快的网络，覆盖 40% 的 18-24 岁年轻人，其中 15% 的人使用该平台获取新闻。” [路透社研究所数字新闻报告，2022 年 6 月]
FinRegLab：研讨会——“人工智能与经济：为负责任和包容的人工智能规划道路”联合活动，邀请著名政策制定者参加，重点关注金融服务领域的负责任人工智能。华盛顿特区，2022 年 4 月 22 日——FinRegLab 将与美国商务部、美国国家标准与技术研究所 (NIST) 和斯坦福以人为本人工智能研究所 (HAI) 合作，于 2022 年 4 月 27 日举办一场研讨会，汇集政府、行业、民间社会和学术界的领导人，探讨人工智能和机器学习在不同经济部门部署带来的潜在机遇和挑战，特别关注金融服务和医疗保健。已确认的发言人包括商务部副部长 Don Graves；参议员 Joni Ernst；代理货币监理署署长 Michael Hsu；万事达卡执行副总裁兼首席数据官 JoAnn Stonier；富国银行执行副总裁兼模型风险主管 Agus Sudjianto、斯坦福大学商学院教授兼 HAI 副主任 Susan Athey 博士、布鲁金斯学会技术创新中心主任 Nicol Turner Lee 博士以及哈佛大学计算与社会研究中心博士后研究员 Manish Raghavan 博士。演讲者和小组成员将讨论研究、政策建议和新兴行业实践。FinRegLab 首席执行官兼主任 Melissa Koide 表示：“人工智能与新型数据相结合，为改善金融包容性和平等性提供了巨大的潜力。然而，也存在加剧偏见和排斥的巨大风险。认真、有针对性地研究消费者受到的影响对于制定正确的规则至关重要。” FinRegLab 还将于 4 月 28 日举办一场虚拟会议，详细介绍该组织和斯坦福大学商学院 Laura Blattner 教授和 Jann Spiess 教授就机器学习在信用承保中的应用开展的研究，特别关注机器学习模型对可解释性和公平性的潜在影响。这项研究对当前可用工具的性能和功能进行了实证评估，这些工具旨在帮助贷方开发、监控和管理机器学习承保模型。媒体成员如有兴趣亲临或以虚拟方式参加研讨会或寻求评论，请联系 Alex Bloomfield，邮箱地址为 alex.bloomfield@finreglab.org。有关研讨会的更多信息，包括所有演讲者和小组讨论，请访问此处的活动页面。
FinRegLab：研讨会——“人工智能与经济：为负责任和包容的人工智能规划道路”联合活动，邀请著名政策制定者参加，重点关注金融服务领域的负责任人工智能。华盛顿特区，2022 年 4 月 22 日——FinRegLab 将与美国商务部、美国国家标准与技术研究所 (NIST) 和斯坦福以人为本人工智能研究所 (HAI) 合作，于 2022 年 4 月 27 日举办一场研讨会，汇集政府、行业、民间社会和学术界的领导人，探讨人工智能和机器学习在不同经济部门部署带来的潜在机遇和挑战，特别关注金融服务和医疗保健。已确认的发言人包括商务部副部长 Don Graves；参议员 Joni Ernst；代理货币监理署署长 Michael Hsu；万事达卡执行副总裁兼首席数据官 JoAnn Stonier；富国银行执行副总裁兼模型风险主管 Agus Sudjianto、斯坦福大学商学院教授兼 HAI 副主任 Susan Athey 博士、布鲁金斯学会技术创新中心主任 Nicol Turner Lee 博士以及哈佛大学计算与社会研究中心博士后研究员 Manish Raghavan 博士。演讲者和小组成员将讨论研究、政策建议和新兴行业实践。FinRegLab 首席执行官兼主任 Melissa Koide 表示：“人工智能与新型数据相结合，为改善金融包容性和平等性提供了巨大的潜力。然而，也存在加剧偏见和排斥的巨大风险。认真、有针对性地研究消费者受到的影响对于制定正确的规则至关重要。” FinRegLab 还将于 4 月 28 日举办一场虚拟会议，详细介绍该组织和斯坦福大学商学院 Laura Blattner 教授和 Jann Spiess 教授就机器学习在信用承保中的应用开展的研究，特别关注机器学习模型对可解释性和公平性的潜在影响。这项研究对当前可用工具的性能和功能进行了实证评估，这些工具旨在帮助贷方开发、监控和管理机器学习承保模型。媒体成员如有兴趣亲临或以虚拟方式参加研讨会或寻求评论，请联系 Alex Bloomfield，邮箱地址为 alex.bloomfield@finreglab.org。有关研讨会的更多信息，包括所有演讲者和小组讨论，请访问此处的活动页面。
“AIEd” 会加剧还是缓解教育不平等？
随着人们越来越意识到算法偏见和自动化侵入的社会风险，数据驱动的人工智能系统中的公平性、问责制和透明度问题在医疗保健、贷款发放和招聘等多个高风险环境中受到越来越多的学术关注（例如，Barocas & Selbst，2016 年；Holstein、Wortman Vaughan、Daumé III、Dudik & Wallach，2019 年；Veale、Van Kleek & Binns，2018 年）。虽然如何设计更透明、更负责的系统的问题在教育人工智能学术领域引起了一些关注（例如 Bull & Kay，2010；2016；Conati、Porayska-Pomsta 和 Mavrikis，2018；Holstein 等人，2019；Shum，2018），但教育人工智能 (AIEd) 系统中的公平性和公正性问题却受到的关注相对较少（Blikstein，2018；Ferguson，2019；Holmes、Bialik 和 Fadel，2019；Holstein 和 Doroudi，2019；Shum 和 Luckin，2019）。
新冠疫情推动的自动化和人工智能进步有可能加剧经济不平等
远程医疗可能会节省劳动力，而改善患者健康状况的新医疗方法如果由人类执行则可能会消耗劳动力。10 从长远来看，随着市场的调整，劳动力需求的变化主要反映在工资上，而不是创造或消失的就业岗位数量上。总体而言，自工业革命以来的技术进步一直在消耗劳动力——它突飞猛进地增加了劳动力需求，导致发达国家的平均工资和物质财富大幅增加。原因是创新提高了工人的生产力——使他们能够每小时生产更多产品——而不是用机器人取代劳动力。然而，最近的经济形势并不那么乐观：美国相当一部分工人——例如生产和非管理工人——现在的工资（经通胀调整后）低于 20 世纪 70 年代。 11 此外，尽管尚不清楚这一发现是否适用于世界其他地区，但在过去半个世纪里，美国经济产出中流向工人而非资本所有者的份额已从 65% 下降到不到 60%。12 13 低技能工人受到的影响最大。许多最近的自动化技术取代了人类工人的工作，从而减少了对人力的总体需求。14
在新冠疫情医疗保健时代，“AI”是否代表着不平等现象的加剧？
连锁风险和危害 造成健康不平等的相互作用因素包括生活和工作条件的普遍差异、医疗保健的机会和质量的差异、系统性种族主义和其他根深蒂固的歧视模式。这些因素导致弱势群体由于过度拥挤、被迫工作、“风化”（即由于持续压力导致过早衰老和健康状况恶化）、慢性疾病和免疫功能受损而更容易患病。1-3 这种更大的脆弱性表现为接触新冠病毒、易受感染、感染严重程度增加和死亡的风险增加。4-6 这些结果的证据正在迅速增加：生活在较贫困地区的人们死于新冠病毒的几率是其他人的两倍多 7 ；与白人英国人相比，黑人、亚裔和少数族裔英国人感染新冠病毒后死亡的可能性高达两倍。 8 9 控制年龄后，黑人男性和女性的死亡率是白人男性和女性的四倍多。10
在新冠疫情医疗保健时代，“AI”是否代表着不平等现象的加剧？
连锁风险和危害 造成健康不平等的相互作用因素包括生活和工作条件的普遍差异、医疗保健的机会和质量的差异、系统性种族主义和其他根深蒂固的歧视模式。这些因素导致弱势群体由于过度拥挤、被迫工作、“风化”（即由于持续压力导致过早衰老和健康状况恶化）、慢性疾病和免疫功能受损而更容易患病。1-3 这种更大的脆弱性表现为接触新冠病毒、易受感染、感染严重程度增加和死亡的风险增加。4-6 这些结果的证据正在迅速增加：生活在较贫困地区的人们死于新冠病毒的几率是其他人的两倍多 7 ；与白人英国人相比，黑人、亚裔和少数族裔英国人感染新冠病毒后死亡的可能性高达两倍。 8 9 控制年龄后，黑人男性和女性的死亡率是白人男性和女性的四倍多。10
在新冠疫情医疗保健时代，“AI”是否代表着不平等现象的加剧？
连锁风险和危害 造成健康不平等的相互作用因素包括生活和工作条件的普遍差异、医疗保健的机会和质量的差异、系统性种族主义和其他根深蒂固的歧视模式。这些因素导致弱势群体由于过度拥挤、被迫工作、“风化”（即由于持续压力导致过早衰老和健康状况恶化）、慢性疾病和免疫功能受损而更容易患病。1-3 这种更大的脆弱性表现为接触新冠病毒、易受感染、感染严重程度增加和死亡的风险增加。4-6 这些结果的证据正在迅速增加：生活在较贫困地区的人们死于新冠病毒的几率是其他人的两倍多 7 ；与白人英国人相比，黑人、亚裔和少数族裔英国人感染新冠病毒后死亡的可能性高达两倍。 8 9 控制年龄后，黑人男性和女性的死亡率是白人男性和女性的四倍多。10
在新冠疫情医疗保健时代，“AI”是否代表着不平等现象的加剧？
连锁风险和危害 造成健康不平等的相互作用因素包括生活和工作条件的普遍差异、医疗保健的机会和质量的差异、系统性种族主义和其他根深蒂固的歧视模式。这些因素导致弱势群体由于过度拥挤、被迫工作、“风化”（即由于持续压力导致过早衰老和健康状况恶化）、慢性疾病和免疫功能受损而更容易患病。1-3 这种更大的脆弱性表现为接触新冠病毒、易受感染、感染严重程度增加和死亡的风险增加。4-6 这些结果的证据正在迅速增加：生活在较贫困地区的人们死于新冠病毒的几率是其他人的两倍多 7 ；与白人英国人相比，黑人、亚裔和少数族裔英国人感染新冠病毒后死亡的可能性高达两倍。 8 9 控制年龄后，黑人男性和女性的死亡率是白人男性和女性的四倍多。10
新冠疫情推动的自动化和人工智能进步有可能加剧经济不平等
远程医疗可能会节省劳动力，而改善患者健康状况的新医疗方法如果由人类执行则可能会消耗劳动力。10 从长远来看，随着市场的调整，劳动力需求的变化主要反映在工资上，而不是创造或消失的就业岗位数量上。总体而言，自工业革命以来的技术进步一直在消耗劳动力——它突飞猛进地增加了劳动力需求，导致发达国家的平均工资和物质财富大幅增加。原因是创新提高了工人的生产力——使他们能够每小时生产更多产品——而不是用机器人取代劳动力。然而，最近的经济形势并不那么乐观：美国相当一部分工人——例如生产和非管理工人——现在的工资（经通胀调整后）低于 20 世纪 70 年代。 11 此外，尽管尚不清楚这一发现是否适用于世界其他地区，但在过去半个世纪里，美国经济产出中流向工人而非资本所有者的份额已从 65% 下降到不到 60%。12 13 低技能工人受到的影响最大。许多最近的自动化技术取代了人类工人的工作，从而减少了对人力的总体需求。14