非人类人道主义:当人工智能的善举变成坏事时 Mirca Madianou 伦敦大学金史密斯学院 2018 年,有超过 1.68 亿人需要人道主义援助,同时有超过 6900 万人成为难民,人道主义部门面临着重大挑战。人工智能 (AI) 应用可以成为人道主义危机的潜在解决方案的提议受到了热烈欢迎。这是“人工智能用于社会公益”大趋势的一部分,也是“数字人道主义”更广泛发展的一部分,“数字人道主义”指的是公共和私营部门为应对人道主义紧急情况而使用数字创新和数据。聊天机器人、声称可以预测未来流行病或人口流动的预测分析和建模以及依赖于采用机器学习算法的先进神经网络的生物识别技术,都是在援助行动中越来越受欢迎的例子。本文建立了一个跨学科框架,将殖民和非殖民理论、人道主义和发展的批判性探究、批判性算法研究以及对人工智能的社会技术理解结合在一起。人道主义在这里被理解为一种复杂的现象:不仅仅是通常定义的“减少痛苦的必要性”(Calhoun,2008),而且是一种行业、一种话语和一种源于 19 世纪和 20 世纪殖民主义的历史现象(Fassin,2012;Lester & Dussart,2014)。人工智能同样是一个多面现象:不仅仅是基于先进计算和机器学习算法的技术创新,而且是一个行业以及关于技术的特定话语。人工智能只能与数据和算法一起理解——这三者是不可分割的,因为人工智能依赖于机器学习算法,而机器学习算法是特定数据集的产物。鉴于“大数据”本质上是不完整的,且具有本体论和认识论的局限性(Crawford & Finn,2014),人工智能应用会重现并可能放大大型数据集中发现的现有偏见(Benjamin,2019;Eubanks,2018;Noble,2018 等)。
作者Aki Kachi,Silke Mooldijk,Carsten Warnecke承认作者要感谢Martin Baumann,Severin Ettl和Ann Kathrin Schneider的宝贵支持,想法,投入和评论,并评论有助于撰写本文。免责声明本文由Bundfürumwelt和Naturschutz Deutschland E.V.委托。(Bund)作为“加强国际气候倡议(IKI)资助的国家气候政策的公民社会”项目的一部分。德国联邦环境部,自然保护和核安全部根据决议德国联邦议会促进了该倡议。分析,观点和内容代表作者的意见,既不一定代表外滩,IKI或德国联邦共和国的立场。
• 认为口罩对人们的健康有害(37%)、认为口罩不会减少 Covid-19 传播(34%)以及认为政府只是想让人们戴口罩来控制疫情(34%)的人。• 强烈同意人们对疫情大惊小怪的人(36%)和表示他们不觉得冠状病毒有压力的人(27%)。• 表示他们非常重视自己做决定的人(24%)和表示他们根本不是那种始终遵守规则的人(24%)。
研究选择标准 随机试验注册和非随机研究,比较深度学习算法在医学成像中的表现与当代一位或多位专家临床医生组的表现。医学成像对深度学习研究的兴趣日益浓厚。深度学习中卷积神经网络 (CNN) 的主要特征是,当 CNN 输入原始数据时,它们会开发出模式识别所需的自身表示。算法会自行学习对分类很重要的图像特征,而不是由人类告诉使用哪些特征。选定的研究旨在利用医学成像预测现有疾病的绝对风险或将其分类为诊断组(例如疾病或非疾病)。例如,原始胸部 X 光片上标有气胸或无气胸等标签,CNN 会学习哪些像素模式表明有气胸。
选择研究的资格标准 随机试验注册和非随机研究,比较深度学习算法在医学成像中的表现与当代一个或多个专家临床医生组的表现。医学成像对深度学习研究的兴趣日益浓厚。深度学习中卷积神经网络 (CNN) 的主要区别特征是,当 CNN 被输入原始数据时,它们会开发出模式识别所需的自己的表示。该算法会自行学习对分类很重要的图像特征,而不是由人类告诉使用哪些特征。选定的研究旨在使用医学成像来预测现有疾病的绝对风险或分类为诊断组(例如疾病或非疾病)。例如,原始胸部 X 光片标有气胸或无气胸等标签,CNN 会学习哪些像素模式表明存在气胸。
设备独立认证采用贝尔测试来保证设备正常运行,该测试仅基于观察到的测量统计数据,即不对设备的内部功能做出假设。当使用效率过低的设备实施这些贝尔测试时,必须后选择导致成功检测的事件,从而依赖于公平采样假设。本文我们讨论的问题是公平采样下设备独立认证还剩下什么。我们根据滤波器提供后选择的直观描述,并将公平采样假设定义为这些滤波器的一个属性,与参考文献 [1] 中引入的定义等同。当满足此假设时,后选择数据将通过理想实验重现,其中无损设备测量滤波状态,该状态可以通过局部概率图从实际状态获得。因此,可以就此滤波状态的量子特性得出可信的结论,并且可以可靠地使用相应的测量统计数据,例如,用于随机性生成或量子密钥分发。我们还探索了更强大的公平采样概念,从而得出结论:后选数据是通过无损检测获得的数据的公平表示。此外,我们表明,我们的结论在与精确公平采样有小偏差的情况下仍然成立。最后,我们描述了以前或可能在公平采样下用于贝尔型实验的设置,并确定了底层的设备特定假设。