许多人工智能系统都依赖于标签,即在给定输入后,从一系列标签中选择一种来描述它。面部识别技术也是如此,其输入是一张脸,标签通常基于二进制系统,将数据分为男性/女性、儿童/成人和人类/动物等类别。近年来,计算机科学、人工智能和信息学领域的学者们对面部识别技术在种族和性别方面存在的问题进行了批判性研究,并指出了该技术存在的问题 [1,2,3,4]。先前的研究已经发现了一些关键问题,这些问题引发了人们对该技术的可靠性甚至实用性的担忧。例如,用于训练这些系统的数据通常不具代表性。在大多数情况下,绝大多数是白人和男性,这意味着肤色较深的女性被误分类的比例不成比例,正如对面部识别性别分类系统的综合分析所发现的那样 [1]。此外,训练数据集通常由从社交媒体 [5] 中抓取的图像组成,这意味着(除了隐私问题之外)它们只捕获那些使用社交媒体的人,具体
3 最有名的替代标准理论的竞争者可以说是卡尼曼和特沃斯基的前景理论。然而,这一理论也经过了修改和完善,对于所谓的“理论”的功能形式,并没有达成共识。有关正在进行的辩论,请参阅 Bernheim 和 Sprenger (2020) 以及 Abdellaoui 等人 (2020),他们批评了前一篇论文,但也承认累积前景理论存在许多描述性缺陷。同样,半双曲线消费随时间变化的模型也因其经验上的缺陷而受到批评(Benhabib 等人,2010 年)。最后,许多实验结果似乎过于脆弱,无法作为稳健理论的基础(例如,参见 Grimm 和 Mengel (2010) 关于最后通牒博弈的论文,以及 Hertwig、Barron、Weber 和 Erev (2004) 关于小概率的作用的论文)。
摘要 目的——对数据分析和人工智能 (AI) 系统的可解释性和可解释性的研究正在兴起。然而,最近的大多数研究要么仅仅宣传可解释性的好处,要么批评它会产生适得其反的效果。本研究针对这一两极分化的领域,旨在确定人工智能可解释性的对立影响及其之间的紧张关系,并提出如何管理这种紧张关系以优化人工智能系统的性能和可信度。 设计/方法/方法——作者系统地回顾文献,并使用权变理论的视角对其进行综合,以开发一个管理人工智能可解释性对立影响的框架。 发现——作者发现了可解释性的五个对立影响:可理解性、行为、保密性、完整性和对人工智能的信心 (5C)。作者还提出了管理 5C 之间紧张关系的六个观点:解释的实用主义、解释的情境化、人类机构和人工智能机构的共存、指标和标准化、监管和道德原则以及其他新兴解决方案(即人工智能封装、区块链和人工智能模糊系统)。研究局限性/含义——与其他系统文献综述研究一样,结果受到所选论文内容的限制。 实际意义——研究结果表明,人工智能所有者和开发者如何通过可见性、问责制和维护人工智能的“社会利益”来管理盈利能力、预测准确性和系统性能之间的紧张关系。研究结果指导从业者以人工智能操作的背景为重点,制定人工智能可解释性的指标和标准。 原创性/价值——本研究探讨了学者和从业者对人工智能可解释性的好处与其适得其反的影响的两极化看法。它提出,没有单一的最佳方法来最大化人工智能的可解释性。相反,必须管理促成效应和制约效应的共存。 关键词 权变理论、系统文献综述、可解释人工智能、可解释分析、缓解策略、相反影响 论文类型 研究论文
我要感谢 Stoll 教授对这项工作的第二次监督以及过去的许多有趣的对话。我还要感谢 Marco Villa、Eberhard Gill 教授、Jasper Bouwmeester、Bulent Altan 和 Michael Swarwout 教授:你们的建议以及你们的关键问题对我帮助很大,并改进了这项工作。非常感谢参与我的调查的众多参与者以及与我分享经验的许多 CubeSat 开发人员,并对有关 CubeSat 错误的始终非常开放的讨论表示赞赏。如果没有德国航空航天中心的支持,尤其要感谢 Christian Nitzschke 先生,MOVE-II 和这项工作都是不可能完成的。来自德国各地各个 CubeSat 项目的毕业生每天都在向人们展示这里存在着多么精彩的太空培训项目。
我要感谢 Stoll 教授对这项工作的二级指导以及过去的许多有趣的讨论。我还要感谢 Marco Villa、Eberhard Gill 教授、Jasper Bouwmeester、Bulent Altan 和 Michael Swartwout 教授:你们的建议和批判性问题对我帮助很大,改进了这项工作。我要向众多参与调查的人员和与我分享经验的 CubeSat 开发人员表示衷心的感谢,同时也感谢他们就 CubeSat 错误进行的始终非常公开的讨论。如果没有德国航空航天中心的支持,MOVE-II 和这项工作都不可能实现,在此我要特别感谢 Christian Nitzschke 先生。德国各地各个 CubeSat 项目的毕业生每天都在证明这里有多么出色的太空训练计划。
我要感谢斯托尔教授对这项工作的指导以及过去的许多有趣的讨论。我还要感谢 Marco Villa、Eberhard Gill 教授、Jasper Bouwmeester、Bulent Altan 和 Michael Swartwout 教授:你们的建议和批判性问题对我帮助很大,改进了这项工作。我调查中的众多参与者和与我分享经验的许多 CubeSat 开发人员都应该受到衷心的感谢,同时也感谢他们对 CubeSat 错误的公开讨论。如果没有德国航空航天中心的支持,MOVE-II 和这项工作都不可能实现,在此我要特别感谢 Christian Nitzschke 先生。德国各地各个CubeSat项目的毕业生每天都在证明这里有着多么美妙的太空训练计划。
我要感谢斯托尔教授对这项工作的指导以及过去的许多有趣的讨论。我还要感谢 Marco Villa、Eberhard Gill 教授、Jasper Bouwmeester、Bulent Altan 和 Michael Swartwout 教授:你们的建议和批判性问题对我帮助很大,改进了这项工作。我调查中的众多参与者和与我分享经验的许多 CubeSat 开发人员都应该受到衷心的感谢,同时也感谢他们对 CubeSat 错误的公开讨论。如果没有德国航空航天中心的支持,MOVE-II 和这项工作都不可能实现,在此我要特别感谢 Christian Nitzschke 先生。德国各地各个CubeSat项目的毕业生每天都在证明这里有着多么美妙的太空训练计划。
我要感谢斯托尔教授对这项工作的指导以及过去的许多有趣的讨论。我还要感谢 Marco Villa、Eberhard Gill 教授、Jasper Bouwmeester、Bulent Altan 和 Michael Swartwout 教授:你们的建议和批判性问题对我帮助很大,改进了这项工作。我调查中的众多参与者和与我分享经验的许多 CubeSat 开发人员都应该受到衷心的感谢,同时也感谢他们对 CubeSat 错误的公开讨论。如果没有德国航空航天中心的支持,MOVE-II 和这项工作都不可能实现,在此我要特别感谢 Christian Nitzschke 先生。德国各地各个CubeSat项目的毕业生每天都在证明这里有着多么美妙的太空训练计划。
