XiaoMi-AI文件搜索系统
World File Search Systemexplainability
人工智能可解释性白皮书
- 从数据中可以了解到虚假相关性，这通常会妨碍模型的泛化能力并导致糟糕的现实世界结果。 - 失去可调试性和透明度，导致信任度低以及无法修复或改进模型和/或结果。此外，这种缺乏透明度阻碍了这些模型的采用，特别是在受监管的行业，例如银行和金融或医疗保健。 - 代理目标导致模型离线执行（通常是匹配代理指标）与部署在应用程序中时的性能之间存在很大差异。 - 由于模型从业者在有问题的情况下本地调整模型行为的能力下降而失去控制。 - 不良的数据放大反映了与我们的社会规范和原则不一致的偏见。
人工智能可解释性实践
如果没有各合作伙伴和合作者的支持和努力，这本工作手册的创作就不可能实现。一如既往，艾伦图灵研究所公共政策项目伦理主题研究团队的所有优秀成员从几年前开始就一直为该项目提供重要且无可比拟的支持，我们的公共政策项目联合主任 Helen Margetts 和 Cosmina Dorobantu 也是如此。我们非常感谢 Conor Rigby，他领导了这本工作手册的设计，并在其迭代过程中提供了非凡的反馈。我们还要感谢为本文档创建了各种插图的 Johnny Lighthands，以及 Alex Krook 和 John Gilbert，他们的投入和见解帮助工作手册顺利完成。必须特别感谢苏格兰地方政府数字办公室、卡姆登议会的工作人员和居民、贾斯汀·格林（诺森比亚医疗保健 NHS 基金会信托）和 NHS 英格兰教育东北和北坎布里亚的在职研究生医生（PGDiT），以及安娜·纳克、阿尔迪·詹杰娃、梅根·休斯、罗莎蒙德·鲍威尔和塞缪尔·斯托克韦尔（艾伦·图灵研究所），他们帮助我们测试活动并审查本工作簿中包含的内容。
医疗保健领域人工智能的可解释性
摘要背景：在人工智能 (AI) 应用于医疗保健领域时，可解释性是最受争议的话题之一。尽管人工智能驱动的系统已被证明在某些分析任务中表现优于人类，但缺乏可解释性仍然引发批评。然而，可解释性不是一个纯粹的技术问题，相反，它引发了一系列需要彻底探索的医学、法律、伦理和社会问题。本文对可解释性在医学人工智能中的作用进行了全面评估，并对可解释性对于将人工智能驱动的工具应用于临床实践的意义进行了伦理评估。方法：以基于人工智能的临床决策支持系统为例，我们采用多学科方法从技术、法律、医学和患者的角度分析了可解释性对医学人工智能的相关性。基于这一概念分析的结果，我们随后进行了伦理评估，使用 Beauchamp 和 Childress 的“生物医学伦理原则”（自主、仁慈、不伤害和正义）作为分析框架，以确定医疗 AI 中可解释性的必要性。结果：每个领域都强调了一组不同的核心考虑因素和价值观，这些因素与理解可解释性在临床实践中的作用有关。从技术角度来看，可解释性必须从如何实现和从发展角度来看有什么好处两个方面来考虑。从法律角度来看，我们将知情同意、医疗器械认证和批准以及责任确定为可解释性的核心接触点。医学和患者的观点都强调了考虑人类行为者和医疗 AI 之间相互作用的重要性。我们得出的结论是，在临床决策支持系统中忽略可解释性会对医学的核心伦理价值观构成威胁，并可能对个人和公共健康产生不利影响。结论：为了确保医疗 AI 兑现其承诺，需要让开发人员、医疗保健专业人员和立法者意识到医疗 AI 中不透明算法的挑战和局限性，并促进多学科合作。关键词：人工智能、机器学习、可解释性、可解释性、临床决策支持
灵活且针对具体情境的 AI 可解释性
摘要 近年来人们对人工智能 (AI) 的热情主要归功于深度学习的进步。深度学习方法非常准确，但也不太透明，这限制了它们在安全关键型应用中的潜在应用。为了获得信任和问责，机器学习算法的设计者和操作者必须能够向用户、监管者和公民解释算法的内部工作原理、结果以及失败的原因。本文的独创性在于结合可解释性的技术、法律和经济方面，开发一个框架来定义给定环境下可解释性的“正确”水平。我们提出了三个逻辑步骤：首先，定义主要的背景因素，例如解释的受众是谁、操作背景、系统可能造成的危害程度以及法律/监管框架。此步骤将有助于描述解释的操作和法律需求，以及相应的社会效益。第二步，检查可用的技术工具，包括事后方法（输入扰动、显著性图……）和混合 AI 方法。第三步，根据前两个步骤，选择正确的全局和局部解释输出级别，同时考虑所涉及的成本。我们确定了七种成本，并强调只有当总社会效益超过成本时，解释才具有社会意义。
算法解释性“诱饵和开关”
人工智能和机器学习中的解释性（AI/ML）正在成为学术研究的主要领域，并且是一个重大监管问题的主题。越来越多的人，党派，政府和民间社会团体正在达成共识，即AI/ML必须可以解释。在本文中，我们挑战了这一主要趋势。我们认为，要解释性成为道德要求，甚至更多地是为了成为法律要求 - 它应该满足某些当前无法使用的desiderata，甚至可能无法。，本文认为，当前的可解释AI/ML的盛行方法通常是（1）无法指导我们的行动和计划，（2）无法透明地透明透明的原因，而没有实施自动化的决定，并且（3）承销规范（道德和法律）判断>>
医疗保健领域人工智能的可解释性
摘要背景：在人工智能 (AI) 应用于医疗保健领域时，可解释性是最受争议的话题之一。尽管人工智能驱动的系统已被证明在某些分析任务中表现优于人类，但缺乏可解释性仍然引发批评。然而，可解释性不是一个纯粹的技术问题，相反，它引发了一系列需要彻底探索的医学、法律、伦理和社会问题。本文对可解释性在医学人工智能中的作用进行了全面评估，并对可解释性对于将人工智能驱动的工具应用于临床实践的意义进行了伦理评估。方法：以基于人工智能的临床决策支持系统为例，我们采用多学科方法从技术、法律、医学和患者的角度分析了可解释性对医学人工智能的相关性。基于这一概念分析的结果，我们随后进行了伦理评估，使用 Beauchamp 和 Childress 的“生物医学伦理原则”（自主、仁慈、不伤害和正义）作为分析框架，以确定医疗 AI 中可解释性的必要性。结果：每个领域都强调了一组不同的核心考虑因素和价值观，这些因素与理解可解释性在临床实践中的作用有关。从技术角度来看，可解释性必须从如何实现和从发展角度来看有什么好处两个方面来考虑。从法律角度来看，我们将知情同意、医疗器械认证和批准以及责任确定为可解释性的核心接触点。医学和患者的观点都强调了考虑人类行为者和医疗 AI 之间相互作用的重要性。我们得出的结论是，在临床决策支持系统中忽略可解释性会对医学的核心伦理价值观构成威胁，并可能对个人和公共健康产生不利影响。结论：为了确保医疗 AI 兑现其承诺，需要让开发人员、医疗保健专业人员和立法者意识到医疗 AI 中不透明算法的挑战和局限性，并促进多学科合作。关键词：人工智能、机器学习、可解释性、可解释性、临床决策支持
灵活且针对具体情境的 AI 可解释性
摘要 近年来人们对人工智能 (AI) 的热情主要归功于深度学习的进步。深度学习方法非常准确，但也不太透明，这限制了它们在安全关键型应用中的潜在应用。为了获得信任和问责，机器学习算法的设计者和操作者必须能够向用户、监管者和公民解释算法的内部工作原理、结果以及失败的原因。本文的独创性在于结合可解释性的技术、法律和经济方面，开发一个框架来定义给定环境下可解释性的“正确”水平。我们提出了三个逻辑步骤：首先，定义主要的背景因素，例如解释的受众是谁、操作背景、系统可能造成的危害程度以及法律/监管框架。此步骤将有助于描述解释的操作和法律需求，以及相应的社会效益。第二步，检查可用的技术工具，包括事后方法（输入扰动、显著性图……）和混合 AI 方法。第三步，根据前两个步骤，选择正确的全局和局部解释输出级别，同时考虑所涉及的成本。我们确定了七种成本，并强调只有当总社会效益超过成本时，解释才具有社会意义。
灵活且针对特定情境的 AI 可解释性
摘要 近年来人们对人工智能 (AI) 的热情主要归功于深度学习的进步。深度学习方法非常准确，但也不够透明，这限制了它们在安全关键应用中的潜在用途。为了获得信任和问责，机器学习算法的设计者和操作者必须能够向用户、监管者和公民解释算法的内部工作原理、结果和失败的原因。本文的独创性在于结合可解释性的技术、法律和经济方面，开发一个框架来定义给定上下文中“正确”的可解释性水平。我们提出了三个逻辑步骤：首先，定义主要的背景因素，例如解释的受众是谁、操作背景、系统可能造成的危害程度以及法律/监管框架。此步骤将有助于描述解释的操作和法律需求，以及相应的社会效益。第二，检查可用的技术工具，包括事后方法（输入扰动、显着图......）和混合AI方法。第三，作为前两个步骤的功能，选择正确的全局和局部解释输出级别，同时考虑所涉及的成本。我们确定了七种成本，并强调只有当总社会效益超过成本时，解释才具有社会用途。