XiaoMi-AI文件搜索系统
World File Search System不透明的
房地产市场分析的可解释的机器学习
鉴于ML的巨大潜力，令人惊讶的是，它们在许多领域的吸收要比从纯技术效率的角度看待的要慢得多。在经济数据分析中，ML擅长计算回归分析和基于群集的分类任务的扩展。但是，由于这些方法通常被认为是不透明的，因此他们所谓的黑匣子角色反复受到批评。某些用例（例如基于AI的信用申请的决策支持）可能会改善和加速银行的业务运营，但还需要增加复制现有结构和决策模式中固有的隐藏偏见的风险。因此，解释ML模型的内部运作对于证明决策并产生新的见解至关重要（Adadi＆Berrada，2018）。
证据状态：算法透明度
算法系统不透明的原因有很多。根据 Burrell (2016) 的说法，不透明可能是故意的，为了保护知识产权、贸易或国家机密，为了遵守法律标准，或者为了避免以某种方式玩弄系统或侵犯其他权利，例如隐私权。它们也可能因为技术文盲或缺乏如何阅读算法系统底层代码的专业知识而变得不透明。根据 Burrell 的说法，算法也可能因为复杂度或高维性与人类尺度推理之间的不匹配而本质上不透明。无论出于何种原因，算法越来越难以捉摸和不透明，导致多个声音呼吁关注算法日益增长的力量以及追究其责任的必要性（Diakopoulos，2014，2015；Pasquale，2015）。
人工智能和模型风险管理
AI/ML模型通常被视为“黑匣子”，这是由于不透明的模型训练过程并挑战了破译的边缘效应。解释和解释模型可能是一个重大挑战。SR 11-7要求将实施该理论的模型方法和处理组件，包括数学规范和数值技术和近似值，应详细说明，并特别注意优点和局限性。该指南还强调了将模型构成有效挑战的重要性，因为其概念性的声音是独立验证的关键方面。通过遵循SR 11-7，我们认为可以使用特征重要性分析，本地和全球解释性等方法来解决与可解释性和解释性有关的问题。
![arXiv:2011.07876v1 [cs.LG] 2020 年 11 月 16 日](/simg/6\68758036e90c90f3903356cd2f9a18d6db5b3ba4.webp)
arXiv:2011.07876v1 [cs.LG] 2020 年 11 月 16 日
通过例如人工神经网络获得的预测具有很高的准确性，但人类通常将模型视为黑匣子。关于决策的见解对人类来说大多是不透明的。特别是了解医疗保健或金融等高度敏感领域的决策至关重要。黑匣子背后的决策需要它对人类更加透明、负责和易于理解。本调查论文提供了基本定义，概述了可解释的监督机器学习 (SML) 的不同原理和方法。我们进行了一项最先进的调查，回顾了过去和最近的可解释 SML 方法，并根据引入的定义对它们进行分类。最后，我们通过解释性案例研究说明原则并讨论重要的未来方向。
Augtyro，Inn-Repotretectinib
该药物会受到其他监测。这将允许快速识别新的安全信息。医疗保健专业人员被要求报告任何可疑的不良反应。有关如何报告不良反应的第4.8节。1。药用产品的名称Augtyro 40毫克硬胶囊Augtyro 160毫克硬胶囊2。定性和定量组成Augtyro 40 mg硬胶囊每个硬胶囊含有40毫克的重核。Augtyro 160毫克硬胶囊每个硬胶囊含有160 mg重新对抗。有关赋形剂的完整列表，请参见第6.1节。3。药物形式胶囊，硬质（胶囊）Augtyro 40毫克硬胶囊尺寸0（长度为21.7毫米），用白色不透明的身体和帽子的硬明胶胶囊，以及“ rep 40”，用蓝色墨水在帽上印有蓝色墨水。Augtyro 160毫克硬胶囊尺寸为0（长度21.7毫米），硬明胶胶囊，带有蓝色不透明的身体和帽子，以及“ rep 160”，用白色墨水在帽上打印。4。临床细节4.1治疗指示Augtyro作为单一疗法，用于治疗成年ROS1阳性晚期非小细胞肺癌（NSCLC）的患者。augtyro作为单一疗法用于治疗12岁及以上的成年和小儿患者，具有表达NTRK基因融合的晚期实体瘤的治疗，并且已经接受了先前的NTRK抑制剂，或者没有接受过NTRK的NTRK抑制剂和治疗方案，未针对NTRK的临床益处有限的治疗方法，请参见ntrk的治疗方法。 Augtyro应由医生在使用抗癌药产品方面启动和监督。
警长办公室
sane的执行董事Shilo Jama是该应用程序中名称的注射器服务计划（SSP）管理员，他本人是一名终身吸毒者，他曾是西雅图的人民减少危害联盟（PHRA）的董事，并曾在他的职业生涯中倡导他的职业生涯，以寻求不反对吸毒的吸毒用户。1在2017年，他是美国最广泛的针头交换计划的负责人，分发了3400万个注射器2，并且不说他们用于交换的注射器。 数以百万计的未划分的注射器在街头，公园和社区中。 Sane现在预计每年将在Placer County分发20万个注射器，并且估计收集200,000个注射器的估计不受任何过去实践的经验证据的支持。 实际上，虽然他们严格说明了他们分发的注射器数量，但他们仅收集收集的用过的注射器/废物的“磅”数据。 这显然是一个不透明的数字，缺乏公职人员对直接影响该县公民的计划做出明智决定的明智决定所必需的透明度。1在2017年，他是美国最广泛的针头交换计划的负责人，分发了3400万个注射器2，并且不说他们用于交换的注射器。数以百万计的未划分的注射器在街头，公园和社区中。Sane现在预计每年将在Placer County分发20万个注射器，并且估计收集200,000个注射器的估计不受任何过去实践的经验证据的支持。实际上，虽然他们严格说明了他们分发的注射器数量，但他们仅收集收集的用过的注射器/废物的“磅”数据。这显然是一个不透明的数字，缺乏公职人员对直接影响该县公民的计划做出明智决定的明智决定所必需的透明度。
科学探索与可解释的人工智能
摘要 使用机器学习开发的模型在科学研究中越来越普遍。与此同时，这些模型是出了名的不透明。可解释人工智能旨在通过使不透明的模型变得透明来减轻不透明性的影响。然而，可解释人工智能不仅仅是一个问题的解决方案，它还可以在科学探索中发挥宝贵的作用。本文介绍了如何使用可解释人工智能的事后分析技术来细化医学科学中的目标现象，确定未来研究（潜在）因果关系的起点，并为认知科学中的目标现象提供可能的解释。通过这种方式，本文描述了可解释人工智能（超越机器学习本身）如何为数据驱动的科学研究的效率和范围做出贡献。
科学探索与可解释的人工智能
摘要 使用机器学习开发的模型在科学研究中越来越普遍。与此同时，这些模型是出了名的不透明。可解释人工智能旨在通过使不透明的模型变得透明来减轻不透明性的影响。然而，可解释人工智能不仅仅是一个问题的解决方案，它还可以在科学探索中发挥宝贵的作用。本文介绍了如何使用可解释人工智能的事后分析技术来细化医学科学中的目标现象，确定未来研究（潜在）因果关系的起点，并为认知科学中的目标现象提供可能的解释。通过这种方式，本文描述了可解释人工智能（超越机器学习本身）如何为数据驱动的科学研究的效率和范围做出贡献。
招聘结果报告中的人工智能
然而，将个人信息的处理转移到这些复杂且有时不透明的系统会给人们及其隐私带来固有风险。人类招聘人员可能会受到影响，并根据可能具有有限科学有效性的人工智能输出、分数或预测做出招聘决策 1 。正如英国政府在其《负责任的招聘指南中的人工智能》中详述的那样，人工智能招聘算法可能不公平，学会模仿人类的偏见，并延续对少数群体的数字排斥 2 。数据伦理与创新中心在 2022 年 12 月的行业温度检查中指出，持有大量个人信息的人工智能系统可能成为网络攻击的目标，
