XiaoMi-AI文件搜索系统
World File Search Systemexplainability
FAIRX：使用公平，实用性和解释性
摘要我们提出了Fairx，这是一种基于python的开源基准测试工具，旨在全面分析公平，效用和解释性（XAI）的模型。FAIRX使用户可以使用各种公平指标，数据实用程序指标来训练基准测试模型，并评估其公平性，并在统一框架内生成模型预测的解释。现有的基准测试工具无法评估从公平生成模型产生的合成数据，也不支持培训公平生成模型。在Fairx中，我们在收集我们的Fair-Model库（预处理，处理，后处理）和评估指标中添加了公平生成模型，以评估合成公平数据的质量。此版本的FaiRX支持表格数据集和图像数据集。它还允许用户提供自己的自定义数据集。开源Fairx基准测试包在https://github.com/fahim-sikder/fairx上公开可用。
推荐引用 推荐引用 Giulia Vilone、Luca Longo。可解释性概念和可解释人工智能的评估方法。信息融合，第 76 卷，2021 年，第 89-106 页，ISSN 1566-2535，DOI：10.1016/j.inffus.2021.05.009。
可解释人工智能 (XAI) 在过去几年中经历了显着增长。这是由于机器学习（尤其是深度学习）的广泛应用，导致开发出缺乏可解释性和可解释性的高精度模型。已经提出、开发和测试了大量解决此问题的方法，同时还有几项研究试图定义可解释性的概念及其评估。本系统综述通过分层系统将所有科学研究聚类，对与可解释性概念和 XAI 方法的评估方法相关的理论和概念进行分类，从而为知识体系做出了贡献。此层次结构建立在对现有分类法和同行评审的科学材料的详尽分析之上。研究结果表明，学者们已经确定了许多概念和要求，解释应该满足这些概念和要求，以便最终用户能够轻松理解并提供可操作的信息来指导决策。他们还提出了各种方法来评估机器生成的解释在多大程度上满足了这些要求。总体而言，这些方法可以归结为以人为本的评估和具有更客观指标的评估。然而，尽管围绕可解释性概念发展了大量知识，但学者们对于如何定义解释以及如何评估其有效性和可靠性并没有达成普遍共识。最后，本评论通过批判性地讨论这些差距和局限性得出结论，并以可解释性作为任何人工智能系统的起始组成部分，定义了未来的研究方向。
使用变分自编码器增强梯度提升算法进行不平衡岩爆评估及其可解释性
我们开展了一项研究来评估梯度提升算法在岩爆评估中的潜力和稳健性，建立了一个变分自动编码器（VAE）来解决岩爆数据集的不平衡问题，并提出了一种针对基于树的集成学习的多级可解释人工智能（XAI）。我们从现实世界的岩爆记录中收集了537个数据，并选择了四个导致岩爆发生的关键特征。首先，我们使用数据可视化来深入了解数据的结构，并进行相关性分析以探索数据分布和特征关系。然后，我们建立了一个VAE模型来为由于类别分布不平衡而产生的少数类生成样本。结合VAE，我们比较和评估了六种最先进的集成模型，包括梯度提升算法和经典逻辑回归模型，用于岩爆预测。结果表明，梯度提升算法优于经典的单一模型，而 VAE 分类器优于原始分类器，其中 VAE-NGBoost 模型的结果最为理想。与针对不平衡数据集结合 NGBoost 的其他重采样方法（例如合成少数族群过采样技术 (SMOTE)、SMOTE 编辑最近邻 (SMOTE-ENN) 和 SMOTE-tomek 链接 (SMOTE-Tomek)）相比，VAE-NGBoost 模型的效果最佳。最后，我们使用特征灵敏度分析、Tree Shapley 附加解释 (Tree SHAP) 和 Anchor 开发了一个多级 XAI 模型，以深入探索 VAE-NGBoost 的决策机制，进一步增强基于树的集成模型在预测岩爆发生方面的可靠性。
增强大脑中的深度学习模型的解释性...
如前所述，谎言被用来为拟议改进之前和之后的模型预测提供解释。没有细化，解释显示出次优的肿瘤节覆盖率，平均仅为32.41％。在引入改进机制后，使用了三种不同的技术（Canny，Laplace，Otsu的阈值）用于生产脑面膜。为了确定生成有意义解释的最佳段数，我们探索了使用精制的石灰图像解释器选择最佳的1、3和5段的影响。检查肿瘤细分市场的覆盖范围，我们发现依靠单个细分市场的平均覆盖率为27.63％，非常类似于挑选最佳3个细分市场而没有我们的细化的表现。选择最佳的3个细分市场时，观察到了实质性的改进，平均增加到50.28％。采用5个部分的肿瘤覆盖率为63.84％。
立场检测方法的偏见和解释性
Sherbrooke大学是一家讲法语的机构，以其人类维度，创新的操作风格和与专业人士的合作而闻名。Sherbrooke大学欢迎来自全球102个国家和地区的31,700多名学生。该系由24位积极参与以下研究领域的教授组成：人工智能，生物信息学，健康信息学，人类计算机互动，成像和数字媒体科学等。NLP实验室专注于理解和生成与社会问题有关的各种学科中的文本。其工作包括对可恶内容的识别和缓解，对假新闻的检测，对社交网络表达的立场的分析以及基于神经体系结构的NLP模型中的偏见的解释性和降低。
这不是“准确性与可解释性”——我们需要两者来打造值得信赖的 AI 系统
我们正在见证“人工智能经济和社会”的出现，人工智能技术正日益影响医疗保健、商业、交通和日常生活的许多方面。据报道，人工智能系统取得了许多成功，甚至超过了人类专家的准确性。然而，人工智能系统可能会产生错误，可能表现出偏见，可能对数据中的噪音敏感，并且往往缺乏技术和司法透明度，导致信任度降低并在采用过程中面临挑战。这些最近的缺点和担忧已在科学界和一般媒体上得到记录，例如自动驾驶汽车事故、医疗保健中的偏见、有色人种的招聘和人脸识别系统、看似正确的医疗决定后来被发现是由于错误的原因等。这导致许多政府和监管举措的出现，要求值得信赖和合乎道德的人工智能提供准确性和稳健性、某种形式的可解释性、人类控制和监督、消除偏见、司法透明度和安全性。交付可信 AI 系统所面临的挑战促使了对可解释 AI 系统 (XAI) 的深入研究。XAI 的目的是提供人类可理解的 AI 系统如何做出决策的信息。在本文中，我们首先简要总结当前的 XAI 工作，然后挑战最近的“准确性与可解释性”论点，因为它们是相互排斥的，并且只关注深度学习。然后，我们提出了在高风险可信 AI 系统交付的整个生命周期中使用 XAI 的建议，例如开发；验证/认证；以及可信的生产和维护。虽然我们的大多数示例和讨论都与健康和生物医学应用有关，因为它们对社会和经济影响巨大，并且有大量已发表的著作，但我们相信我们的建议与交付所有类型的高风险可信 AI 应用程序相关。
ATM 中的人工智能：透明度、可解释性、一致性、情况
该项目采用三层方法，包括操作层、预测层和风险框架。在与空中交通管制员的研讨会上，操作层开发了复飞预测可以为空中交通管理带来好处的场景。这导致了 SafeOPS 初始阶段的初步运营概念和用例和要求的定义。在此基础上，预测层开发了复飞预测的初始机器学习模型，深入了解了可实现的准确性和预测的透明度。同时，风险框架评估了预见的决策支持概念在运营安全方面的风险和好处，还包括人为因素考虑。在项目的最后阶段，运营层根据风险框架和预测层的发现设计了一个模拟练习，以调查 SafeOPS 概念对安全性和弹性的影响。因此，SafeOPS 专注于最初定义的场景中的分离挑战、工作量和 Tower 操作容量。
FinRegLab：研讨会——“人工智能与经济：为负责任和包容的人工智能规划道路”联合活动，邀请著名政策制定者参加，重点关注金融服务领域的负责任人工智能。华盛顿特区，2022 年 4 月 22 日——FinRegLab 将与美国商务部、美国国家标准与技术研究所 (NIST) 和斯坦福以人为本人工智能研究所 (HAI) 合作，于 2022 年 4 月 27 日举办一场研讨会，汇集政府、行业、民间社会和学术界的领导人，探讨人工智能和机器学习在不同经济部门部署带来的潜在机遇和挑战，特别关注金融服务和医疗保健。已确认的发言人包括商务部副部长 Don Graves；参议员 Joni Ernst；代理货币监理署署长 Michael Hsu；万事达卡执行副总裁兼首席数据官 JoAnn Stonier；富国银行执行副总裁兼模型风险主管 Agus Sudjianto、斯坦福大学商学院教授兼 HAI 副主任 Susan Athey 博士、布鲁金斯学会技术创新中心主任 Nicol Turner Lee 博士以及哈佛大学计算与社会研究中心博士后研究员 Manish Raghavan 博士。演讲者和小组成员将讨论研究、政策建议和新兴行业实践。FinRegLab 首席执行官兼主任 Melissa Koide 表示：“人工智能与新型数据相结合，为改善金融包容性和平等性提供了巨大的潜力。然而，也存在加剧偏见和排斥的巨大风险。认真、有针对性地研究消费者受到的影响对于制定正确的规则至关重要。” FinRegLab 还将于 4 月 28 日举办一场虚拟会议，详细介绍该组织和斯坦福大学商学院 Laura Blattner 教授和 Jann Spiess 教授就机器学习在信用承保中的应用开展的研究，特别关注机器学习模型对可解释性和公平性的潜在影响。这项研究对当前可用工具的性能和功能进行了实证评估，这些工具旨在帮助贷方开发、监控和管理机器学习承保模型。媒体成员如有兴趣亲临或以虚拟方式参加研讨会或寻求评论，请联系 Alex Bloomfield，邮箱地址为 alex.bloomfield@finreglab.org。有关研讨会的更多信息，包括所有演讲者和小组讨论，请访问此处的活动页面。
FinRegLab：研讨会——“人工智能与经济：为负责任和包容的人工智能规划道路”联合活动，邀请著名政策制定者参加，重点关注金融服务领域的负责任人工智能。华盛顿特区，2022 年 4 月 22 日——FinRegLab 将与美国商务部、美国国家标准与技术研究所 (NIST) 和斯坦福以人为本人工智能研究所 (HAI) 合作，于 2022 年 4 月 27 日举办一场研讨会，汇集政府、行业、民间社会和学术界的领导人，探讨人工智能和机器学习在不同经济部门部署带来的潜在机遇和挑战，特别关注金融服务和医疗保健。已确认的发言人包括商务部副部长 Don Graves；参议员 Joni Ernst；代理货币监理署署长 Michael Hsu；万事达卡执行副总裁兼首席数据官 JoAnn Stonier；富国银行执行副总裁兼模型风险主管 Agus Sudjianto、斯坦福大学商学院教授兼 HAI 副主任 Susan Athey 博士、布鲁金斯学会技术创新中心主任 Nicol Turner Lee 博士以及哈佛大学计算与社会研究中心博士后研究员 Manish Raghavan 博士。演讲者和小组成员将讨论研究、政策建议和新兴行业实践。FinRegLab 首席执行官兼主任 Melissa Koide 表示：“人工智能与新型数据相结合，为改善金融包容性和平等性提供了巨大的潜力。然而，也存在加剧偏见和排斥的巨大风险。认真、有针对性地研究消费者受到的影响对于制定正确的规则至关重要。” FinRegLab 还将于 4 月 28 日举办一场虚拟会议，详细介绍该组织和斯坦福大学商学院 Laura Blattner 教授和 Jann Spiess 教授就机器学习在信用承保中的应用开展的研究，特别关注机器学习模型对可解释性和公平性的潜在影响。这项研究对当前可用工具的性能和功能进行了实证评估，这些工具旨在帮助贷方开发、监控和管理机器学习承保模型。媒体成员如有兴趣亲临或以虚拟方式参加研讨会或寻求评论，请联系 Alex Bloomfield，邮箱地址为 alex.bloomfield@finreglab.org。有关研讨会的更多信息，包括所有演讲者和小组讨论，请访问此处的活动页面。
管理人工智能可解释性对立效应之间的紧张关系：权变理论的视角
摘要 目的——对数据分析和人工智能 (AI) 系统的可解释性和可解释性的研究正在兴起。然而，最近的大多数研究要么仅仅宣传可解释性的好处，要么批评它会产生适得其反的效果。本研究针对这一两极分化的领域，旨在确定人工智能可解释性的对立影响及其之间的紧张关系，并提出如何管理这种紧张关系以优化人工智能系统的性能和可信度。 设计/方法/方法——作者系统地回顾文献，并使用权变理论的视角对其进行综合，以开发一个管理人工智能可解释性对立影响的框架。 发现——作者发现了可解释性的五个对立影响：可理解性、行为、保密性、完整性和对人工智能的信心 (5C)。作者还提出了管理 5C 之间紧张关系的六个观点：解释的实用主义、解释的情境化、人类机构和人工智能机构的共存、指标和标准化、监管和道德原则以及其他新兴解决方案（即人工智能封装、区块链和人工智能模糊系统）。研究局限性/含义——与其他系统文献综述研究一样，结果受到所选论文内容的限制。 实际意义——研究结果表明，人工智能所有者和开发者如何通过可见性、问责制和维护人工智能的“社会利益”来管理盈利能力、预测准确性和系统性能之间的紧张关系。研究结果指导从业者以人工智能操作的背景为重点，制定人工智能可解释性的指标和标准。 原创性/价值——本研究探讨了学者和从业者对人工智能可解释性的好处与其适得其反的影响的两极化看法。它提出，没有单一的最佳方法来最大化人工智能的可解释性。相反，必须管理促成效应和制约效应的共存。 关键词 权变理论、系统文献综述、可解释人工智能、可解释分析、缓解策略、相反影响 论文类型 研究论文
能源消耗中的非技术损失检测，重点关注能源回收和可解释性
摘要 非技术损失 (NTL) 是许多公用事业公司试图解决的问题，通常使用黑盒监督分类算法。一般来说，这种方法取得了良好的效果。然而，在实践中，NTL 检测面临着技术、经济和透明度方面的挑战，这些挑战无法轻易解决，并且会损害预测的质量和公平性。在这项工作中，我们将这些问题置于为一家国际公用事业公司建立的 NTL 检测系统中。我们解释了如何通过从分类转向回归系统并引入解释技术来提高其准确性和理解力，从而缓解这些问题。正如我们在本研究中所展示的，回归方法可以成为缓解这些技术问题的一个很好的选择，并且可以进行调整以捕捉最引人注目的 NTL 案例。此外，可解释的人工智能（通过 Shapley 值）使我们能够在基准测试之外验证回归方法在这种背景下的正确性，并大大提高我们系统的透明度。