反事实解释通过指出将导致替代性,期望的结果的方案来阐明算法决策。深入了解模型的行为,他们暗示用户采取可能的行动,并为决策提供理由。作为实现这些目标的关键因素,反事实必须是合理的,即描述数据歧管中现实的替代方案。本文利用了最近开发的生成建模技术 - 对抗随机森林(ARFS) - 以模型 - 不合Snostic的方式有效地产生了合理的反事实。ARF可以用作合理性措施或直接产生反事实解释。我们的基于ARF的方法超过了旨在产生合理的反事实解释的现有方法的局限性:易于训练和计算高效,自然而然地处理连续和分类数据,并允许以直接的方式整合诸如稀疏之类的其他DeSiderata。
人工智能在使用医疗图像的医疗保健任务上表现出了有希望的表现。但是,有必要了解法律,道德和故障排除目的的AI模型的决策过程。本文档概述了可解释性工具箱的开发,该工具箱旨在提高手工制作的放射组学和医学成像中深度学习解决方案的透明度。对于手工制作的放射线学,该工具箱提供了用于生成Shapley添加说明,局部解释的模型 - 不合Snostic解释以及适用于任何机器学习模型的表征反事实的工具。为了深入学习,该工具箱提供了为2D和3D分类模型创建归因地图的功能,以及生成反事实图像说明的说明性示例。此外,工具箱还扩展了反事实框架以结合层的相关性传播,从而允许将临床变量纳入决策。最后,该文档展示了一个使用Python和简化构建的示例平台,该平台旨在在临床背景下验证这些解释,从而评估其在决策过程中的可用性和价值。可解释性工具箱可在以下链接中获得:https://github.com/zohaibs1995/radiomics_explainables_toolbox。
摘要 - 在非驾驶飞机(UAV)的动态和不断变化的领域中,最重要的重要性在于保证弹性和清醒的安全措施。这项研究强调了实施零信托架构(ZTA)的必要性,以增强无人机的安全性(UAVS)的安全性,从而脱离了可能暴露于脆弱性的传统外围防御能力。零信任体系结构(ZTA)范式需要一个严格且连续的过程来验证所有网络实体和通信。我们方法在检测和识别非驾驶飞机(UAV)方面的准确性为84.59%。这是通过在深度学习框架内利用射频(RF)信号来实现的,这是一种独特的方法。精确的标识在零信任体系结构(ZTA)中至关重要,因为它决定了网络访问。此外,使用可解释的人工智能(XAI)工具,例如Shapley添加说明(SHAP)和局部可解释的模型 - 不合Snostic解释(LIME),这有助于改善模型的透明度和可解释性。遵守零信任体系结构(ZTA)标准可以确保无人驾驶汽车(UAV)的分类是可验证且可理解的,从而增强了无人机领域内的安全性。索引术语 - 零信任体系结构,无人机检测,RF信号,深度学习,塑造,石灰,可解释的AI,空域安全
摘要:中风是一种危险的医学障碍,当血液流向大脑的流动被破坏时,会导致神经系统障碍。这是全球范围内的巨大威胁,具有严重的健康和经济影响。为了解决这个问题,研究人员正在开发自动中风预测算法,这将允许早期干预甚至可以挽救生命。随着人口年龄的增长,处于中风风险的人数正在增长,使精确有效的预测系统越来越关键。wo在与六个众所周知的分类器的比较检查中,根据与概括能力和预测准确性有关的指标,探索了所提出的ML技术的有效性。在本研究中,我们还研究了两种可解释的技术,即形状和石灰。Shap(Shapley添加说明)和石灰(局部可解释的模型 - 不合Snostic解释)是建立良好且可靠的方法,用于解释模型决策,尤其是在医疗行业中。实验的发现表明,更复杂的模型优于更简单的模型,顶部模型获得了几乎91%的精度,而其他模型则达到了83-91%的精度。所提出的框架(包括全球和局部可解释的方法)可以帮助标准化复杂的模型并洞悉其决策,从而增强中风护理和治疗。索引术语 - 中风预测,可解释的机器学习,形状,石灰
摘要。在本文中,我们介绍了Indmask,这是一个框架,用于解释Black-Box时间序列模型的决策。存在大量用于提供机器学习模型解释的方法时,时间序列数据需要其他考虑。一个人需要考虑解释中的时间方面,并处理大量输入功能。最近的工作提出了通过在In-In-In-Time序列上产生面具来解释时间序列预测的。掩码中的每个条目对应于每个时间步骤的每个功能的重要性得分。但是,这些方法仅生成实例解释,这意味着需要对每个输入进行分别计算掩码,从而使它们不适合归纳设置,在这种情况下,需要为众多输入生成解释,并且实例解释的生成非常严重。此外,这些方法主要是在简单的复发性神经网络上评估的,通常仅适用于特定的下游任务。我们提出的框架IndMask通过利用掩码生成的参数化模型来解决这些问题。我们还超越了经常性的神经网络,并将indmask部署到变压器体系结构上,从而真正地阐明了其模型 - 不合Snostic的性质。通过对现实世界数据集和时间序列分类和预测任务的实验进一步证明了indmask的有效性。它也是有效的,并且可以与任何时间序列模型一起部署。
机器学习(ML)模型在面对隐私攻击时可以公开培训数据的私人信息。具体来说,对ML-AS-AS-Service平台访问的恶意用户可以通过查询ML模型来重建培训数据(即模型反转攻击)或推断成会员信息(即成员资格推论)。尽管需要有效地防止使用Black-Box访问来防御隐私攻击,但现有方法主要集中于通过修改模型培训过程或模型预测过程来增强ML模型的强大范围。这些防御可能会损害模型实用性,并需要基础AI平台(即平台依赖性)的合作。这些约束在很大程度上限制了现有防御的现实适用性。尽管普遍着重于改善模型的强大功能,但现有的作品都没有集中于通过实时检测隐私泄漏来持续保护已经部署的ML模型免于隐私攻击。考虑到如今的ML-AS-Service平台的大量部署,这项防御任务变得越来越重要。为了弥合差距,我们提出了Privmon,这是一种基于ML模型的实时隐私攻击检测的新型系统。为了促进广泛的适用性和实践性,Privmon以平台 - 不合Snostic的方式为Black-Box ML模型防御广泛的隐私攻击:仅Privmon只有Passips-Passipsions Monitors模型查询而无需模型所有者或AI平台的合作。具体来说,私人将ML模型查询的输入作为输入,并提供有效的攻击
摘要:随着解释机器学习(ML)模型的兴趣越来越多,本文综合了许多与ML解释性相关的主题。我们将解释性与解释性,本地解释性以及功能重要性与功能相关性区分开。我们演示和可视化不同的解释方法,如何解释它们,并提供完整的Python软件包(Scikit-templain),以允许未来的研究人员和模型开发人员探索这些解释能力方法。解释性方法包括Shapley添加性解释(SHAP),Shapley添加剂全球解释(SAGE)和累积的局部效应(ALE)。我们的重点主要放在基于沙普利的技术上,这些技术是增强模型解释性的各种现有方法的统一框架。例如,制造一致的方法,例如可解释的模型 - 不合Snostic解释(lime)和树解释器,用于局部解释性,而鼠尾草则统一了对全球解释性的置换重要性的不同变化。我们提供了一个简短的教程,用于使用三个不同数据集解释ML模型:用于对流的模型数据集用于恶劣天气预测,一个用于子冷冻道路表面预测的幕后数据集,以及用于雷电预测的基于卫星的数据。此外,我们还展示了相关特征对模型的解释性的不利影响。最后,我们演示了评估特征组的模型图案而不是单个特征的概念。评估特征组可减轻特征相关性的影响,并可以对模型提供更全面的理解。本研究中使用的所有代码,模型和数据都可以自由使用,以加速大气和其他环境科学中的机器学习解释性。
在数字化时代,手写文档识别具有多种应用,例如历史信息保存,邮政地址识别等。对无价文化宝藏的保护和分析在很大程度上取决于历史文档中手写的数字字符串识别。认可的主要挑战是写作风格的变化,噪声,扭曲和有限的数据。本文提出了一种新的方法,可以克服包含数字字符串的复杂,褪色和旧手写文档的困难。目标是创建一个可靠有效的系统,该系统自动识别古代手稿的数字字符串,有助于数字化记录。因此,本文提出了一个强大的视觉变压器框架,以识别手写数字字符串,而不会从较小数据集的未清洗图像中分割数字。所提出的方法是一个四步过程,包括预处理,通过象征化提取特征提取,使用视觉变压器的注意机制识别以及使用光束搜索解码器进行结果解码。将提出方法的性能与由卷积神经网络和长期记忆(CNN-LSTM)组成的混合方法进行比较。所提出的方法达到了56%的单词准确性,损失在更少的时间内低于0.6。结果表明,所提出的模型是一个快速学习者,可以在预期更少的时间内的实时场景中使用。这项研究的结果会影响邮政服务的数字化。在本文中还借助局部可解释的模型 - 不合Snostic解释(LIME)技术讨论了所提出的深度学习模型绩效解释。通过为实时应用程序提供软件即服务(SAAS)来概括所提出的方法的概括,以作为未来的研究方向。
抽象目标:包括孟加拉国和印度在内的许多南亚国家的农业部门在经济中起着关键作用,其中很大一部分人口依赖于生计。然而,农民经常遇到诸如不可预测的天气状况,土壤可变性以及诸如洪水和侵蚀的自然灾害之类的挑战,导致农作物的损失和经济损失。尽管政府补贴,许多农民仍在努力维持生计,导致对农业的利益下降。我们的重点是预测基于土壤和天气特征的组合,包括大米,黄麻,玉米等各种作物的分类。土壤特征,包括氮,磷,钾和pH水平,以及天气变量(例如温度,湿度和降雨),用于预测模型的输入。方法:在本研究中,我们通过利用先进的机器学习技术并将遗传算法整合到预测模型中来解决农作物预测的关键问题。我们提出的方法采用了混合方法,其中利用遗传算法来优化模型的超参数,从而增强其性能和鲁棒性。具体来说,我们采用了随机的森林分类器,一种强大的合奏学习技术,对与22种不同类型的农作物相关的类标签进行分类。发现:对模型的精度进行了广泛的评估,证明了99.3%的明显准确率。这种整合的目的是提高农作物预测模型的可解释性和准确性。此外,我们还利用了局部可解释的模型 - 不合Snostic解释(Lime)和Shapley添加说明(SHAP)可解释的AI(XAI)方法来解释和验证模型的预测。新颖性:该研究提出了一种独特的作物预测方法,该方法将机器学习(ML)与遗传算法(GAS)结合在一起。由于局部近似酸橙的性质,可能会产生矛盾的答案。另一方面,对于复杂的模型和广泛的数据集,塑造的计算成本可能很高。通过改进特征选择和模型参数,将气体与ML模型的集成克服了这些缺点,并产生了更可靠和准确的预测。我们系统所实现的高精度强调了其减轻农作物损失和提高农业生产力的潜力,从而为任何国家的农业部门的可持续性和繁荣做出了贡献。