XiaoMi-AI文件搜索系统
World File Search Systemexplainable
探索脑机接口的深度学习和可解释模型之间的权衡
患有大脑或脊髓相关瘫痪的人通常需要依靠他人来完成基本任务，这限制了他们的独立性。一种潜在的解决方案是脑机接口 (BMI)，它可以让他们通过将大脑活动解码为运动命令来自愿控制外部设备（例如机械臂）。在过去十年中，深度学习解码器在大多数 BMI 应用中都取得了最先进的成果，从语音生成到手指控制。然而，深度学习解码器的“黑匣子”性质可能会导致意外行为，从而在现实世界的物理控制场景中造成重大安全隐患。在这些应用中，可解释但性能较低的解码器（例如卡尔曼滤波器 (KF)）仍然是常态。在这项研究中，我们设计了一个基于 KalmanNet 的 BMI 解码器，KalmanNet 是 KF 的扩展，它使用循环神经网络来增强其操作以计算卡尔曼增益。这会导致在输入和动态之间变化的“信任”。我们使用该算法根据两只猴子的大脑活动来预测手指运动。我们将离线（预先记录的数据，n = 13 天）和在线（实时预测，n = 5 天）的 KalmanNet 结果与简单的 KF 和两种具有最先进结果的最新深度学习算法进行了比较：tcFNN 和 LSTM。KalmanNet 在离线和在线模式下取得了与其他深度学习模型相当或更好的结果，依靠动态模型来停止，而更多地依靠神经输入来启动运动。我们通过实施使用相同策略的异方差 KF 进一步验证了这一机制，并且它也接近最先进的性能，同时仍在标准 KF 的可解释范围内。然而，我们也看到了 KalmanNet 的两个缺点。KalmanNet 与现有的深度学习解码器一样具有有限的泛化能力，并且它使用 KF 作为归纳偏差在存在看不见的噪声分布的情况下限制了其性能。尽管存在这种权衡，我们的分析成功地整合了传统控制和现代深度学习方法，以激发高性能且仍可解释的 BMI 设计。
焦点组织病理学：对可解释的多模式诊断的多模式方法的综述
乳腺癌检测中的精度和及时性对于改善患者预后至关重要。传统的诊断方法主要依赖于单峰方法，但是医学数据分析的最新进展使得超越了传统成像技术以外的各种数据源。本评论认真研究了将组织病理学图像与基因组数据，临床记录和患者历史记录相结合的变革潜力，以提高多模式诊断技术的诊断准确性和全面性。它探讨了早期，中间和晚期融合方法，以及先进的深层多模式融合技术，包括编码器架构，基于注意力的机制和图形神经网络。提供了多模式任务的最新进步，例如视觉问题答案（VQA），报告生成，语义细分和跨模式检索，突出显示了生成AI和视觉语言模型的利用。此外，审查还深入研究了可解释的人工智能（XAI）在阐明复杂诊断算法的决策过程中的作用，强调了对透明性和可解释性的关键需求。通过展示解释性的重要性，我们演示了XAI方法（包括毕业，摇摆，石灰，可训练的注意力和图像字幕），增强诊断精度，增强临床医生的认识和促进患者的参与。该评论还讨论了最新的XAI发展，例如X-Vars，Legrad，Langxai，LVLM-Interpret和Ex-ILP，以证明它们在多模式乳腺癌检测中的潜在效用，同时识别关键的研究差距并提出未来的指导，以推进该文件。
推荐引用 推荐引用 Vilone G.、Rizzo L.、Longo L. 基于规则、与模型无关的可解释人工智能方法的比较分析。第 28 届 AIAI 爱尔兰人工智能与认知科学会议论文集，爱尔兰都柏林，2020 年 12 月 7-8 日，V. 2771，第 85-96 页，DOI：10.21427/z4x3-3f86
摘要：可解释人工智能的最终目标是建立既具有高精度又具有可解释性的模型。理解此类模型的推论可以看作是揭示其输入和输出之间关系的过程。这些关系可以表示为一组推理规则，这些规则通常在模型中并不明确。学者们提出了几种从数据驱动的机器学习模型中提取规则的方法。然而，对它们的比较研究有限。本研究提出了一种新颖的比较方法，通过使用六个定量指标来评估和比较四个事后规则提取器生成的规则集。研究结果表明，这些指标实际上可以帮助识别优于其他方法的方法，从而能够成功地对可解释性的独特方面进行建模。
推荐引用 推荐引用 Giulia Vilone、Luca Longo。可解释性概念和可解释人工智能的评估方法。信息融合，第 76 卷，2021 年，第 89-106 页，ISSN 1566-2535，DOI：10.1016/j.inffus.2021.05.009。
可解释人工智能 (XAI) 在过去几年中经历了显着增长。这是由于机器学习（尤其是深度学习）的广泛应用，导致开发出缺乏可解释性和可解释性的高精度模型。已经提出、开发和测试了大量解决此问题的方法，同时还有几项研究试图定义可解释性的概念及其评估。本系统综述通过分层系统将所有科学研究聚类，对与可解释性概念和 XAI 方法的评估方法相关的理论和概念进行分类，从而为知识体系做出了贡献。此层次结构建立在对现有分类法和同行评审的科学材料的详尽分析之上。研究结果表明，学者们已经确定了许多概念和要求，解释应该满足这些概念和要求，以便最终用户能够轻松理解并提供可操作的信息来指导决策。他们还提出了各种方法来评估机器生成的解释在多大程度上满足了这些要求。总体而言，这些方法可以归结为以人为本的评估和具有更客观指标的评估。然而，尽管围绕可解释性概念发展了大量知识，但学者们对于如何定义解释以及如何评估其有效性和可靠性并没有达成普遍共识。最后，本评论通过批判性地讨论这些差距和局限性得出结论，并以可解释性作为任何人工智能系统的起始组成部分，定义了未来的研究方向。
仅通过ECG解释的深度学习算法预测了磷团心肌病中恶性心律失常的风险
来自荷兰乌得勒支大学医学中心1个心脏病学系，荷兰乌特雷希特，2个心脏病学系，格罗宁根大学医学中心，格罗宁根大学医学中心，荷兰3号，阿姆斯特丹UMC UMC位置的心脏病学系3，阿姆斯特丹，阿姆斯特丹，阿姆斯特丹，荷兰，荷兰，4欧洲，低 - 稀有的居民，或复杂的居民Guard-Heart），第5届临床流行病学系，生物统计学和生物信息学系，阿姆斯特丹大学医学中心，阿姆斯特丹大学，阿姆斯特丹大学，阿姆斯特丹，荷兰，荷兰，第6次心脏病学系，Sneek，Sneek，Sneek，Sneek，Sneek，Sneek，Sneek，Sneek，荷兰，荷兰7号，荷兰，荷兰7号，荷兰，荷兰，纽约市，纽约市，纽约市，纽约市。 Leeuwarden，荷兰，荷兰9号，NOordWest医院组9，荷兰烷烃，荷兰10号，人类遗传学10，阿姆斯特丹大学医学中心，阿姆斯特丹，荷兰，荷兰11号，遗传学系11荷兰心脏研究所，荷兰，荷兰，中央军事医院，乌得勒支14号，荷兰，荷兰伊斯兰穆斯医学中心15个心脏病学系。*这些作者为这项工作做出了同样的贡献。
对比图池化用于可解释的分类...
摘要 — 功能性磁共振成像 (fMRI) 是一种常用的测量神经激活的技术。它在识别帕金森病、阿尔茨海默病和自闭症等潜在的神经退行性疾病方面尤为重要。最近对 fMRI 数据的分析将大脑建模为图形，并通过图神经网络 (GNN) 提取特征。然而，fMRI 数据的独特特性需要对 GNN 进行特殊的设计。定制 GNN 以生成有效且可领域解释的特征仍然具有挑战性。在本文中，我们提出了一种对比双注意块和一种可微分图池化方法（称为 ContrastPool），以更好地利用 GNN 进行大脑网络，满足 fMRI 特定的要求。我们将我们的方法应用于 3 种疾病的 5 个静息状态 fMRI 脑网络数据集，并证明了它优于最先进的基线。我们的案例研究证实，我们的方法提取的模式与神经科学文献中的领域知识相匹配，并揭示了直接而有趣的见解。我们的贡献凸显了 ContrastPool 在促进对大脑网络和神经退行性疾病的理解方面的潜力。源代码可在 https://github.com/AngusMonroe/ContrastPool 上找到。
使用可解释的AI研究健康衰老期间的心电图变化 - 从专家特征到原始信号
心血管疾病仍然是全球死亡率的主要原因。年龄是一个重要的协变量，在健康队列中最容易研究其效果，以使前者与疾病相关的变化区分开。传统上，大多数此类见解都是从心电图分析（ECG）随着年龄的增长而变化的。但是，这些功能虽然有益，但可能会掩盖潜在的数据关系。在本文中，我们提供以下贡献：（1）我们采用深度学习模型和基于树的模型来分析来自原始信号和ECG特征形式的不同年龄段健康个体的强大数据的ECG数据。（2）我们使用可解释的AI方法来识别跨年龄组最具歧视性的ECG特征。（3）我们对基于树的分类器的分析揭示了与年龄相关的呼吸率下降的下降，并识别出高度高的SDANN值表示是老年人的指示，使他们与年轻人区分开。（4）此外，深度学习模型低估了P波在所有年龄段的年龄预测中的关键作用，这表明随着年龄的增长，不同P波类型的分布的潜在变化。这些发现为与年龄相关的心电图变化提供了新的启示，从而提供了超越传统特征方法的见解。
可解释的人工智能辅助对新手牙科医生临床决策的影响 可解释的人工智能辅助对新手牙科医生临床决策的影响
目的：尽管人工智能 (AI) 在医疗保健领域的应用越来越多，但在实施过程中仍存在挑战，这可能导致医生在临床决策过程中出现偏见。通过牙科放射学中的识别任务（诊断的重要组成部分），研究了人工智能与新手临床医生的互动。该研究评估了牙科学生在有无 AI 帮助的情况下，通过放射学识别根分叉病变 (FI) 的表现、效率和信心水平。材料和方法：22 名三年级和 19 名四年级牙科学生（分别为 DS3 和 DS4）完成了远程管理的调查，以在一系列牙科 X 光片上识别 FI 病变。对照组在没有 AI 帮助的情况下接受射线照片，而测试组接受相同的射线照片和 AI 标记的射线照片。使用卡方、Fischer 精确检验、方差分析或 Kruskal-Wallis 检验对数据进行适当分析。结果：除了 1 个问题倾向于用 AI 生成的答案出错（P < .05）外，有无 AI 辅助的组之间的表现在统计学上并不显著。各组之间的任务完成效率和信心水平在统计学上并不显著。然而，有无 AI 辅助的两组都认为使用 AI 会改善临床决策。讨论：使用 AI 辅助在射线照片中检测 FI 的牙科学生倾向于过度依赖 AI。结论：AI 输入会影响临床决策，这在新手临床医生身上可能尤其明显。由于它已融入日常临床实践中，因此必须谨慎行事，以防止过度依赖 AI 生成的信息。
为亚洲血管伤口图像开发可解释的人工智能模型
关键信息 • 鉴于血管伤口的复杂性和动态性，其评估仍然具有挑战性；人工智能和机器学习方法可以帮助进行伤口分析。• 利用 2957 张亚洲血管伤口图像，开发了机器学习模型来分析伤口图像。使用可解释性方法来解释人工智能决策推理。• 伤口图像分析模型对伤口图像的分类准确率为 95.9%（AUC 0.99），自动估计深度分类和伤口测量准确率为 85.0%（AUC 0.97）和 87.1%（AUC 0.92），伤口分割准确率为 87.8%（AUC 0.95）。• 随着进一步发展，它可以用作临床决策支持系统并集成到现有的医疗保健电子系统中。
使用可解释的人工智能构建痴呆和轻度认知障碍患者结构性脑畸变的个性化表征
此预印本的版权所有者此版本于 2024 年 2 月 22 日发布。；https://doi.org/10.1101/2023.06.22.23291592 doi: medRxiv preprint