XiaoMi-AI文件搜索系统
World File Search System可解
对在入侵检测系统中可解释的人工智能整合的系统综述，以增强网络安全的透明度和可解释性
复杂的网络威胁的兴起刺激了入侵检测系统（IDS）的进步，这对于实时识别和减轻安全漏洞至关重要。传统ID通常依赖于复杂的机器学习算法，尽管其精确度很高，这些算法仍缺乏透明度，从而产生了“黑匣子”效应，从而阻碍了分析师对他们决策过程的理解。可解释的人工智能（XAI）通过提供可解释性和透明度，提供了一个有希望的解决方案，使安全专业人员能够更好地理解IDS模型。本文对XAI在ID中的集成进行了系统的综述，重点是提高网络安全的透明度和可解释性。通过对最近的研究的全面分析，本综述确定了常用的XAI技术，评估了它们在IDS框架中的有效性，并检查了它们的收益和局限性。的发现表明，基于规则和基于树的XAI模型是其可解释性的首选，尽管具有检测准确性的权衡仍然具有挑战性。此外，该评论突出了标准化和可扩展性中的关键差距，强调了对混合模型和实时解释性的需求。本文以未来研究方向的建议结束，提出了针对ID，标准化评估指标以及优先级安全和透明度的道德框架量身定制的XAI技术的改进。本评论旨在告知研究人员和从业者当前的趋势和未来利用XAI提高ID的有效性，促进更透明，更弹性的网络安全景观方面的机会。
轻量级且可解释的 Deepfakes 检测框架
摘要 — 近期所谓的深度伪造的现实创作和传播对社会生活、公民休息和法律构成了严重威胁。名人诽谤、选举操纵和深度伪造作为法庭证据只是深度伪造的一些潜在后果。基于 PyTorch 或 TensorFlow 等现代框架、FaceApp 和 REFACE 等视频处理应用程序以及经济的计算基础设施的开源训练模型的可用性简化了深度伪造的创作。大多数现有检测器专注于检测换脸、口型同步或木偶大师深度伪造，但几乎没有探索用于检测所有三种类型深度伪造的统一框架。本文提出了一个统一的框架，利用混合面部标志和我们新颖的心率特征的融合功能来检测所有类型的深度伪造。我们提出了新颖的心率特征，并将它们与面部标志特征融合，以更好地提取假视频的面部伪影和原始视频中的自然变化。我们利用这些特征训练了一个轻量级的 XGBoost，以对 deepfake 和真实视频进行分类。我们在包含所有类型 deepfake 的世界领袖数据集 (WLDR) 上评估了我们框架的性能。实验结果表明，与比较 deepfake 检测方法相比，所提出的框架具有更优异的检测性能。将我们的框架与深度学习模型候选模型 LSTM-FCN 进行性能比较，结果表明，所提出的模型取得了类似的结果，但它更具可解释性。索引术语 —Deepfakes、多媒体取证、随机森林集成、树提升、XGBoost、Faceswap、Lip sync、Puppet Master。
反卷积网络在癫痫检测中的特征可解释性应用
大脑中不规则的电活动会导致人的行为、运动、感官体验和对周围环境的意识发生深刻而暂时的变化（Nasiri 和 Clifferd，2021 年）。在早期阶段识别和治疗癫痫对患有这种疾病的人来说可以带来关键而有价值的变化。头皮脑电图 (EEG) 是一种测量大脑电活动的非侵入性技术，是诊断癫痫的广泛使用的补充检查（Liang 等人，2020 年）。在癫痫发作期间，患者的脑电图将显示出明显的异常模式（Staba 等人，2014 年）。医生可以通过检查脑电图来帮助确定是否发生癫痫。然而，审查长期脑电图需要医生投入大量的时间和精力。因此，开发自动癫痫检测算法至关重要（Si 等人，2023 年）。研究人员正积极致力于开发利用脑电图数据自动检测癫痫发作的方法。从最初使用硬件电路的尝试到后来利用时域信息和基于阈值的方法进行癫痫发作检测。后续发展涉及使用频域特征和提取时频特征（Xia 等人，2015 年）进行癫痫发作检测。自引入以来，深度学习模型在计算机视觉任务中比手动提取的特征更具弹性（Chen 等人，2024 年）、语音识别（Eris and Akbal，2024 年）和自然语言处理（Luo 等人，2024 年）。因此，利用深度学习技术自动使用脑电图信号检测癫痫发作已显示出在做出最合适和最快临床决策方面具有重大前景（Ahmad 等人，2023 年）。近几年来，各种深度学习模型已用于癫痫发作检测，包括循环神经网络（Tuncer 和 Bolat，2022 年）、生成对抗网络（Rasheed 等人，2021 年）、深度神经网络（Liu 和 Richardson，2021 年）、分层神经网络（Hu 等人，2021 年）和卷积神经网络。这些模型取得了令人鼓舞的结果（Kaur 等人，2022 年）。卷积网络在逐像素进行端到端训练后，性能得到了进一步提升。随着全卷积网络 (FCN) 的引入，神经网络设计可以处理不同大小的输入，并通过高效的推理和学习机制产生相应大小的输出（Chou 等人，2023 年）。然而，FCN 尚未广泛应用于癫痫发作检测。同时，以往的深度学习算法往往忽略了不同通道对分类任务的贡献，导致模型的可解释性有限。针对上述问题，本文提出了一种基于深度学习的独立癫痫检测算法。算法可以从多通道脑电图数据中自主提取时间和空间信息，从而能够精确识别不同患者的癫痫发作事件。本文做出了几个关键贡献，包括：λ 提出了一种结合 SE（挤压和激励）模块的 CNN 模型检测算法。该方法已在 CHB-MIT 数据集上进行了评估，并取得了优异的性能。λ 首次将 FCN 模型中的上采样方法应用于癫痫发作检测，通过利用反卷积实现，将降尺度的图像从
机器学习中的可解释人工智能
本文介绍了可解释人工智能 (XAI)，这是提高 ML 系统可解释性和可信度的必要解决方案。本文通过两个关键领域的案例研究探讨了 XAI 的重要性：制造业和医疗保健。第一个案例涉及预测性维护应用程序，该应用程序使用 XAI 通过梯度提升决策树预测机器故障的可能性，从而为优化生产力提供详细建议。第二个案例研究基于医疗保健部门。用于 AI 模型解释的 LIME 和 SHAP 工具增强了人们对 AI 辅助医疗诊断的糖尿病预测有效性的信任。这两个案例都证明 XAI 有助于更好地理解所展示的机器学习模型的工作原理，并符合道德决策和监管要求。因此，在本文的最后一部分，作者讨论了当前形式的 XAI 的一些缺点以及该领域的潜在进步，包括水平性和更好地融入使用 AI 的系统。这一发现支持使用 XAI 在众多行业中促进更透明、更负责任和更值得信赖的 AI 应用。
Andrew V. Sutherland稀疏的自动编码器用于增强学习模型中的可解释性
最近的工作表明，稀疏的自动编码器（SAE）能够有效地发现语言模型中的人解释功能，从玩具模型到最先进的大语言模型等等。这项工作探讨了SAE的使用是否可以推广到机器学习的其他品种，特定的，加固学习，以及如何（如果有的话）将SAES适应这一实质上不同的任务所需的修改。本研究使用玩具加强学习环境来进行经验实验，研究了SAE代表强化学习模型作为可解释特征的能力的定性和定量度量。发现SAE成功地将深Q网络的内部激活分解为可解释的特征，此外，这些人解释的某些特征代表了对仅凭深度Q网络单独输出而无法发现的基本任务的内部理解。
可解释的基于神经成像的痴呆诊断和预后的人工智能
*用于制备本文的数据是从阿尔茨海默氏病神经成像计划（ADNI）数据库（adni.loni.usc.edu）获得的。因此，ADNI中的调查人员为ADNI和/或提供数据的设计和实施做出了贡献，但没有参与本报告的分析或撰写。可以在以下网址找到ADNI调查人员的完整列表：
可解释的基于神经成像的痴呆诊断和预后的人工智能
*用于制备本文的数据是从阿尔茨海默氏病神经成像计划（ADNI）数据库（adni.loni.usc.edu）获得的。因此，ADNI中的调查人员为ADNI和/或提供数据的设计和实施做出了贡献，但没有参与本报告的分析或撰写。可以在以下网址找到ADNI调查人员的完整列表：
机器学习和对慢性疾病理解的可解释性
讨论•图2和3显示了SVM，KNN和LR模型的比较，表明SVM和KNN在准确性，精度，召回和F1得分等关键指标中的表现始终优于LR。•SVM总体上表现出最强大的性能，而KNN的精确性和召回率具有竞争力。lr虽然效率较低，但在更简单的情况下表现出了可接受的结果。•葡萄糖是最具影响力的特征，较高的值强烈促进阳性糖尿病预测。年龄和BMI也是重要的预测因子，其中较高的值通常表明风险增加。该图在视觉上区分高（粉红色）和低（蓝色）特征值及其相应的形状值，显示了单个特征如何影响模型的预测。•LinearSVC的表现最高，精度最高（0.76）和F1-SCORE（0.63）。
可解释的基于神经成像的痴呆诊断和预后的人工智能
*用于制备本文的数据是从阿尔茨海默氏病神经成像计划（ADNI）数据库（adni.loni.usc.edu）获得的。因此，ADNI中的调查人员为ADNI和/或提供数据的设计和实施做出了贡献，但没有参与本报告的分析或撰写。可以在以下网址找到ADNI调查人员的完整列表：
可解释的事后投资组合管理财务政策深入强化学习代理
金融投资组合管理投资政策通过现代投资组合理论（如Markowitz模型）进行定量计算的投资政策依赖于一组假设，这些假设在高波动性市场（例如技术部门或加密货币）中不受数据支持。因此，定量研究人员正在寻找解决此问题的替代模型。具体而言，投资组合管理（PM）是一个问题，最近通过深度强化学习（DRL）方法完全解决了问题。在特定的DRL算法中，通过估计代理在模拟器中任何财务状态执行的每个动作的预期奖励的分布，也称为体育馆。然而，这些方法依靠深神经网络模型来表示这种分布，尽管它们是通用近似模型，能够随着时间的推移代表此分布，但它们无法解释其行为，但由一组不可解释的参数给出。至关重要的是，金融投资者的政策要求可以解释，以评估他们是否遵循合理的行为，因此DRL代理不适合遵守特定政策或解释其行为。在这项工作中，在使DRL可以解释的动机的驱动下，我们开发了一种可解释的DRL（XDRL）方法，用于PM，将近端政策优化（PPO）DRL算法整合到模型不可思议的可解释的机器学习技术中，以提高预测时间的透明度，以增强透明度的特征。我们提出了DRL代理商的第一个可解释的事后PM财务政策。通过执行我们的方法，我们可以在预测时间解释代理商评估他们是否遵循投资政策的必要条件或评估遵循代理商建议的风险。我们通过成功识别影响投资决策的关键特征来从经验上说明这一点，从而证明了在预测时间中解释代理行动的能力。