XiaoMi-AI文件搜索系统
World File Search SystemSHAP
803. 血液学中的新兴工具、技术和人工智能：海报 II
采用不同的 AI 模型和训练策略来分割每个染色中的结构，如细胞核、细胞和纤维化；然后提取形态和纹理特征。血液学家和血液病理学家的反馈也包含在训练过程中。此外，还开发了一个分类模型来分析 MGG 涂片上的细胞，预测 12 种不同的细胞类型。结合标记物、细胞类型和组织成分的百分比及其空间组织，整合在一起以解决项目的临床目标。可解释性和可解释性由 SHapley Additive exPlanations 方法 (SHAP) 实现。使用 Harrell 的一致性指数 (CI) 评估预后模型鉴别，并使用 L1 惩罚 Cox 回归进行特征选择。
迈向负责任的金融交易人工智能
摘要——人工智能在金融领域的应用越来越依赖于负责任的人工智能原则。这些原则——可解释性、公平性、隐私性、责任性、透明度和健全性构成了未来人工智能系统信任的基础。在本研究中，我们通过为深度神经网络提供解释来解决第一个原则，该网络在数字、分类和文本输入的混合上进行训练，用于金融交易分类。解释是通过 (1) 使用 Shapley 加性解释 (SHAP) 进行特征重要性分析和 (2) 文本聚类和决策树分类器的混合方法实现的。然后，我们通过将模型暴露于有针对性的逃避攻击来测试模型的稳健性，利用我们通过提取的解释获得的有关模型的知识。
Charan Pushpathan Prabavathi
•使用Q学习，策略迭代和深度Q-NETWORKS开发和评估了MDP代理，实施了对跨多个领域实现最佳策略的顺序决策的代理。•实施了可解释的机器学习模型的实施功能工程技术和辩护转换，重点介绍了高风险决策域中的公平和偏见缓解。•使用多个可解释的AI框架（AIX360，Lime，Shap）分析了模型行为和决策边界，生成了可解释的解释和可视化，以评估模型预测和特征重要性。•为顺序规划域创建了马尔可夫决策过程模型和分层任务分析，通过价值/政策迭代和强化学习方法实现最佳政策。
启蒙工作室AI＆Law：技术和法律...
在机器学习非线性模型或重要复杂性模型的领域中，例如某些集合方法或神经网络，需要其他工具来识别用于进行模型预测的“重要”变量。其中一些工具是Shap（https://shap.readthedocs.io/en/latest/），lime（https://github.com/marcotcr/lime）或已经包含一组可解释的模型的工具（captum ai（captum ai（chattps://captum.ai/））。那是可能的解释（全局说明）中最重要的变量（特征）和对患者预测的解释性（局部解释）的解释。在这个研讨会中，参与者将学习整合以通用形式中的机器学习中使用的解释和工具的挑战和优势。，但也将其专门应用于医疗保健申请
预测使用机器学习模型用流动机处理的颅内动脉瘤的不完全闭塞
客观的颅内囊力瘤是血管畸形，导致80％的非创伤性脑出血。最近，流动分流已被用作侵入性较少的手术治疗替代方案。但是，在25％的病例中，他们在6个月后无法完全闭塞。在这项研究中，作者使用Ma-Chine学习（ML）构建了一种工具，以预测与流动机处理后6个月后6个月后的动脉瘤闭塞结果。包括2011年1月至2017年12月之间在第三纪转介中心接受管道栓塞装置治疗的616名患者中，总共667例动脉瘤。为了构建预测工具，进行了两个实验。在第一个实验中，使用与患者风险因素和动脉瘤形态学特征相关的26个特征，将六种ML算法（支持向量机[SVM]，决策树，随机森林[RF]，K-Nearest邻居，XGBoost和Catboost培训）。在第二个例外情况下，使用Shapley添加说明（SHAP）分析在RF模型上提取的前10个功能进行了训练。结果结果表明，即使使用特征子集（83％的精度），即使在LR模型的SVM模型vs 62％的SVM模型与62％的SVM模型vs 62％的精度相比，SVM模型的准确性为89％（精度为83％）。塑形分析表明，年龄，高血压，吸烟状况，分支血管受累，动脉瘤颈部和较大的直径尺寸是有助于准确预测的最重要特征。在这项研究中得出结论，开发了一种基于ML的工具，该工具成功地预测了经过流动转移治疗的颅内动脉疫苗的结果，从而有助于神经外科医生实践更精致的方法和患者量化的药物。
通过可解释的人工智能解释中风受损的肌电图模式
摘要：肌电图 (EMG) 在识别缺血性中风引起的神经肌肉改变方面具有宝贵的肌电表现，可作为诊断缺血引起的步态障碍的潜在标记。本研究旨在开发一个可解释的机器学习 (ML) 框架，通过可解释的人工智能 (XAI) 技术区分中风患者和健康个体的肌电模式。该研究包括 48 名在康复中心接受治疗的中风患者（平均年龄 70.6 岁，65% 为男性），以及 75 名健康成年人（平均年龄 76.3 岁，32% 为男性）作为对照组。在步态实验室的室内地面行走期间，从放置在双下肢股二头肌和外侧腓肠肌上的可穿戴设备记录 EMG 信号。我们部署了 Boosting ML 技术，利用 EMG 步态特征识别中风相关的步态障碍。此外，我们还采用了 XAI 技术，例如 Shapley 加法解释 (SHAP)、局部可解释模型不可知解释 (LIME) 和 Anchors，以解释 EMG 变量在中风预测模型中的作用。在评估的 ML 模型中，GBoost 模型在与训练数据集进行交叉验证时表现出最高的分类性能 (AUROC：0.94)，并且在使用测试 EMG 数据集进行评估时也表现出色 (AUROC：0.92，准确率：85.26%)。通过 SHAP 和 LIME 分析，研究发现有助于区分中风组和对照组的 EMG 频谱特征与右侧股二头肌和外侧腓肠肌有关。这种可解释的基于 EMG 的中风预测模型有望成为预测中风后步态障碍的客观工具。它的潜在应用可以通过提供可靠的 EMG 生物标志物极大地帮助管理中风后康复，并解决缺血性中风患者的潜在步态障碍。
通过引导模拟和塑造添加说明
机器学习方法在医疗领域广泛使用。但是，这些模型的可靠性和功效很难评估，这使得研究人员难以确定哪种机器学习模型适用于其数据集。我们评估了模型指标（例如AUROC，灵敏度，特异性）的方差计算是否通过自举仿真和外形加性解释（SHAP）可以提高模型透明度并改善模型选择。使用了英格兰国家健康服务心脏病预测队列的数据。在比较了XGBoost，随机森林，人工神经网络和自适应增强的模型指标之后，本研究中使用XGBoost作为选择的机器学习模型。BOOST-STRAP模拟（n = 10,000）用于从经验上得出模型指标的分布和协变量增益统计。整体添加说明（SHAP），以提供机器学习输出和仿真的解释，以评估模型精度的差异。对于Xgboost建模方法，我们观察到（通过10,000个完成的模拟），AUROC的范围为0.771至0.947，差异为0.176，平衡精度为0.688到0.688到0.894，敏感性差异为0.632差异为0.632差异0.632到0.3920差异0.932差异0.30777939，均为0.939，均为0.939，均为0.939，均为0.939，均为0.939，均为0.939，均为0.939，范围差0.944，0.394差异。使用仿真来凭经验评估模型指标和解释算法的可变性，以观察协变量是否与文献相匹配，这对于提高了运输，可靠性和机器学习方法的实用性是必需的。在完成的10,000个模拟中，我们观察到，胆固醇的胆固醇的增益范围从0.225到0.225到0.456，差异为0.231，差异为0.148范围为0.148至0.178，最大心率（MAXHR）的差异为0.178，范围为0.081至0.200，范围为0.200，范围为0。 0.098。这些差异统计数据，结合模型精度统计数据可以帮助研究人员确定给定数据集的最佳模型。
可解释的用于大型癌症生物标记识别的微生物组数据分析
结果：拟议的研究旨在使用来自受试者的肠道微生物群和人口统计信息来实施可解释的人工智能框架，以对CRC患者的一系列控制受试者进行分类。我们的分析表明肠道菌群与这种疾病之间存在关联。我们比较了三种机器学习算法，随机森林（RF）算法是最佳的分类算法，精度为0.729±0.038，在精确记录曲线下的面积为0.668±0.016。此外，Shap分析强调了模型决策中最关键的变量，从而促进了与CRC相关的特定细菌的识别。我们的结果证实了某些细菌的作用，例如哥肠杆菌，peptopstopocococcus和parvimonas，其丰度显着与该疾病以及存在与非诊断状态有关的细菌。
我觉得我明白你的意思了，AI！可解释人工智能中的解释深度错觉
部署的人工智能系统的意外后果促使人们呼吁人工智能系统具有更多的可解释性。可解释的人工智能 (XAI) 系统通常为用户提供简化的局部解释，以用于个别预测，但让他们自己构建对模型行为的全局理解。在这项工作中，我们研究了 XAI 的非技术用户在解释附加的局部解释时是否会陷入解释深度的错觉。我们采用了一种混合方法，包括一项有 40 名参与者的主持研究和一项有 107 名众包工作者的无主持研究，使用基于 SHAP 框架的电子表格式解释界面。我们观察了非技术用户如何从局部解释中形成他们对全局人工智能模型行为的心理模型，以及他们的理解感知在检查时如何下降。