人工智能 (AI) 系统的准确性和灵活性通常以降低对其预测提供直观解释的能力为代价。这阻碍了人们对 AI 的信任,并阻碍了其在医疗保健领域的应用,而对误诊造成的责任和患者健康风险的担忧加剧了这种担忧。由于可解释机器学习领域的最新进展,为模型的预测提供解释是可能的。我们考虑了一组与抗生素处方记录和细菌分离株敏感性相关的医院入院数据。经过适当训练的梯度增强决策树算法,辅以 Shapley 解释模型,可预测可能的抗菌药物耐药性,耐药性的几率取决于患者的特征、入院数据、历史药物治疗和培养测试结果。应用这个基于 AI 的系统,我们发现与观察到的处方相比,它大大降低了治疗不匹配的风险。Shapley 值提供了观察/数据与结果之间的直观关联;所确定的关联与基于健康专家的先验知识的预期大致一致。研究结果以及归因信心和解释的能力支持人工智能在医疗保健领域的更广泛应用。
主要关键词