michigantech

推荐引用 推荐引用 Alam, L., & Mueller, S. (2021). 检查解释对 AI 诊断系统中满意度和信任的影响。BMC 医学信息学和决策，21(1)。http://doi.org/10.1186/ s12911-021-01542-6 取自：https://digitalcommons.mtu.edu/michigantech-p/14974

摘要背景：人工智能有可能彻底改变医疗保健，它越来越多地被用于支持和协助医疗诊断。人工智能的一个潜在应用是作为患者的第一个接触点，在将患者送往专家之前取代初步诊断，使医疗保健专业人员能够专注于治疗中更具挑战性和关键性的方面。但是，要使人工智能系统成功扮演这一角色，仅提供准确的诊断和预测是不够的。此外，它还需要提供（向医生和患者）关于诊断原因的解释。如果没有这一点，准确和正确的诊断和治疗可能会被忽略或拒绝。方法：评估这些解释的有效性并了解不同类型解释的相对有效性非常重要。在本文中，我们通过两个模拟实验来研究这个问题。对于第一个实验，我们测试了重新诊断场景，以了解局部和全局解释的效果。在第二个模拟实验中，我们在类似的诊断场景中实施了不同形式的解释。结果：结果表明，解释有助于提高关键重新诊断期间的满意度指标，但在重新诊断之前（进行初步治疗时）或之后（当替代诊断成功解决病例时）几乎没有影响。此外，关于该过程的初始“全局”解释对即时满意度没有影响，但改善了对人工智能理解的后期判断。第二个实验的结果表明，与没有解释或仅基于文本的原理相比，结合视觉和基于示例的解释与原理相结合对患者满意度和信任的影响明显更好。与实验 1 一样，这些解释主要影响重新诊断危机期间的即时满意度指标，在重新诊断之前或成功解决诊断后几乎没有优势。结论：这两项研究帮助我们得出关于面向患者的解释性诊断系统如何成功或失败的几个结论。基于这些研究和文献综述，我们将为医疗领域的 AI 系统提供的解释提供一些设计建议。