机构名称：
¥ 1.0
摘要 正在进行的研究一直在研究如何利用人工智能技术帮助医疗保健消费者理解他们的临床数据，例如诊断放射学报告。如何促进这种新技术的接受是一个热门的研究课题。最近的研究强调了提供有关人工智能预测和模型性能的局部解释的重要性，以帮助用户确定是否信任人工智能的预测。尽管做出了一些努力，但已经进行了有限的实证研究来定量衡量人工智能解释如何影响医疗保健消费者对使用面向患者的人工智能医疗保健系统的看法。本研究的目的是评估不同的人工智能解释对人们对人工智能医疗保健系统的看法的影响。在这项工作中，我们在 Amazon Mechanical Turk（MTurk）上设计并部署了一项大规模实验（N = 3,423），以评估人工智能解释对人们在理解放射学报告方面的感知的影响。我们根据两个因素（预测的解释程度（透明度高 vs. 低）和模型性能（良好 vs. 弱 AI 模型））创建了四个组，并将参与者随机分配到四个条件之一。参与者被指示将放射学报告分类为描述正常或异常发现，然后完成研究后调查以表明他们对 AI 工具的看法。我们发现，揭示模型性能信息可以提高人们对系统输出的信任和感知有用性，而提供预测理由的局部解释可以提高可理解性，但不一定能提高信任度。我们还发现，当模型性能较低时，AI 系统披露的信息越多，人们就越不信任系统。最后，人类是否同意 AI 预测以及 AI 预测是否正确也会影响 AI 解释的效果。我们通过讨论为医疗保健消费者设计 AI 系统来解释诊断报告的意义来结束本文。
人工智能解释对人类对面向患者的人工智能医疗保健系统的看法的影响
主要关键词
相关文件推荐
