详细内容或原文请订阅后点击阅览
医疗人工智能援助的好处因用户专业知识而异
研究发现，非专家会推迟基于法学硕士的诊断协助，即使它是错误的，而临床医生会发现人工智能错误。
来源:MIT新闻 - 人工智能在设计协助用户进行疾病诊断的人工智能系统时，一刀切的方法可能不是最佳策略。
麻省理工学院和其他地方的研究人员进行的一项新研究发现，虽然人工智能辅助总体上提高了非专家和临床医生诊断皮肤病的准确性，但人工智能可解释性方法会根据用户的知识水平产生不同的影响。
可解释的人工智能方法通过描述或验证模型的决策来帮助用户知道何时信任模型的预测。例如，模型可能使用热图来突出显示对其诊断最重要的图像区域，或使用大型语言模型 (LLM) 以简单语言解释预测。
在这项研究中，研究人员测试了非专家和初级保健提供者在皮肤病诊断方面的表现，无论是否有不同可解释的人工智能系统的帮助。
他们发现非专家的诊断准确性有所提高，但这很大程度上归功于对人工智能系统的尊重。非专家相信基于法学硕士的解释，无论它们是对还是错，并且发现当解释含糊或笼统时更有说服力。
相比之下，临床医生不会被不正确的人工智能辅助所绊倒，并且在仅给出模型预测且没有附带解释的情况下表现最佳。
麻省理工学院电气工程与计算机科学系 (EECS) 副教授、医学工程与科学研究所成员、医学工程与科学研究所 (Institute for Medical Engineering and Science) 成员、信息和决策系统实验室以及安利捷健康机器学习诊所。