问答:医学AI系统的透明度至关重要,UW研究人员说

在最近的一篇论文中,华盛顿大学的研究人员认为,部署医学AI的关键标准是透明度 - 也就是说,使用各种方法来阐明医疗AI系统如何诊断和输出。

来源:华盛顿大学

工程|  新闻发布|  技术

工程 新闻发布 技术

2025年9月10日

问答:医学AI系统的透明度至关重要,UW研究人员说

在新论文中,华盛顿大学的研究人员认为,部署医学AI的关键标准是透明度 - 也就是说,使用各种方法来阐明医疗AI系统如何诊断和输出。

istock

虽然关于生成人工智能将如何改变工作的辩论辩论,但AI已经在改变医疗保健。 AI系统都用于从药物发现到放射学和临床笔记的诊断任务的所有方面。最近对2206位临床医生进行的一项调查发现,大多数人对AI的潜力使医疗保健更加高效和准确,并且几乎一半的受访者使用了AI工具进行工作。

最近对2,206家临床医生的调查

然而,AI仍然困扰着虫子,幻觉,隐私问题和其他道德难题,因此将其部署为敏感和相应的工作带来了主要风险。华盛顿大学的研究人员在9月9日发表的《自然评论生物工程》的评论文章中指出,部署医学AI的关键标准是透明度 - 也就是说,使用各种方法来阐明医疗AI系统如何诊断和输出。

评论文章

UW新闻与该论文的三位作者谈到了透明度对医学AI的意义:共同领导的作者Chanwoo Kim和Soham Gadgil是Paul G. Allen计算机科学与工程学院的UW博士生,以及艾伦学校的教授Su-In Lee高级作家Su-in-Lee。

chanwoo kim Soham Gadgil su-in lee

是什么使对医学AI中道德的讨论与围绕AI伦理的更广泛讨论不同?

chanwoo kim:内置在AI系统中的偏见和不正确的产出的风险是关键问题,尤其是在医学中,因为它们可以直接影响人们的健康,甚至确定改变生活的结果。

Chanwoo Kim: SL: ck: sg: