详细内容或原文请订阅后点击阅览
3 个问题:我们应该像给处方药贴标签一样给 AI 系统贴标签吗?
研究人员认为,在医疗保健环境中,“负责任的使用”标签可以确保 AI 系统得到适当部署。
来源:MIT新闻 - 人工智能AI系统越来越多地部署在安全至关重要的医疗保健情况下。然而,这些模型有时会幻觉不正确的信息,做出偏见的预测或出于意外原因失败,这可能会对患者和临床医生造成严重后果。
在今天发表在《自然计算科学》上的一篇评论文章中,麻省理工学院副教授Marzyeh Ghassemi和波士顿大学副教授Elaine Nsoesie认为,为了减轻这些潜在的危害,AI系统应伴随着与美国食品和药物管理标签相似的负责使用的标签,该标签与处方药相似。
在 今天在自然计算科学上发表的评论文章 今天在 ,麻省理工学院副教授Marzyeh Ghassemi和波士顿大学副教授Elaine Nsoesie认为,为了减轻这些潜在危害,AI系统应伴随着负责任的使用标签,类似于美国食品和药物管理局的标签。麻省理工学院新闻与Ghassemi谈到了对此类标签的需求,应该传达的信息以及如何实施标签程序。
与Ghassemi谈到了对此类标签的需求,应该传达的信息以及如何实施标签程序。问:为什么我们需要在医疗保健环境中为AI系统负责使用标签?
Q: a:在健康环境中,我们有一个有趣的情况,医生通常依靠不完全理解的技术或治疗方法。有时,缺乏理解是基本的 - 例如,对乙酰氨基酚背后的机制 - 但其他时候,这只是专业化的限制。 例如,我们不希望临床医生知道如何为MRI机器服务。取而代之的是,我们通过FDA或其他联邦机构拥有认证系统,可以在特定环境中证明使用医疗设备或药物。 a:Q:
a:在健康环境中,我们有一个有趣的情况,医生通常依靠不完全理解的技术或治疗方法。有时,缺乏理解是基本的 - 例如,对乙酰氨基酚背后的机制 - 但其他时候,这只是专业化的限制。 例如,我们不希望临床医生知道如何为MRI机器服务。取而代之的是,我们通过FDA或其他联邦机构拥有认证系统,可以在特定环境中证明使用医疗设备或药物。a: