详细内容或原文请订阅后点击阅览
如何创建“谦逊”的人工智能
麻省理工学院领导的团队正在设计用于医疗诊断的人工智能系统，该系统对于不确定性更具协作性和主动性。
来源:MIT新闻 - 人工智能人工智能有望帮助医生诊断患者并制定个性化治疗方案。然而，由麻省理工学院领导的一个国际科学家小组警告说，目前设计的人工智能系统存在引导医生走向错误方向的风险，因为他们可能过于自信地做出错误的决定。
研究人员表示，防止这些错误的一种方法是将人工智能系统编程得更加“谦虚”。当他们对自己的诊断或建议没有信心时，此类系统会显示出来，并在诊断不确定时鼓励用户收集更多信息。
“我们现在使用人工智能作为预言机，但我们可以使用人工智能作为教练。我们可以使用人工智能作为真正的副驾驶。这不仅会提高我们检索信息的能力，还会增强我们将各个点连接起来的能力，”麻省理工学院医学工程与科学研究所的高级研究科学家、贝斯以色列女执事医疗中心的医生、哈佛医学院的副教授 Leo Anthony Celi 说。
Celi 和他的同事创建了一个框架，他们称该框架可以指导人工智能开发人员设计表现出好奇心和谦逊的系统。研究人员表示，这种新方法可以让医生和人工智能系统成为合作伙伴，并有助于防止人工智能对医生的决策产生太大影响。
Celi 是该研究的资深作者，该研究今天发表在《BMJ 健康与护理信息学》上。该论文的主要作者是麻省理工学院关键数据研究人员塞巴斯蒂安·安德烈斯·卡哈斯·奥尔多涅斯（Sebastián Andrés Cajas Ordoñez），麻省理工学院关键数据是一个由麻省理工学院医学工程与科学研究所计算生理学实验室领导的全球联盟。
灌输人类价值观
研究人员表示，医疗保健机构应该使用能够与临床医生更好协作的人工智能系统，以取代提供过于自信但可能不正确建议的系统。
迈向更具包容性的人工智能