详细内容或原文请订阅后点击阅览
人工智能“海市蜃楼”意味着用于分析医学扫描的工具可能会伪造他们的发现
现代人工智能模型可以对从未提供给它们的图像进行令人信服的描述——研究人员将这种现象称为“海市蜃楼”。
来源:LiveScience研究人员一直在训练人工智能 (AI) 系统来解释乳房 X 光检查、核磁共振成像和组织活检等视觉测试的结果，随着人工智能的能力越来越强，一些分析师认为这些模型将在医疗诊断领域取代人类。
但现在，一项新的研究对当前人工智能模型提供可靠结果的能力提出了质疑，强调了一个可能阻碍其在医学中使用的关键缺陷。
这项研究尚未经过同行评审，已于 3 月 26 日作为预印本发布在 arXiv 上。科学家们表明，多种常用的人工智能模型能够详细描述图像并生成临床发现，即使它们从未真正提供图像进行分析。
他们将这种现象称为“海市蜃楼”，这是首次在多个人工智能模型中显示出这种效果，这些模型用于跨多个学科解释图像。
“我们展示的是，即使你的人工智能正在描述一个非常非常具体的事情，你也会说，‘哦，你不可能编造这个，’是的，他们可以编造这个，”该研究的第一作者、斯坦福大学的数据科学家穆罕默德·阿萨迪 (Mohammad Asadi) 说。 “他们可以制作非常罕见、非常具体的东西。”
当人工智能看到不存在的东西时
人工智能的“幻觉”有据可查，并且涉及模型填充虚构的细节，例如对真实论文的错误引用。它们通常是由于人工智能根据所提供的训练数据做出不准确或不合逻辑的预测而造成的。相反，科学家们将新研究中的这种现象称为“海市蜃楼”，因为人工智能自己创建了原始图像的描述，然后根据这些不存在的图像给出了答案。
将世界上最迷人的发现直接发送到您的收件箱。
为什么人工智能发明图像
那么 AI 模型如何描述不存在的图像呢？