路透社发现使用人工智能的手术设备对患者造成伤害; 《自然》杂志和路透社发现医疗聊天机器人无法击败患者自己的互联网侦查

更多值得关注人工智能在医学领域积极实施的理由。

来源:《Naked Capitalism》

我们对以利润为导向的美国医疗系统热切拥抱人工智能感到震惊,尽管有大量证据表明其表现参差不齐,例如在医学博士治疗笔记的转录等本应简单的任务中出现过于频繁的严重错误。路透社的两项新调查加上《自然》杂志上的一篇文章进一步引起了我们的暂停。

最令人不安的是路透社两项新调查中较新的一项,其中包括人工智能增强手术工具造成伤害的例子。更糟糕的是,它特别发现最近的人工智能更新增加了严重错误的发生率,并对患者造成伤害。文章开头是强生公司对人工智能的重大适得其反:

2021 年,医疗保健巨头强生公司的一个部门宣布了“一次飞跃”:它在一种医疗设备中添加了人工智能,用于协助耳鼻喉专家进行手术。

该设备已经上市大约三年了。在此之前,美国食品和药物管理局已收到未经证实的七起设备故障报告和另一起患者受伤报告。自从人工智能被添加到设备中以来,FDA 已收到至少 100 起故障和不良事件的未经证实的报告。

据报道,2021 年底至 2025 年 11 月期间至少有 10 人受伤。据称,大多数错误都涉及错误,即当外科医生在手术期间在患者头部使用仪器时,TruDi 导航系统错误地告知了仪器的位置。

据报道,一名患者的鼻子漏出了脑脊液。在另一起报道的案例中,一名外科医生错误地刺穿了患者的颅底。在另外两起案件中,据称患者均因主动脉意外受伤而中风。

— Dries Develtere (@DriesDeveltere) 2026 年 2 月 11 日

路透社后来描述了 TrueDi 的其中一击。请注意,它是在一个小程序之后产生的:

Twitter 概述:

_____

...