详细内容或原文请订阅后点击阅览
耳朵医疗保健：人工智能重写诊断并发明治疗方案
对技术的盲目信仰如何模糊了事实与虚构之间的界限。
来源:安全实验室新闻频道对技术的盲目信仰如何消除事实与虚构之间的界线。
美国医院在名为Whisper的文字中用于转录音频材料。但是，根据美联社的调查，在OpenAI开发的这种神经网络受到“幻觉”的影响，并添加了不存在的短语来解密医疗数据和业务文档。
耳语 div> 所声称的 美联社 OpenAi div>于2022年发布，低语最初是作为转录系统的定位，接近人类的准确性。但是，密歇根大学的一名研究人员指出，在80％的经过验证的公共会议协议中发现了扭曲的数据。其中一位开发人员说，在其26,000个测试抄录中，几乎每个都包含发明的片段。
尽管Openai警告说，低语不应在关键领域使用，但目前有30,000多名美国医务人员正在使用基于IT的工具。其中包括明尼苏达州的Mankato诊所和使用Nabla AI服务服务的洛杉矶儿童医院。后者证实了“幻觉”的可能性，并补充说，已经自动删除已经转录的录音以确保数据保护，这使得很难验证解码错误是否存在错误。
同时，转录错误可能会对患者造成严重损害。聋人和听力很难特别容易受到伤害，因为他们无法独立检查输入数据的正确性。
耳语问题超出了医疗领域。康奈尔大学和弗吉尼亚大学的研究表明，在1％的录音中，该系统添加了源数据中未包含的短语。在38％的案件中，这种“幻觉”是有害的 - 从虚构的暴力行为到种族主义言论。