详细内容或原文请订阅后点击阅览
当人工智能听起来确定但应该说“我不知道”时
Juan Antonio Lloret DOI：https://doi.org/10.21428/39829d0b.6b61c462 在后来公开的内部审查中，IBM 的 Watson for Oncology 看到了一位与每天接受治疗的数千名患者非常相似的患者：一名患有肺癌的 65 岁男性，还患有严重出血。系统推荐贝伐珠单抗——一种带有明确警告的药物，禁止在……当人工智能听起来确定但应该说“我不知道”时 Leer más »
来源:La Biblia de la IA在后来公开的内部审查中，IBM 的 Watson for Oncology 看到了一位与每天接受治疗的数千名患者很相似的患者：一名患有肺癌的 65 岁男性，还患有严重出血。该系统推荐了贝伐珠单抗——这种药物明确警告不要在严重出血的患者中使用，因为它可能导致致命的出血。沃森没有犹豫，没有提出矛盾，也没有表示怀疑。它的回答与处理其他案件时一样流利、自信。这就是最纯粹形式的危险：不是系统犯了错误，而是它披着权威的外衣传递了错误。
医学人工智能不应仅根据其模型的复杂程度来判断，而应根据其处理不确定性的学科来判断。 Watson for Oncology 已在约 230 家医院部署并进行推广，就好像其建议基于真实的患者数据和既定证据一样。内部文件讲述了一个不同的故事：该系统主要是根据假设病例和少数专家的偏好进行训练的，而不是根据广泛的临床指南或代表性数据进行训练。问题不仅在于它的建议可能是错误的。更深层次的问题是结构性的——一个建立在狭窄的、部分合成的基础上的工具被呈现给世界各地的医生，但其证据并不支持。医学不需要人为的权威；它需要可靠的工具来维护医生的判断并使不确定性变得可见。
喜欢这篇文章吗？关注此博客以获取更多信息。