机构名称：
¥ 9.0
能够处理和生成多模式数据的基础模型已改变了AI在医学中的作用。然而，其可靠性的关键局限性是幻觉，其中不准确或捏造的信息会影响临床决策和患者安全。我们将医疗幻觉定义为模型产生误导性医学内容的任何实例。本文探讨了医学利润率的独特特征，原因和含义，特别关注这些错误如何在现实世界中的临床情况下表现出来。我们的贡献包括（1）用于理解和解决医学幻觉的分类法，（2）使用医学幻觉数据集对模型进行基准测试模型，以及对实际医疗病例的LLM的反应，从而直接了解幻觉的临床影响，以及（3）对医疗幻觉的多政治临床调查。我们的结果表明，诸如链链（COT）和搜索增强产生等推论技术可以有效降低幻觉率。，尽管有这些改进，但幻觉的非平凡水平仍然存在。这些发现强调了强大的检测和缓解策略的道德和实践意义，为监管政策建立了优先级的监管政策基础，随着AI的融合更加集成到医疗保健中。临床医生的反馈意见不仅迫切需要技术进步，而且还需要更清晰的道德和监管指南，以确保患者安全。可在https://github.com/mitmedialab/medical幻觉上提供纸张资源，摘要和其他信息的存储库。
基础模型中的医学幻觉及其对医疗保健的影响
主要关键词
相关文件推荐
