详细内容或原文请订阅后点击阅览
当沉默更安全时：医疗保健领域 LLM 弃权的审查和决策理论框架
大型语言模型 (LLM) 旨在生成用户提示的答案，这通常会促使他们做出响应，即使不确定性很高、信息不完整或拒绝更合适。在医疗保健领域，这种倾向可能是危险的：自信地陈述但不准确的医疗建议可能会造成重大伤害，因此戒烟的能力尤其重要。在本文中，我们回顾了调查医疗保健领域法学硕士放弃行为的研究。文献强调了两个主要动机：（1）不确定性驱动的弃权，即模型在置信度较低时拒绝做出响应；（2）安全驱动的弃权，即模型拒绝提供潜在有害的信息。大多数现有机制都是外在的，依赖辅助工具来确定何时弃权。我们发现最先进的法学硕士仍然难以拒绝不适当的提示，而且很少有基准评估现实医疗场景中的弃权，其表现落后于其他领域。基于这些发现，我们引入了弃权的决策理论形式化，它模拟了在不确定性和潜在危害下回答和不回答之间的权衡。基于这一表述，我们提出了 MedSAFE，一个用于评估临床对话中弃权的框架，并通过从审查中得出的跨临床场景的概念验证试点来展示其可操作性。
来源:La Biblia de la IA🔘 论文页面：https://doi.org/10.1038/s41746-026-02882-1
摘要
大型语言模型 (LLM) 旨在生成用户提示的答案，这通常会促使他们做出响应，即使不确定性很高、信息不完整或拒绝更合适。在医疗保健领域，这种倾向可能是危险的：自信地陈述但不准确的医疗建议可能会造成重大伤害，因此戒烟的能力尤其重要。在本文中，我们回顾了调查医疗保健领域法学硕士放弃行为的研究。文献强调了两个主要动机：（1）不确定性驱动的弃权，即模型在置信度较低时拒绝做出响应；（2）安全驱动的弃权，即模型拒绝提供潜在有害的信息。大多数现有机制都是外在的，依赖辅助工具来确定何时弃权。我们发现最先进的法学硕士仍然难以拒绝不适当的提示，而且很少有基准评估现实医疗场景中的弃权，其表现落后于其他领域。基于这些发现，我们引入了弃权的决策理论形式化，它模拟了在不确定性和潜在危害下回答和不回答之间的权衡。基于这一表述，我们提出了 MedSAFE，一个用于评估临床对话中弃权的框架，并通过从审查中得出的跨临床场景的概念验证试点来展示其可操作性。
作者
Presacan, O.、Nik, A.、Ojha, J. 等
喜欢这篇文章吗？关注此博客以获取更多信息。