When silence is safer: a review and decision-theoretic framework for LLM abstention in healthcare
大型语言模型 (LLM) 旨在生成用户提示的答案，这通常会促使他们做出响应，即使不确定性很高、信息不完整或拒绝更合适。在医疗保健领域，这种倾向可能是危险的：自信地陈述但不准确的医疗建议可能会造成重大伤害，因此戒烟的能力尤其重要。在本文中，我们回顾了调查医疗保健领域法学硕士放弃行为的研究。文献强调了两个主要动机：（1）不确定性驱动的弃权，即模型在置信度较低时拒绝做出响应；（2）安全驱动的弃权，即模型拒绝提供潜在有害的信息。大多数现有机制都是外在的，依赖辅助工具来确定何时弃权。我们发现最先进的法学硕士仍然难以拒绝不适当的提示，而且很少有基准评估现实医疗场景中的弃权，其表现落后于其他领域。基于这些发
The Supreme Court Finally Draws a Line on Digital Surveillance
多年来，我一直警告说技术将成为政府最强大的监控工具。政客总是承诺新的权力只会用于打击犯罪分子。然后这些权力逐渐扩大，直到每个人都成为潜在的嫌疑人。历史永远不会改变，因为政府一旦获得权力就不会自愿放弃权力。美国最高法院[...]
