本文在 2026 年国际可用性、可靠性和安全性会议 (ARES) 的 AI4TCI（安全可信关键基础设施系统人工智能研讨会）研讨会上被接受。自主谈判代理越来越多地部署在保险和采购等高风险环境中。虽然加密技术可以保护明确披露的约束值，但它们无法解决更微妙的威胁：行为隐私泄露，对手从可观察的谈判动态（例如让步轨迹、时间安排和……）中推断出私人约束。
When silence is safer: a review and decision-theoretic framework for LLM abstention in healthcare
大型语言模型 (LLM) 旨在生成用户提示的答案，这通常会促使他们做出响应，即使不确定性很高、信息不完整或拒绝更合适。在医疗保健领域，这种倾向可能是危险的：自信地陈述但不准确的医疗建议可能会造成重大伤害，因此戒烟的能力尤其重要。在本文中，我们回顾了调查医疗保健领域法学硕士放弃行为的研究。文献强调了两个主要动机：（1）不确定性驱动的弃权，即模型在置信度较低时拒绝做出响应；（2）安全驱动的弃权，即模型拒绝提供潜在有害的信息。大多数现有机制都是外在的，依赖辅助工具来确定何时弃权。我们发现最先进的法学硕士仍然难以拒绝不适当的提示，而且很少有基准评估现实医疗场景中的弃权，其表现落后于其他领域。基于这些发
Mathematicians put AI to work on Fermat’s last theorem
在伦敦举行的一次活动中，数学家们在使用 AI 形式化费马大定理方面取得了意想不到的快速进展
