详细内容或原文请订阅后点击阅览
为什么语言模型会幻觉？
在本文中，我们研究了论文中的五个启示：“为什么语言模型幻觉？”
来源:KDnuggets＃简介
＃幻觉 - 语言模型（LM）及其用户的祸根 - 是LMS产生的合理听起来但实际上不正确的陈述。这些幻觉是有问题的，因为它们可以侵蚀用户信任，传播错误信息和误导下游决策，即使输出表达高度置信度。这些幻觉在用户无法轻易验证索赔（技术答案，医疗或法律摘要，数据分析）的情况下尤其麻烦，因为对不确定性的不正确信息掩盖的自信提供，将小型建模错误转化为可能的高态失败。
最近的一篇论文，《为什么语言模型幻觉》，卡莱，纳赫姆，vempala和张，负责分析这些错误的统计根源和社会技术激励措施，以使它们活着。作者将生成错误与简单分类动态联系起来，并检查当今的培训和评估实践如何推动对自信猜测而不是校准不确定性的模型。结果是对幻觉的真正了解以及在实践中可能会减少哪些变化。
为什么语言模型幻觉本文提供了有关LM幻觉的原因和持久性的几个高级和有见地的启示，我们将研究其中的五个。
＃1。幻觉的根本原因
tl; DR：幻觉主要是由培训和评估程序引起的，这些程序奖励猜测不确定性。
tl; dr： 幻觉主要是由培训和评估程序引起的，这些程序奖励猜测不确定性。