详细内容或原文请订阅后点击阅览
递归语言模型遇到不确定性：自我反思程序搜索长上下文的惊人效果
长上下文处理仍然是语言模型的核心挑战：即使具有扩展的上下文窗口，模型通常也无法跨长上下文可靠地提取、推理和使用信息。最近的工作，如递归语言模型（RLM），通过推理时的编程交互将长上下文分解为递归子查询的代理方式来应对这一挑战。尽管前景广阔，但 RLM 的成功关键取决于如何选择这些情境交互程序的轨迹，而这一点尚未得到探索。在本文中，我们研究这个问题......
来源:Apple机器学习研究长上下文处理仍然是语言模型的核心挑战：即使具有扩展的上下文窗口，模型通常也无法跨长上下文可靠地提取、推理和使用信息。最近的工作，如递归语言模型（RLM），通过推理时的编程交互将长上下文分解为递归子查询的代理方式来应对这一挑战。尽管前景广阔，但 RLM 的成功关键取决于如何选择这些情境交互程序的轨迹，而这一点尚未得到探索。在本文中，我们研究了这个问题，并介绍了长上下文自反思程序搜索（SRLM），这是一个通过不确定性感知自我反思来增强基于编程的上下文交互的框架。 SRLM 利用三个内在信号：自我一致性、推理轨迹长度和语言化置信度。这些作为模型内部不确定性的补充指标，模型使用它们来评估和比较候选上下文交互程序。跨不同基准数据集、上下文长度和骨干模型的大量实验表明，SRLM 始终优于最先进的基线，在相同的时间预算下比 RLM 提高了 22%。我们的研究结果表明，递归本身并不是 RLM 性能的主要驱动因素，简单的自反射程序搜索可以匹配或超越 RLM，而不需要自查询或显式递归机制。我们发现，对于模型上下文窗口内的上下文长度，具有递归的 RLM 通常会降低相对于基本模型的性能，而 SRLM 在短上下文和长上下文中都能产生一致且稳健的增益。我们还发现，RLM 在语义密集型任务中效果较差，其中启发式程序搜索不足，需要更广泛的上下文理解，而 SRLM 中的自我反思提供了语义信号，可以更好地引导这些任务中的推理