您的 RAG 系统正在以满分检索正确的文档，但它仍然自信地返回错误的答案。我构建了一个 220 MB 的本地实验，证明了几乎没有人谈论的隐藏故障模式：同一检索窗口中的上下文冲突。两个相互矛盾的文档返回，模型选择一个，然后你会得到一个流畅但不正确的响应，并且零警告。本文准确展示了它发生的原因、它悄然中断的三个生产场景，以及修复它的微小管道层 - 不需要额外的模型，不需要 GPU，不需要 API 密钥。系统的行为完全按照设计。答案仍然是错误的。您的 RAG 系统检索正确的数据 — 但仍然产生错误的答案这一帖子。这就是原因（以及如何解决它）。首先出现在《走向数据科学》上。
LaCy: What Small Language Models Can and Should Learn is Not Just a Question of Loss
本文在 ICLR 基于 LLM 的代理系统内存研讨会上被接受。语言模型不断发展，将更多的世界知识压缩到其参数中，但可以预训练到其中的知识受到其参数大小的上限。特别是小语言模型（SLM）的容量是有限的，导致实际上不正确的生成。这个问题通常可以通过让 SLM 访问外部源来缓解：查询更大模型、文档或数据库的能力。在此背景下，我们研究的根本问题是……
GAO 发现的内容国会和行政部门已采取措施提高联邦支出和计划信息的透明度。然而，政府问责局发现各个领域仍然存在挑战，并已向联邦机构和国会提出建议，以帮助解决这些问题。联邦支出数据透明度。法律要求各机构向 USAspending.gov 报告联邦支出数据，USAspending.gov 是政府此类数据的官方公共来源。尽管在改进 USAspending.gov 数据方面取得了进展，但政府问责局仍在继续发现挑战。例如，联邦机构并没有一致地报告其他交易协议的支出数据——除了标准合同或不受某些联邦采购法律和要求约束的赠款之外的具有法律约束力的协议。 GAO 还发现了 USAspending.gov 上描
