Federal Programs: OMB Needs to Continue Developing a Complete and Useful Inventory
GAO 的发现每年，联邦政府都会花费数万亿美元用于支持美国人民和实现政策目标的联邦计划。 2011 年首次颁布的法定条款要求管理和预算办公室 (OMB) 制定并每年更新所有联邦计划清单。OMB 于 2025 年 1 月对联邦计划清单网站进行的更新表明，在满足法定要求方面不断取得进展。然而，OMB 尚未完全满足 20 项要求中的 13 项。例如，清单尚未包括所有联邦计划，例如外国援助或国防计划。它还没有提供当前包含的 2,600 多个计划的所有必需计划、支出和绩效信息。如果没有完整的清单，决策者就缺乏一个关键工具来帮助他们更好地识别和管理整个联邦政府的分散、重叠和重复。GAO 发现了 OMB 提
Learning to Evict from Key-Value Cache
大型语言模型 (LLM) 规模的不断增长给高效推理带来了挑战，这主要是由于自回归键值 (KV) 缓存的内存需求。现有的逐出或压缩方法可以降低成本，但依赖于启发法，例如新近度或过去的注意力分数，它们只能作为代币未来效用的间接代理，并引入计算开销。我们将 KV 缓存驱逐重新定义为强化学习 (RL) 问题：学习根据令牌对未来解码的预测有用性对令牌进行排名。为此，我们引入了 KV 策略（KVP），这是一个......的框架
