Normalizing Flows with Iterative Denoising
归一化流 (NF) 是基于可能性的经典方法系列，已重新受到关注。 TARFlow 等最近的努力表明，NF 能够在图像建模任务上取得有前景的性能，使其成为扩散模型等其他方法的可行替代方案。在这项工作中，我们通过引入迭代 TARFlow (iTARFlow) 进一步推进规范化流生成模型的状态。与扩散模型不同，iTARFlow 在训练期间保持完全端到端、基于可能性的目标。在采样过程中，它执行自回归生成......
Local Mechanisms of Compositional Generalization in Conditional Diffusion
条件扩散模型似乎能够进行成分泛化，即为调节器的分布外组合生成令人信服的样本，但这种能力背后的机制仍不清楚。为了使这一点具体化，我们研究了长度泛化，即生成具有比训练期间看到的更多对象的图像的能力。在受控的 CLEVR 设置中（Johnson 等人，2017），我们发现在某些情况下可以实现长度泛化，但在其他情况下则不能，这表明模型有时只能学习底层的组成结构。然后我们调查......
LaDiR: Latent Diffusion Enhances LLMs for Text Reasoning
大型语言模型 (LLM) 通过思想链 (CoT) 生成展示其推理能力。然而，LLM 的自回归解码可能会限制以整体方式重新审视和完善早期代币的能力，这也可能导致对不同解决方案的低效探索。在本文中，我们提出了LaDiR（潜在扩散推理器），这是一种新颖的推理框架，它将连续潜在表示的表达能力与现有法学硕士潜在扩散模型的迭代细化能力相结合。我们首先构建一个结构化的潜在推理空间……
