详细内容或原文请订阅后点击阅览
扩散模型的投射组成机制
我们研究了扩散模型中组成的理论基础，特别着眼于分布外的外推和长度将军。先前的工作表明，通过线性得分组合组成分布可以实现有希望的结果，包括在某些情况下（Du等，2023; Liu等，2022）。但是，我们对这些构图如何以及为什么起作用的理论理解仍然不完整。实际上，甚至还不清楚组成的“工作”意味着什么。本文开始解决这些基本差距。我们从…
来源:Apple机器学习研究我们研究了扩散模型中组成的理论基础，特别着眼于分布外的外推和长度将军。先前的工作表明，通过线性得分组合组成分布可以实现有希望的结果，包括在某些情况下（Du等，2023; Liu等，2022）。但是，我们对这些构图如何以及为什么起作用的理论理解仍然不完整。实际上，甚至还不清楚组成的“工作”意味着什么。本文开始解决这些基本差距。我们首先要精确地定义构图的可能结果，我们称之为投影构图。然后，我们研究：（1）当线性得分组合证明可以实现投射组成时，（2）反向扩散抽样是否可以生成所需的组成，以及（3）组成失败的条件。最后，由于当时尚不清楚的原因，我们将理论分析与先前的经验观察联系起来。