Loading...
机构名称:
¥ 1.0

最深层生成建模中的最新技术具有利用马尔可夫生成过程,以更结构化和灵活的方式学习复杂的高维概率分布[17]。通过将马尔可夫链方法与深层神经体系结构整合在一起,这些方法旨在利用深网的代表力,同时维持可聊天且理论上扎根的训练程序。与早期生成模型相反,这些模型在很大程度上依赖于直接的最大似然估计或对抗性目标,此类方法采用了迭代的随机变换(通常以马尔可夫的更新表示)来逐渐将初始噪声样本逐渐从所需的目标分布中绘制出来。di效率和流量匹配模型代表了两种突出的生成方法类别,这些方法通过一系列连续转换来结构数据样本。di效率模型[6,13]引入了一个向前的和反向降级过程,通过学习在每个步骤中撤消增量的噪声损坏,将简单的噪声分布逐渐将简单的噪声分布重新定位到复杂的目标分布中。流量匹配模型[10,11,12]直接学习连续的时间变换,这些转换将基本分布转换为规定的流量字段下的目标分布。两个家庭都从良好的可能性和稳定的培训目标中受益,从而使理论上的见解更清晰,样本质量提高了,并且通常比以前的方法(例如gans)更可靠[3,5]。生成器匹配[7]是一个框架,可以在artrary状态空间上使用Markov进程来构建生成性建模。此框架允许以两种方式组合不同的马尔可夫进程:马尔可夫叠加和通过组合单峰发生器创建多模式生成模型。在这项工作中,我们旨在利用生成器匹配框架提供详细的理论比较,并将其匹配模型和流量匹配模型进行详细的理论比较。我们表明,我们的目的是提供生成器匹配的概述,如何连接到分解和流量匹配模型以及某些Markov生成过程的特定属性如何使它们比其他过程更强大。

探索发电机下的扩散和流匹配...

探索发电机下的扩散和流匹配...PDF文件第1页

探索发电机下的扩散和流匹配...PDF文件第2页

探索发电机下的扩散和流匹配...PDF文件第3页

探索发电机下的扩散和流匹配...PDF文件第4页

探索发电机下的扩散和流匹配...PDF文件第5页