机构名称：
¥ 1.0
由于配分函数难以处理，通过最大似然法训练基于能量的模型 (EBM) 需要马尔可夫链蒙特卡罗 (MCMC) 采样来近似数据和模型分布之间的 Kullback-Leibler 散度的梯度。然而，由于模式混合困难，从 EBM 中采样并非易事。在本文中，我们提出学习变分自动编码器 (VAE) 来初始化有限步长 MCMC，例如从能量函数推导出来的朗之万动力学，以实现 EBM 的有效摊销采样。利用这些摊销的 MCMC 样本，EBM 可以通过最大似然法进行训练，这遵循“综合分析”方案；而 VAE 通过变分贝叶斯从这些 MCMC 样本中学习。我们将这种联合训练算法称为变分 MCMC 教学，其中 VAE 追逐 EBM 朝向数据分布。我们将学习算法解释为信息几何背景下的动态交替投影。我们提出的模型可以生成与 GAN 和 EBM 相当的样本。此外，我们证明了我们的模型可以学习针对监督条件学习任务的有效概率分布。
学习基于能量的模型与变分自动...
主要关键词
相关文件推荐
