Loading...
机构名称:
¥ 1.0

对比散度是一种常用的基于能量的模型训练方法,但众所周知,它在训练稳定性方面存在困难。我们提出了一种改进对比散度训练的改进方法,即仔细研究一个难以计算且经常为了方便而被忽略的梯度项。我们表明,这个梯度项在数值上是显著的,在实践中对于避免训练不稳定很重要,同时易于估计。我们进一步强调了如何使用数据增强和多尺度处理来提高模型的鲁棒性和生成质量。最后,我们通过实证评估了模型架构的稳定性,并在一系列基准测试和用例(如图像生成、OOD 检测和组合生成)上展示了改进的性能。

改进的能量对比发散训练......

改进的能量对比发散训练......PDF文件第1页

改进的能量对比发散训练......PDF文件第2页

改进的能量对比发散训练......PDF文件第3页

改进的能量对比发散训练......PDF文件第4页

改进的能量对比发散训练......PDF文件第5页

相关文件推荐