生成对抗网络(GAN)是一类机器学习模型,它们使用对抗性训练来生成具有与培训样本相同(可能非常复杂的)统计数据的新样本。一种主要的训练失败,称为模式崩溃,涉及发电机未能重现目标概率分布中模式的全部多样性。在这里,我们提出了一个有效的GAN训练模型,该模型通过用输出空间中的颗粒集代替发电机神经网络来捕获学习动力学;颗粒由通用内核对某些宽神经网络和高维输入有效。我们简化模型的一般性使我们能够研究发生模式崩溃的条件。的确,改变发生器有效核的实验揭示了模式塌陷过渡,其形状可以通过频率原理与鉴别器的类型有关。此外,我们发现中间强度的梯度正则化可以通过发电机动力学的严重阻尼来最佳地产生收敛。因此,我们有效的GAN模型为理解和改善对抗性训练提供了可解释的物理框架。
主要关键词