详细内容或原文请订阅后点击阅览
归一化流是能力的生成模型
标准化流（NFS）是基于连续输入的可能性模型。他们在密度估计和生成建模任务上都表现出了令人鼓舞的结果，但近年来受到了相对较少的关注。在这项工作中，我们证明了NFS比以前认为的强大。我们提出TARFLOW：一种简单且可扩展的体系结构，可实现高性能的NF模型。 TARFlow可以被认为是基于变压器的掩蔽自回旋流量（MAFS）的变体：它由图像补丁上的一堆自动回归变压器块组成……
来源:Apple机器学习研究标准化流（NFS）是基于连续输入的可能性模型。他们在密度估计和生成建模任务上都表现出了令人鼓舞的结果，但近年来受到了相对较少的关注。在这项工作中，我们证明了NFS比以前认为的强大。我们提出TARFLOW：一种简单且可扩展的体系结构，可实现高性能的NF模型。 TARFlow可以被认为是掩盖自回旋流动流的基于变压器的变体（MAFS）：它由图像贴片上的一堆自动回归变压器块组成，在图层之间交替了自动进度方向。 TARFLOW直接训练端到端，并且能够直接建模和生成像素。我们还提出了三种关键技术来提高样本质量：在培训期间进行高斯的降噪，培训后的DeNoising程序，以及针对课堂条件和无条件环境的有效指导方法。将这些结合在一起，TARFLOW设置了图像的可能性估计的新最先进的结果，以大幅度的边距击败了先前的最佳方法，并首次使用独立的NF模型生成了具有与扩散模型相当的质量和多样性的样品。
图1：TARFLOW生成的各种分辨率的样品。
图2：TARFLOW的模型体系结构。