详细内容或原文请订阅后点击阅览
用于基于核的最优传输的专用半平滑牛顿方法
基于内核的最优传输 (OT) 估计器提供了一种替代的功能估计程序来解决样本中的 OT 问题。最近的研究表明，在比较高维概率度量时，这些估计器比插件（基于线性编程）OT 估计器在统计上更有效[Vacher et al., 2021]。不幸的是，这种统计优势是以非常高昂的计算代价为代价的：因为它们的计算依赖于短步内点法（SSIPM），而这种方法在实践中会带来大量的迭代次数，所以这些估计器很快就会变得……
来源:Apple机器学习研究基于内核的最优传输 (OT) 估计器提供了一种替代的功能估计程序来解决样本中的 OT 问题。最近的研究表明，在比较高维概率度量时，这些估计器比插件（基于线性编程）OT 估计器在统计上更有效[Vacher et al., 2021]。不幸的是，这种统计优势是以非常高的计算成本为代价的：因为它们的计算依赖于短步内点法（SSIPM），而该方法在实践中会带来大量的迭代次数，所以这些估计器很快就会变得棘手。样本量为了将这些估计量扩展到更大的 n，我们针对基于内核的 OT 问题提出了一种非平滑定点模型，并表明它可以通过专门的半平滑牛顿 (SSN) 方法有效地解决：我们通过探索问题的结构表明，在实践中可以显着降低执行一个 SSN 步骤的每次迭代成本。我们证明了我们的 SSN 方法实现了 O(1/√k) 的全局收敛速度，以及标准正则条件下的局部二次收敛速度。我们在合成数据集和真实数据集上都显示出比 SSIPM 显着的加速。