详细内容或原文请订阅后点击阅览
单凸势的样本和地图:使用共轭矩测量生成
生成建模中的规范方法是将模型拟合分为两个块:首先定义如何对噪声进行采样(例如高斯),然后选择下一步如何处理它(例如使用单个映射或流)。我们在这项工作中探索了一条将采样和绘图联系起来的替代途径。我们在矩量度中找到了灵感,该结果表明对于任何量度 ρ ,都存在唯一的凸势 u ,使得 ρ = ∇u♯e-u 。虽然这似乎确实有效地将采样(来自对数凹分布 e-u)和动作(推动粒子通过 ∇u)联系起来,但我们在简单的例子中观察到(例如......
来源:Apple机器学习研究生成建模中的规范方法是将模型拟合分为两个块:首先定义如何对噪声进行采样(例如高斯),然后选择下一步如何处理它(例如使用单个映射或流)。我们在这项工作中探索了一条将采样和绘图联系起来的替代途径。我们在矩量度中找到了灵感,该结果表明对于任何量度 ρ ,都存在唯一的凸势 u ,使得 ρ = ∇u♯e-u 。虽然这似乎确实有效地将采样(来自对数凹分布 e-u)和动作(通过 ∇u 推动粒子)联系起来,但我们在简单的示例(例如高斯分布或一维分布)上观察到这种选择不适合实际任务。我们研究了另一种因式分解,其中 ρ 被分解为 ∇w*♯e-w,其中 w* 是凸势 w 的凸共轭。我们将这种方法称为共轭矩测量,并在这些示例中显示出更直观的结果。因为 ∇w* 是对数凹分布 e-w 和 ρ 之间的蒙日图,所以我们依靠最优传输求解器提出一种算法,从 ρ 的样本中恢复 w,并将 w 参数化为输入凸神经网络。我们还解决了常见的采样场景,其中 ρ 的密度仅达到归一化常数,并提出了一种在这种情况下学习 w 的算法。
你 -u w* -w w- † CREST–ENSAE,巴黎综合理工学院
