详细内容或原文请订阅后点击阅览
进入流程:TensorFlow Probability 中的双射器
规范化流是无监督深度学习中鲜为人知但却令人着迷且成功的架构之一。在这篇文章中,我们使用 tfprobability(TensorFlow Probability 的 R 包装器)对流程进行了基本介绍。后续文章将在此基础上进行构建,在更复杂的数据上使用更复杂的流程。
来源:RStudio AI博客截至今天,深度学习的最大成功发生在监督学习领域,需要大量带注释的训练数据。但是,数据(通常)不带有注释或标签。此外,无监督学习由于与人类认知的相似性而具有吸引力。
无监督学习到目前为止,在本博客中,我们已经看到了两种主要的无监督学习架构:变分自动编码器和生成对抗网络。 不太为人所知,但出于概念和性能原因而具有吸引力的是规范化流(Jimenez Rezende 和 Mohamed 2015)。在这篇文章和下一篇文章中,我们将介绍流程,重点介绍如何使用 TensorFlow Probability (TFP) 实现它们。
变分自动编码器 生成对抗网络 规范化流程 (Jimenez Rezende 和 Mohamed 2015) Jimenez Rezende 和 Mohamed 2015 TensorFlow Probability与之前涉及使用低级 $-语法访问其功能的 TFP 的帖子不同,我们现在使用 tfprobability,这是一个 R 包装器,风格类似于 keras、tensorflow 和 tfdatasets。关于此包的说明:它仍在大力开发中,API 可能会发生变化。截至撰写本文时,并非所有 TFP 模块都存在包装器,但如果需要,可以使用 $-语法获得所有 TFP 功能。
之前涉及 TFP 的帖子$
tfprobability
keras
tensorflow
tfdatasets
$
密度估计和采样
采样 分布回顾一下,我们如何从 VAE 中采样?我们从潜在变量 \(z\) 中提取数据,并在其上运行解码器网络。我们希望结果看起来应该像来自经验数据分布。但是,它不应该看起来与用于训练 VAE 的任何项目完全一样,否则我们就没有学到任何有用的东西。
\(z\) 确实如此如果我们想要或需要两者:样本生成和密度估计?这就是标准化流程发挥作用的地方。
标准化流程标准化流程
流量 累积概率分布 指数CDF -> 值
lambda
x