深度信念网络(DBN)是通过堆叠受限的Boltzmann机器(RBMS,(Smolensky,1986)获得的一类生成概率模型。有关RBMS和DBNS的简要介绍,我们将读者推荐给调查文章(Fischer&Igel,2012; 2014; Mont´ufar,2016; Ghojogh等,2021)。Since their introduction, see (Hinton et al., 2006; Hinton & Salakhutdinov, 2006), DBNs have been successfully applied to a variety of prob- lems in the domains of natural language processing (Hin- ton, 2009; Jiang et al., 2018), bioinformatics (Wang & Zeng, 2013; Liang et al., 2014; Cao et al., 2016; Luo等,2019),财务市场(Shen等,2015)和计算机视觉(Abdel-Zaher&Eldeib,2016; Kamada&Ichimura,2016; 2019; Huang等,2019)。但是,我们对这些模型的理论理解是有限的。 近似近似概率分布的能力(通常称为通用近似属性)仍然是具有实值可见单元的DBN的一个开放问题,更不用说对隐藏神经元数量的近似误差进行定量理解。 作为两个实值概率密度函数之间接近度的量度,通常考虑L Q-距离或Kullback-Leibler差异。但是,我们对这些模型的理论理解是有限的。近似近似概率分布的能力(通常称为通用近似属性)仍然是具有实值可见单元的DBN的一个开放问题,更不用说对隐藏神经元数量的近似误差进行定量理解。作为两个实值概率密度函数之间接近度的量度,通常考虑L Q-距离或Kullback-Leibler差异。
主要关键词