Loading...
机构名称:
¥ 1.0

贝叶斯大脑理论表明,大脑采用生成模型来阐明外部世界。基于抽样的视角认为,大脑通过随机神经元反应的样品渗透后验分布。此外,大脑不断更新其生成模型,以接近外部世界的真实分布。在这项研究中,我们介绍了基于元素的基于户主的基于能量的(HEE)模型,该模型捕获了推理和学习的动力学。在HEE模型中,我们将分区函数分解为各个层,并利用较短时间常数的一组神经元来采样分解归一化项的梯度。这使我们的模型可以估计分区函数并同时执行推理,从而规避传统基于能量的模型(EBM)中遇到的负相位。因此,学习过程在时间和空间上都是本地化的,模型易于收敛。为了匹配大脑的快速计算,我们证明了神经适应性可以用作动量术语,从而显着加速了推理过程。在自然图像数据集上,我们的模型表现出类似于在生物视觉系统中观察到的表示。此外,对于机器学习社区,我们的模型可以通过关节或边际生成产生观察。我们表明,边际发电的表现优于联合产生,并且与其他EBM的表现达到了绩效。

分层指数家庭能量中的神经抽样...

分层指数家庭能量中的神经抽样...PDF文件第1页

分层指数家庭能量中的神经抽样...PDF文件第2页

分层指数家庭能量中的神经抽样...PDF文件第3页

分层指数家庭能量中的神经抽样...PDF文件第4页

分层指数家庭能量中的神经抽样...PDF文件第5页

相关文件推荐