Loading...
机构名称:
¥ 5.0

神经活动与行为相关变量之间的关系是神经科学研究的核心。当这种关系很强时,这种关系被称为神经表征。然而,越来越多的证据表明,某个区域的活动与相关的外部变量之间存在部分分离。虽然已经提出了许多解释,但缺乏外部变量和内部变量之间关系的理论框架。在这里,我们利用循环神经网络 (RNN) 从几何角度探索神经动力学和网络输出何时以及如何相关的问题。我们发现训练 RNN 可以导致两种动态状态:动态可以与产生输出变量的方向一致,也可以与它们倾斜。我们表明,训练前读出权重大小的选择可以作为状态之间的控制旋钮,类似于最近在前馈网络中的发现。这些状态在功能上是不同的。斜向网络更加异质,并抑制其输出方向上的噪声。此外,它们对沿输出方向的扰动更具鲁棒性。至关重要的是,出于动态稳定性考虑,倾斜状态特定于循环(而非前馈)网络。最后,我们表明,在神经记录中,可以分离出对齐或倾斜状态的趋势。总之,我们的结果为通过将网络动态与其输出相关联来解释神经活动开辟了新视角。

循环神经网络中的对齐和倾斜动力学

循环神经网络中的对齐和倾斜动力学PDF文件第1页

循环神经网络中的对齐和倾斜动力学PDF文件第2页

循环神经网络中的对齐和倾斜动力学PDF文件第3页

循环神经网络中的对齐和倾斜动力学PDF文件第4页

循环神经网络中的对齐和倾斜动力学PDF文件第5页