Loading...
机构名称:
¥ 1.0

物理计算元素的响应时间是有限的,神经元也不例外。在皮质网络的分层模型中,每层都引入了响应滞后。物理动力学系统的这种固有属性导致刺激的处理延迟,并导致网络输出和启发性信号之间的时机不匹配,因此不仅会推断,而且还可以学习。我们引入了潜在平衡,这是一个慢速组件网络中推断和学习的新框架,通过利用生物神经元的能力来避免这些问题,以相对于其内存潜力进行输出。该原理可以独立于网络深度,可以实现准稳定推断,并避免需要分阶段可塑性或计算昂贵的网络松弛阶段。我们从依赖网络的广义位置和动量的前瞻性能量函数中共同得出脱离神经元和突触动力学。所得模型可以解释为具有连续时间,泄漏的神经元动力学和连续的局部局部可塑性的深层皮质网络中误差反向传播的误差。我们展示了对标准基准数据集的成功学习,并使用完全连接和连接的体系结构来实现竞争性能,并展示了如何将我们的原理应用于皮质微电路的详细模型。此外,我们研究了模型对时空底物缺陷的鲁棒性,以证明其在体内或在硅中的物理实现的可行性。§

潜在平衡:任意的统一学习理论...

潜在平衡:任意的统一学习理论...PDF文件第1页

潜在平衡:任意的统一学习理论...PDF文件第2页

潜在平衡:任意的统一学习理论...PDF文件第3页

潜在平衡:任意的统一学习理论...PDF文件第4页

潜在平衡:任意的统一学习理论...PDF文件第5页