机构名称：
¥ 1.0
摘要 — 我们提出了一种新颖的、受大脑启发的深度神经网络模型，即深度振荡神经网络 (DONN)。像循环神经网络这样的深度神经网络确实具有序列处理能力，但网络的内部状态并非设计为表现出类似大脑的振荡活动。出于这种动机，DONN 被设计为具有振荡内部动力学。DONN 的神经元要么是非线性神经振荡器，要么是具有 S 形或 ReLU 激活的传统神经元。该模型中使用的神经振荡器是 Hopf 振荡器，其动态在复杂域中描述。输入可以以三种可能的模式呈现给神经振荡器。S 形和 ReLU 神经元也使用复值扩展。所有权重阶段也是复值的。训练遵循权重变化的一般原理，通过最小化输出误差，因此与复杂反向传播总体相似。还提出了一种将 DONN 推广到卷积网络的方法，即振荡卷积神经网络。所提出的两个振荡网络已应用于信号和图像/视频处理中的各种基准问题。所提出的模型的性能与同一数据集上公布的结果相当或优于公布的结果。
深度振荡神经网络
主要关键词
相关文件推荐
