摘要 — 脉冲神经网络 (SNN) 通过离散二进制事件计算和传递信息。在新兴的神经形态硬件中,它被认为比人工神经网络 (ANN) 更具生物学合理性且更节能。然而,由于不连续和不可微分的特性,训练 SNN 是一项相对具有挑战性的任务。最近的工作通过将 ANN 转换为 SNN 在出色性能上取得了实质性进展。由于信息处理方面的差异,转换后的深度 SNN 通常遭受严重的性能损失和较大的时间延迟。在本文中,我们分析了性能损失的原因,并提出了一种新型双稳态脉冲神经网络 (BSNN),解决了由相位超前和相位滞后引起的失活神经元 (SIN) 脉冲问题。此外,当基于 ResNet 结构的 ANN 转换时,由于快捷路径的快速传输,输出神经元的信息不完整。我们设计了同步神经元 (SN) 来帮助有效提高性能。实验结果表明,与以前的工作相比,所提出的方法仅需要 1/4-1/10 的时间步骤即可实现几乎无损的转换。我们在包括 CIFAR-10(95.16% top-1)、CIFAR-100(78.12% top-1)和 ImageNet(72.64% top-1)在内的具有挑战性的数据集上展示了 VGG16、ResNet20 和 ResNet34 的最先进的 ANN-SNN 转换。
主要关键词