机构名称：
¥ 1.0
尖峰神经网络（SNN）在推理过程中在功耗和事件驱动的属性方面具有显着优势。为了充分利用低功耗并提高了这些模型的效率，已经探索了修剪方法，以找到稀疏的SNN，而无需在训练后没有冗余连接。但是，参数冗余仍然会阻碍训练过程中SNN的效率。在人脑中，神经网络的重新布线过程是高度动态的，而突触连接在脑部消除过程中保持相对较少。受到此启发，我们在这里提出了一个名为ESL-SNNS的SNN的有效进化结构学习（ESL）框架，以实现从头开始实施稀疏的SNN训练。SNN中突触连接的修剪和再生在学习过程中动态发展，但将结构稀疏保持在一定水平。因此，ESL-SNN可以通过在时间上列出所有可能的参数来搜索最佳的稀疏连接。我们的实验表明，所提出的ESL-SNNS框架能够有效地学习稀疏结构的SNN，同时降低有限的精度。ESL-SNN仅达到0。在DVS-CIFAR10数据集上具有10％连接密度的28％抗性损失。我们的工作提出了一种全新的方法，可以通过生物学上合理的进化机制对SNN进行稀疏训练，从而缩小了稀疏训练和密集培训之间的明确攻击差距。因此，它具有SNN轻量级训练和低功耗和少量记忆使用情况的巨大潜力。
ESL-SNNS：尖峰神经网络的进化结构学习策略
主要关键词
相关文件推荐
