机构名称：
¥ 1.0
作为第三代神经网络，脉冲神经网络 (SNN) 因其生物学合理性和计算效率而备受关注，尤其是在处理各种数据集方面。受到神经网络架构进步的启发，注意力机制的整合导致了脉冲变压器 (Spiking Transformers) 的发展。这些在增强 SNN 能力方面显示出希望，特别是在静态和神经形态数据集领域。尽管取得了进展，但这些系统仍然存在明显的差距，特别是在脉冲自注意力 (SSA) 机制在利用 SNN 的时间处理潜力方面的有效性方面。为了解决这个问题，我们引入了时间交互模块 (TIM)，这是一种新颖的基于卷积的增强功能，旨在增强 SNN 架构中的时间数据处理能力。 TIM 与现有 SNN 框架的集成无缝且高效，只需要极少的附加参数，同时显著提升了其时间信息处理能力。通过严格的实验，TIM 证明了其在利用时间信息方面的有效性，从而在各种神经形态数据集中实现了最先进的性能。代码可在 https://github.com/BrainCog-X/Brain-Cog/tree/main/examples/TIM 上找到。
TIM：一种用于 Spiking Transformer 的高效时间交互模块
主要关键词
相关文件推荐
