SDCNN

设计多核大小 μBrains 以实现节能...

摘要 — 随着基于脉冲的深度学习推理应用在嵌入式系统中的增多，这些系统倾向于集成神经形态加速器（如 µ Brain）以提高能源效率。我们提出了一种基于 µ Brain 的可扩展多核神经形态硬件设计，以加速脉冲深度卷积神经网络 (SDCNN) 的计算。为了提高能源效率，内核在神经元和突触容量方面设计为异构的（即大核与小核），并且它们使用并行分段总线互连，与传统的基于网格的片上网络 (NoC) 相比，这可以降低延迟和能耗。我们提出了一个名为 SentryOS 的系统软件框架，将 SDCNN 推理应用程序映射到所提出的设计中。SentryOS 由一个编译器和一个运行时管理器组成。编译器利用大和小 µ Brain 内核的内部架构将 SDCNN 应用程序编译成子网络。运行时管理器将这些子网络调度到内核上并流水线执行以提高吞吐量。我们用五个常用的 SDCNN 推理应用程序评估了所提出的大多核神经形态设计和系统软件框架，并表明所提出的解决方案可降低能耗（37% 至 98%）、降低延迟（9% 至 25%）并提高应用程序吞吐量（20% 至 36%）。我们还表明 SentryOS 可以轻松扩展到其他脉冲神经形态加速器，例如 Loihi 和 DYNAP。索引术语 — 神经形态计算、脉冲深度卷积神经网络、多核、嵌入式系统、µ Brain