近年来,多层感知器 (MLP) 成为计算机视觉任务领域的研究热点。由于没有归纳偏差,MLP 在特征提取方面表现良好并取得了惊人的效果。然而,由于其结构简单,其性能高度依赖于局部特征通信机制。为了进一步提高 MLP 的性能,我们引入了脑启发神经网络的信息通信机制。脉冲神经网络 (SNN) 是最著名的脑启发神经网络,在处理稀疏数据方面取得了巨大成功。SNN 中的泄漏积分和触发 (LIF) 神经元用于在不同时间步骤之间进行通信。在本文中,我们将 LIF 神经元的机制合并到 MLP 模型中,以在不增加 FLOP 的情况下实现更好的准确率。我们提出了一种全精度 LIF 操作来在块之间进行通信,包括不同方向的水平 LIF 和垂直 LIF。我们还建议使用组 LIF 来提取更好的局部特征。借助 LIF 模块,我们的 SNN-MLP 模型在 ImageNet 数据集上分别仅使用 4.4G、8.5G 和 15.2G FLOP 就实现了 81.9%、83.3% 和 83.5% 的 top-1 准确率,据我们所知,这是最先进的结果。源代码将在 https://gitee.com/mindspore/models/tree/master/research/cv/snn mlp 上提供。
一种替代方法是使用一种称为神经形态计算的方法来精确模拟大脑,即人类已知的最有效的“计算机”。神经形态计算的性能源于其独特的组织结构。据《自然计算科学》杂志 [1] 上的一篇文章称,与高性能计算相比,它的性能提高了 1,000 倍,效率提高了 10,000 倍。其概念是在与所有其他细胞相连但并行运行的硬件电路中实现 ACH 脑细胞(即神经元)。这种计算类型的软件模型称为脉冲神经网络 (SNN),这是一种人工神经网络,其灵感来自大脑中神经元的全有或全无通信方式。与使用连续值信号的传统神经网络相比,SNN 使用离散的二进制信号。
精确的脉冲定时和时间编码在昆虫的神经系统和高阶动物的感觉外围中得到广泛应用。然而,传统的人工神经网络 (ANN) 和机器学习算法无法利用这种编码策略,因为它们的信号表示是基于速率的。即使在人工脉冲神经网络 (SNN) 的情况下,确定时间编码优于 ANN 的速率编码策略的应用仍然是一个悬而未决的挑战。神经形态传感处理系统为探索时间编码的潜在优势提供了理想的环境,因为它们能够从相对脉冲定时中有效地提取聚类或分类时空活动模式所需的信息。在这里,我们提出了一个受沙蝎启发的神经形态模型来探索时间编码的好处,并在基于事件的传感处理任务中对其进行验证。该任务包括仅使用八个空间分离的振动传感器的相对脉冲定时来定位目标。我们提出了两种不同的方法,其中 SNN 以无监督的方式学习聚类时空模式,并展示了如何通过分析和多个 SNN 模型的数值模拟来解决该任务。我们认为,所提出的模型对于使用精确脉冲时间进行时空模式分类是最佳的,可以用作评估基于时间编码的事件感知处理模型的标准基准。
心脏病是全球最常见的死亡原因。因此,检测和分类心电图 (ECG) 信号对于延长预期寿命至关重要。在本研究中,我们旨在在现场可编程门阵列 (FPGA) 中实现人工智能信号识别系统,该系统可以在需要电池的边缘设备中识别生物信号模式,例如 ECG。尽管分类准确度有所提高,但深度学习模型需要大量的计算资源和功率,这使得深度神经网络的映射速度变慢,并且在可穿戴设备上的实现具有挑战性。为了克服这些限制,已经应用了脉冲神经网络 (SNN)。SNN 是受生物启发的事件驱动神经网络,使用离散脉冲计算和传输信息,这需要更少的操作和更简单的硬件资源。因此,与其他人工神经网络算法相比,它们更节能。
基于核粉的离子对撞机设施(NICA)正在俄罗斯杜巴纳联合核研究所(JINR)建设。nica将在质量中心系统中的√snn = 4至11 GEV的范围内的能量碰撞(198 Au + 198 Au,209 Bi + 209 Bi)在√snn = 4至11 GEV的范围内,以提供在高净 - 巴里密度区域研究此问题的机会[1]。NICA的多用途检测器(MPD)实验将测量对状态方程(EOS)敏感的各种突出的诊断探针和强相互作用的物质的转运性能[2,3]。中,最突出的是,相对于碰撞对称平面而言,生成的Hadron的方位角集体流[4]。可以通过傅立叶系数v n在粒子方位角分布的扩展中进行量化。
摘要 — 脑机接口 (BCI) 促进了大脑和外部设备之间的直接交互。为了在侵入式 BCI 中同时实现高解码精度和低能耗,我们提出了一种结合局部突触稳定 (LSS) 和通道注意 (CA) 的新型脉冲神经网络 (SNN) 框架,称为 LSS-CA-SNN。LSS 优化了神经元膜电位动力学,提高了分类性能,而 CA 细化了神经元激活,有效降低了能耗。此外,我们引入了 SpikeDrop,这是一种数据增强策略,旨在扩展训练数据集,从而增强模型的通用性。在两只恒河猴记录的侵入式脉冲数据集上进行的实验表明,LSS-CA-SNN 在解码精度和能源效率方面均超越了最先进的人工神经网络 (ANN),性能提升了 0.80-3.87%,节能了 14.78-43.86 倍。这项研究强调了 LSS-CA-SNN 和 SpikeDrop 在推进侵入式 BCI 应用方面的潜力。
Last but not least, the project will bridge the gap between hardware and software models by investigating mapping strategies targeting the following design constraints: (a) co-design and co-optimization with the underlying routing mechanism, so that smart mappings can allow more lightweight multicast hardware, (b) co-optimizing the SNN partitioning step with the placement one for efficient mapping of large scale SNNs to highly-parallel神经形态硬件。
本文探讨了事件摄像机的潜力,使得能够连续加强学习。我们正式化了这个问题,其中使用连续的非同步观测流来为环境产生相应的输出动作流。缺乏同步可以极大地增强反应性。我们提出了一种在从标准RL环境中得出的事件流进行训练的方法,从而解决了建议的连续时间RL问题。CERIL算法使用直接在事件流上运行的专门网络层,而不是将事件汇总到量化的图像帧中。我们显示了事件流的优势,而不是频繁的RGB图像。所提出的系统优于通常在RL中使用的网络,即使在传统上无法解决的任务中也成功。使用事件流,我们还证明了与标准SNN基线相对于标准SNN基线的值。代码可从https://gitlab.surrey.ac.uk/cw0071/ceril获得。
课程描述:机器学习和深度学习的基础;深度神经网络(DNN);卷积神经网络(CNN);循环神经网络(RNN);AI加速器细节;AI加速器中的节能训练和推理;受大脑启发的神经形态计算简介;脉冲时间相关可塑性(STDP)和学习规则;脉冲神经网络(SNN)在硬件中的模拟和实现。
大脑中的神经调节剂以多种形式的突触可塑性发挥作用,这些可塑性被表示为元可塑性,现有的脉冲神经网络 (SNN) 和非脉冲人工神经网络 (ANN) 很少考虑到这一点。在这里,我们报告了一种有效的受大脑启发的 SNN 和 ANN 计算算法,本文称为神经调节辅助信用分配 (NACA),它使用期望信号将定义水平的神经调节剂诱导到选择性突触,从而根据神经调节剂水平以非线性方式修改长期突触增强和抑制。NACA 算法在学习空间和时间分类任务时实现了高识别准确率,同时大幅降低了计算成本。值得注意的是,NACA 还被证实可有效学习五种不同复杂程度的类别连续学习任务,并以低计算成本显著缓解灾难性遗忘。映射突触权重变化表明,这些好处可以通过基于期望的整体神经调节所导致的稀疏和有针对性的突触修改来解释。