XiaoMi-AI文件搜索系统
World File Search SystemSpiking
HPCNeuroNet：利用变压器增强型脉冲神经网络推进神经形态音频信号处理
摘要 —本文提出了一种神经形态音频处理的新方法，将脉冲神经网络 (SNN)、Transformers 和高性能计算 (HPC) 的优势整合到 HPCNeuroNet 架构中。利用英特尔 N-DNS 数据集，我们展示了该系统处理多种语言和噪声背景下的不同人类声音录音的能力。我们方法的核心在于将 SNN 的时间动态与 Transformers 的注意机制相融合，使模型能够捕捉复杂的音频模式和关系。我们的架构 HPC-NeuroNet 采用短时傅里叶变换 (STFT) 进行时频表示，采用 Transformer 嵌入进行密集向量生成，采用 SNN 编码/解码机制进行脉冲序列转换。通过利用 NVIDIA 的 GeForce RTX 3060 GPU 和英特尔的 Core i9 12900H CPU 的计算能力，系统的性能得到进一步增强。此外，我们在 Xilinx VU37P HBM FPGA 平台上引入了硬件实现，针对能源效率和实时处理进行了优化。所提出的加速器在 100 MHz 下实现了 71.11 千兆操作每秒 (GOP/s) 的吞吐量，片上功耗为 3.55 W。与现成设备和最新最先进实现的比较结果表明，所提出的加速器在能源效率和设计灵活性方面具有明显优势。通过设计空间探索，我们提供了优化音频任务核心容量的见解。我们的发现强调了集成 SNN、Transformers 和 HPC 进行神经形态音频处理的变革潜力，为未来的研究和应用树立了新的标杆。
直接训练高性能深度脉冲神经网络：理论与方法综述
脉冲神经网络 (SNN) 具有高度的生物合理性、丰富的时空动态和事件驱动计算，是人工神经网络 (ANN) 的一种有前途的节能替代方案。基于替代梯度法的直接训练算法提供了足够的灵活性来设计新颖的 SNN 架构并探索 SNN 的时空动态。根据以前的研究，模型的性能高度依赖于其大小。最近，直接训练深度 SNN 在神经形态数据集和大规模静态数据集上都取得了巨大进展。值得注意的是，基于变压器的 SNN 表现出与 ANN 同类产品相当的性能。在本文中，我们提供了一个新的视角，以系统而全面的方式总结了训练高性能深度 SNN 的理论和方法，包括理论基础、脉冲神经元模型、高级 SNN 模型和残差架构、软件框架和神经形态硬件、应用和未来趋势。评论的论文收集在 Awesome-Spiking-Neural-Networks 中。
一种生物学上可信的脉冲神经网络，用于解码海马和运动前皮层的运动学
摘要 — 本研究提出了一种脉冲神经网络，用于根据神经数据预测运动学，从而实现准确且节能的脑机接口。脑机接口是一种解释神经信号的技术系统，可让运动障碍患者控制假肢。脉冲神经网络具有低功耗和与生物神经结构非常相似的特点，因此有可能改进脑机接口技术。本研究中的 SNN 使用泄漏积分和激发模型来模拟神经元的行为，并使用局部学习方法进行学习，该方法使用替代梯度来学习网络参数。该网络实现了一种新颖的连续时间输出编码方案，允许基于回归的学习。SNN 是在从灵长类动物运动前皮层和大鼠海马记录的神经和运动数据上进行离线训练和测试的。该模型通过寻找预测运动数据与真实运动数据之间的相关性来评估，运动前皮层记录的峰值皮尔逊相关系数达到 0.77，海马体记录的峰值皮尔逊相关系数达到 0.80。该模型的准确性与卡尔曼滤波解码器和 LSTM 网络以及使用反向传播训练的脉冲神经网络进行了对比，以比较局部学习的效果。
基于神经网络的尖峰近传感器计算，用于结构健康监测中的损伤检测
摘要：在这项工作中，我们提出了一种创新的方法，用于利用脑启发算法的基础设施损坏检测。所提出的解决方案利用了复发性尖峰神经网络（LSNN），这些神经网络（LSNN）正以其理论能量效率和紧凑性而出现，从而通过在传感器节点上直接处理来自低成本加速度计（MEMS）的数据来识别损害条件。我们专注于设计MEMS数据的有效编码，以优化低功率微控制器上的SNN执行。我们在配备有STM32嵌入式微控制器和数字MEMS加速度计的硬件原型传感器节点上表征和支持LED LSNN性能和能耗。我们使用了一个硬件环境和虚拟传感器在连接到物理微控制器的SPI接口上生成数据，以通过来自真实高架桥的数据流来评估系统。我们还利用了这种环境，以研究不同的传感器编码技术的影响，模仿了生物启发的传感器能够生成事件而不是加速度的传感器。获得的结果表明，在使用基于尖峰的输入编码技术时，提出的优化嵌入的LSNN（ELSNN）就可以在先进的ART中存在的幼稚LSNN算法实现而达到54％的执行时间。优化的ELSNN需要约47 kcycles，这与SPI接口的数据传输成本相当。但是，基于尖峰的编码技术需要更大的输入向量才能获得相同的分类精度，从而导致更长的预处理和传感器访问时间。总体而言，基于事件的编码技术会导致更长的执行时间（1.49×），但能耗相似。在传感器上移动此编码可以消除此限制，从而导致总体能量更稳固的监视系统。
模拟人工诱导皮质可塑性的积分激发神经网络模型
我们描述了一个整合并激发 (IF) 脉冲神经网络，该网络结合了脉冲时间依赖可塑性 (STDP)，并模拟了产生皮质可塑性的四种不同条件反射协议的实验结果。最初的条件反射实验是在自由移动的非人类灵长类动物 (NHP) 身上进行的，它们具有自主的头部固定双向脑机接口 (BCI)。三种协议涉及由 (1) 单个皮质神经元的脉冲活动、(2) 前臂肌肉的肌电图 (EMG) 活动和 (3) 自发皮质 β 活动周期触发的闭环刺激。第四种协议涉及在相邻皮质部位开环传递刺激对。复制实验结果的 IF 网络由 360 个单元组成，这些单元具有由突触输入产生的模拟膜电位，并在达到阈值时触发脉冲。240 个皮质单元在其目标单元中产生兴奋性或抑制性突触后电位 (PSP)。除了实验观察到的条件作用外，该模型还允许计算最初未记录的底层网络行为。此外，该模型还预测了尚未研究的协议的结果，包括尖峰触发抑制、g 触发刺激和双突触条件作用。模拟的成功表明，结合 STDP 的简单电压 IF 模型可以捕捉通过闭环刺激介导目标可塑性的基本机制。
使用基于神经工程框架的新型机器人控制器，基于神经工程框架的峰值神经网络
摘要：本文研究了新型机器人控制器的尖峰神经网络（SNN），目的是提高轨迹跟踪的准确性。通过结合时间编码机制来模拟人脑的运行，SNN在信息处理方面提供了更大的适应性和效率，与常规神经网络相比，机器人手臂控制中时间信息的代表方面具有显着优势。探索机器人控制中SNN的特定实现，本研究分析了SNN固有的神经元模型和学习机制。基于神经工程框架（NEF）的原理，使用NENGO和MATLAB R2022B设计了一个新型的尖峰PID控制器，并为3多型机器人臂设计和模拟。控制器在以下指定的轨迹方面表现出良好的准确性和效率，显示出最小的偏差，过冲或振荡。使用均方根误差（RMSE）等性能指标的彻底定量评估以及时间加权误差（ITAE）的绝对值的积分，为基于SNN的控制器的效率提供了其他验证。观察到竞争性能，就ITAE指数而言，ITAE指数的ITAE指数和常规PID控制器的模糊控制器超过了模糊控制器，而ITAE指数则超过了6％，而RMSE的性能则超过了30％。这项工作强调了NEF和SNN在开发有效的机器人控制器方面的实用性，为未来的研究奠定了基础，该研究的重点是动态环境和先进的机器人应用中的SNN适应性。
loc-net：快速视觉位置识别的本地化卷积尖峰神经网络
4美国加利福尼亚州斯坦福大学的神经外科系，5神经科学计划，伊利诺伊州Urbana-Champaign，伊利诺伊州Urbana-Champaign，伊利诺伊州Urbana，伊利诺伊州Urbana，美国伊利诺伊州伊利诺伊州乌尔巴纳大学的人工智能创新中心，6，伊利诺伊州工程学院，伊利诺伊州，伊利诺伊州乌里诺斯大学，伊利诺伊州乌里诺斯·塞拉纳，工程学院。伊利诺伊州Urbana-Champaign，伊利诺伊州乌尔巴纳大学，伊利诺伊州乌尔巴纳大学工程学，机械科学与工程学，美国伊利诺伊州乌尔巴纳 - 欧巴纳大学分子与综合生理学系8伊利诺伊州乌尔巴纳，美国4美国加利福尼亚州斯坦福大学的神经外科系，5神经科学计划，伊利诺伊州Urbana-Champaign，伊利诺伊州Urbana-Champaign，伊利诺伊州Urbana，伊利诺伊州Urbana，美国伊利诺伊州伊利诺伊州乌尔巴纳大学的人工智能创新中心，6，伊利诺伊州工程学院，伊利诺伊州，伊利诺伊州乌里诺斯大学，伊利诺伊州乌里诺斯·塞拉纳，工程学院。伊利诺伊州Urbana-Champaign，伊利诺伊州乌尔巴纳大学，伊利诺伊州乌尔巴纳大学工程学，机械科学与工程学，美国伊利诺伊州乌尔巴纳 - 欧巴纳大学分子与综合生理学系8伊利诺伊州乌尔巴纳，美国
胎盘转移动力和母体共证的疫苗诱导的婴儿抗体的耐用性
这项工作通过开发具有二维（时频）卷积长期记忆（ConvlstM2D）的混合和尖峰形式的心脏异常检测，并具有封闭形式的连续（CFC）神经网络（SCCFC），这是一个是生物生物味的Sallow Sallow sallow sallow sallow sallow sallof netward。该模型在心脏异常检测中达到了F1分数，AUROC为0.82和0.91。这些结果可与非加速ConvlstM2D-CFC（CORVCFC）模型1相媲美。值得注意的是，SCCFC模型在模拟Loihi的神经形态芯片架构上的估计功率消耗显示出明显更高的能量效率，与ConverCFC模型在传统过程中的450 µ µ J/INF的消耗相比。另外，作为概念验证，我们在常规且相对受资源约束的Radxa零上部署了SCCFC模型，该模型配备了Amlogic S905Y2处理器进行验证培训，这导致了绩效证明。在常规GPU上对2个时期进行初步训练后，F1分别和AUROC分别从0.46和0.65和0.56和0.73提高，并在5个时期的室内训练训练中提高了5个。此外，当呈现新数据集时，SCCFC模型展示了可以构成伪观点测试的强样本外泛化功能，实现了F1分数，AUROC为0.71和0.86。峰值SCCFC在鲁棒性方面还表现出在推理过程中有效处理缺失的ECG通道方面的非加速Convcfc模型。该模型的功效扩展到单个铅心电图（ECG）分析，在这种情况下证明了合理的精度，而我们的工作重点一直放在模型的计算和记忆复杂性上。关键字：尖峰神经网络，心电图分析，能量效率，设备微调，生成，鲁棒性。
Brian2Loihi：使用脉冲神经网络模拟器 Brian 的神经形态芯片 Loihi 的模拟器
开发智能神经形态解决方案仍然是一项具有挑战性的任务。它需要对硬件的基本构建块有扎实的概念理解。除此之外，易于访问且用户友好的原型设计对于加快设计流程至关重要。我们基于神经网络模拟器 Brian 开发了一个开源 Loihi 模拟器，可以轻松将其纳入现有的模拟工作流程。我们在软件中演示了单个神经元和循环连接的脉冲神经网络的无错误 Loihi 模拟。我们还审查并实施了片上学习，由于随机舍入，存在合理的差异。这项工作提供了 Loihi 计算单元的连贯介绍，并介绍了一个新的、易于使用的 Loihi 原型设计包，旨在帮助简化新算法的概念化和部署。
行为过程中脉冲和场电位信号之间的多尺度因果关系建模
摘要 目的。脑记录在多个时空尺度上表现出动态，这些动态可以用脉冲序列和更大规模的场电位信号来测量。为了研究神经过程，重要的是不仅要在单个活动尺度上识别和建模因果关系，还要在多个尺度上识别和建模因果关系，即脉冲序列和场电位信号之间。标准因果关系度量在这里不直接适用，因为脉冲序列是二值，而场电位是连续值。因此，重要的是开发计算工具来恢复行为过程中的多尺度神经因果关系，评估它们在神经数据集上的性能，并研究多尺度因果关系建模是否可以提高神经信号的预测能力，使其超出单尺度因果关系所能达到的范围。方法。我们设计了一种基于有向信息的多尺度模型的 Granger 类因果关系方法，并评估其在现实的生物物理脉冲场模拟和两个执行运动行为的非人类灵长类动物 (NHP) 的运动皮层数据集中的成功率。为了计算多尺度因果关系，我们学习了点过程广义线性模型，该模型基于脉冲序列和场电位信号的历史来预测给定时间的脉冲事件。我们还学习了线性高斯模型，该模型基于场电位信号自身的历史以及二元脉冲事件或潜在放电率的历史来预测给定时间的场电位信号。主要结果。我们发现，尽管存在模型不匹配，但我们的方法仍揭示了生物物理模拟中真正的多尺度因果关系网络结构。此外，与仅对单尺度因果关系进行建模相比，在 NHP 神经数据集中具有已识别多尺度因果关系的模型可以更好地预测脉冲序列和场电位信号。最后，我们发现与 NHP 数据集中的二元脉冲事件相比，潜在放电率是场电位信号的更好预测因子。意义。这种多尺度因果关系方法可以揭示跨大脑活动时空尺度的定向功能相互作用，从而为基础科学研究和神经技术提供信息。