XiaoMi-AI文件搜索系统
World File Search SystemSpiking
LaSNN：分层 ANN 到 SNN 提炼，用于深度脉冲神经网络的有效和高效训练
摘要 —脉冲神经网络 (SNN) 具有生物现实性，且由于其事件驱动机制而在低功耗计算方面具有实际应用前景。通常，SNN 的训练会在各种任务上遭受准确度损失，其性能不如 ANN。提出了一种转换方案，通过将训练好的 ANN 参数映射到具有相同结构的 SNN 来获得具有竞争力的准确度。然而，这些转换后的 SNN 需要大量的时间步骤，从而失去了节能优势。利用 ANN 的准确度优势和 SNN 的计算效率，提出了一种新颖的 SNN 训练框架，即逐层 ANN 到 SNN 知识提炼 (LaSNN)。为了实现具有竞争力的准确度和减少推理延迟，LaSNN 通过提炼知识而不是转换 ANN 的参数将学习从训练有素的 ANN 转移到小型 SNN。通过引入注意力机制，我们弥合了异构 ANN 和 SNN 之间的信息鸿沟，利用我们的分层蒸馏范式有效地压缩了 ANN 中的知识，然后有效地传输这些知识。我们进行了详细的实验，以证明 LaSNN 在三个基准数据集（CIFAR-10、CIFAR-100 和 Tiny ImageNet）上的有效性、功效和可扩展性。与 ANN 相比，我们实现了具有竞争力的 top-1 准确率，并且推理速度比具有类似性能的转换后的 SNN 快 20 倍。更重要的是，LaSNN 灵活且可扩展，可以毫不费力地为具有不同架构/深度和输入编码方法的 SNN 开发，从而促进其潜在发展。
使用神经形态听觉传感器和脉冲神经网络实时检测神经元培养中的爆发
在许多情况下，从基础神经科学到生物医学应用，正确识别突发事件都至关重要。然而，文献中可以找到的突发检测方法都没有被广泛用于此任务。作为传统技术的替代方案，提出了一种用于实时突发检测的新型神经形态方法，并在体外培养采集的数据上进行了测试。该系统由一个神经形态听觉传感器组成，它将从电生理记录中获得的输入信号转换为尖峰并将其分解为不同的频带。传感器的输出被发送到在 SpiNNaker 板上实现的经过训练的尖峰神经网络，该网络可辨别突发和非突发活动。这种数据驱动的方法与 8 种不同的传统基于尖峰的方法进行了比较，解决了它们的一些缺点，例如能够检测高频和低频事件并以在线方式工作。使用所提出的系统，在检测到的事件数量、平均突发持续时间和相关性方面获得了与当前最先进的方法相似的结果，也受益于
使用深度学习从整个脉冲活动中稳健而准确地解码手部运动
稳健性和解码准确性仍然是皮层内脑机接口 (BMI) 系统临床转化的主要挑战。在这项工作中，我们展示了一种信号/解码器协同设计方法（在设计开发过程中利用输入信号和解码算法之间的协同作用）可用于实现稳健且准确的 BMI 解码性能。具体而言，通过应用此过程，我们提出将整个脉冲活动 (ESA) 用作输入信号，将基于准循环神经网络 (QRNN) 的深度学习用作解码算法。我们评估了 ESA 驱动的 QRNN 解码器从非人类灵长类动物初级运动皮层区域长期记录的神经信号解码手部运动学的性能。我们提出的方法在长期记录会话中始终比之前报告的任何其他方法都具有更高的解码性能。即使从原始信号中去除脉冲，其高解码性能也能维持。总体结果显示出极高的解码精度和长期稳健性，这是非常可取的，因为它是 BMI 中尚未解决的挑战。
移动机器人的快速适应和持续学习尖峰神经网络路径计划算法
摘要 - 基于此地图的环境和计划途径中的遍历成本对于自主航很重要。我们提出了一种神经动物导航系统，该系统利用尖峰神经网络（SNN）波前策划者和电子企业学习同时绘制和计划路径在大而复杂的环境中。，我们结合了一种新颖的映射方法，当与尖峰波前计划器（SWP）结合使用时，通过选择性地考虑任何成本组合，可以进行自适应计划。该系统在室外环境中具有障碍物和不同地形的室外环境中进行测试。结果表明，该系统能够使用三种成本量度，（1）轮子的能量消耗，（2）在存在障碍物的情况下花费的时间以及（3）地形斜率。在仅十二个小时的在线培训中，电子prop通过更新SWP中的延迟来学习并将遍历成本纳入路径计划地图。在模拟路径上，SWP计划比A*和RRT*明显短，成本较低。SWP与神经形态硬件兼容，可用于需要低尺寸，重量和功率的应用。
othm 7级人工智能文凭。
本单元旨在为学习者提供对人工智能（AI）领域（AI）的全面介绍，涵盖了古典和现代方法。学习者将探讨AI基础的基本概念，技术和哲学，包括知识表示，推理，机器学习（包括神经网络的概述，神经网络作为大脑神经元的模型的生物学基础，以及非线性激活激活，以相似地激活spiking to Spiking），以及搜索Algorithms，以及Algorithms。该部门还研究了人工智能的道德和哲学含义及其未来的挑战。通过完成本单元，学习者将获得与高级研究中更专业的AI主题相关的必要基础知识。
从上丘的脉冲和局部场电位活动解码空间信息的时间过程
摘要 位置码表征在编码空间参数的电路中普遍存在。对于视觉引导的眼球运动，当刺激出现在大脑的感受野中和/或当运动进入大脑的运动场时，许多大脑区域的神经元都会发出脉冲。至关重要的是，单个神经元会对远离最佳向量的广泛方向或偏心率做出反应，这使得很难从每个细胞的活动中解码刺激位置或扫视向量。我们研究了是否有可能通过群体水平的分析来解码空间参数，即使最佳向量在神经元之间相似。当猴子对八个沿方向等距径向分布的目标之一执行延迟扫视任务时，用层状探针记录了上丘 (SC) 中的脉冲活动和局部场电位 (LFP)。随着试验从感觉到动作，离线应用分类器来解码空间配置。对于脉冲活动，在视觉和运动时期，所有八个方向的解码性能最高，而在延迟期间，解码性能较低但远高于偶然性。分类性能也遵循 LFP 活动的类似模式，只是延迟期间的性能主要限于首选方向。增加群体中的神经元数量可以持续提高两种模态的分类器性能。总体而言，这项研究证明了群体活动对解码单个神经元无法实现的空间信息的能力。
基于发展认知神经科学和脉冲神经网络的联通主义—建构主义学习理论初探
本文基于新的理论视角，试图将联通主义与建构主义两种看似水火不容的学习理论统一到一个科学的理论框架中。联通主义—建构主义学习理论并不是两种理论的简单叠加，而是吸收建构主义、联通主义和新建构主义学习理论的精髓，以发展认知神经科学和脉冲神经网络两门经验性科学实验成果为事实基础，从发展的角度对两种理论进行融合，实现矛盾的化解、相互补充、进而重构。本文探讨的是联通主义—建构主义学习理论，该理论认为知识的本质是主体与环境之间的联通，有两种形式：物理形式和逻辑形式，只有逻辑形式才能被人实现和利用；学习可分为联通和建构两个阶段。连接是前提，建构是核心，在连接阶段产生的网络动作作为原材料，在建构阶段经过修剪，经过各系统加工成为心理表征，当心理表征被利用时，相关的网络塑造完毕，意义网络形成，完成了知识从物理形态到逻辑形态、从逻辑形态到物理形态的转变。因此，学习就是建构意义网络的过程，我们既要促进学生的连接阶段，也要帮助学生的建构阶段。本文的创新与突破性贡献在于，首次以全新的视角来看待学习理论这一课题。
优化的脉冲神经元可以通过两个脉冲的时间编码对图像进行高精度分类
目前，人们正在研究使用脉冲神经网络 (SNN) 来解决现代 AI 在边缘设备中得到更广泛应用的一个主要障碍：由深度学习产生的大型先进人工神经网络 (ANN) 的能耗。这尤其适用于常用于图像分类的卷积神经网络 (CNN)，但也适用于其他应用领域。这些 ANN 必须很大才能实现最佳性能，因为它们需要具有足够多的参数才能从它们所训练的庞大数据集（例如 ImageNet2012 数据集的 120 万张图像）中吸收足够的信息。使用这些大型 ANN 的标准硬件实现进行推理本质上非常耗电 1 。脉冲神经元一直是人工智能计算硬件开发的重点，其能量预算大幅降低，部分原因是大脑的巨型 SNN（由大约 1000 亿个神经元组成）仅消耗 20 W（参考文献 2）。脉冲神经元输出一串称为脉冲的典型脉冲。因此，它们的输出与 ANN 神经元输出的连续数非常不同。大多数考虑在神经形态硬件中实现的脉冲神经元模型都受到大脑中脉冲神经元的简单模型的启发。然而，这些简单的神经元模型并没有捕捉到生物神经元通过不同的时间脉冲模式（而不仅仅是通过它们的发放率）编码不同输入的能力（参见图 1 中的示例）。虽然大型 ANN 经过越来越复杂的深度学习算法在巨型数据集上训练，在多个智能类别中接近甚至超过人类的表现，但当前一代基于脉冲的神经形态硬件的性能却落后了。人们希望在循环脉冲神经网络的情况下可以弥补这一差距，因为可以直接训练这些神经网络来实现循环 ANN 的大部分性能 3 。但是，对于前馈网络来说，生成具有与 ANN 类似的性能且脉冲较少的 SNN 的问题仍然存在。实现真正良好图像分类的前馈 CNN
用于可植入脑机接口的脉冲神经网络解码器及其在 RISC-V 微控制器上的稀疏感知部署
摘要 — 可植入脑机接口 (BMI) 在运动康复和移动性增强方面大有可为，它们需要准确且节能的算法。在本文中，我们提出了一种用于可植入 BMI 的回归任务的新型脉冲神经网络 (SNN) 解码器。SNN 通过增强的时空反向传播进行训练，以充分利用其处理时间问题的能力。所提出的 SNN 解码器在离线手指速度解码任务中的表现优于最先进的卡尔曼滤波器和人工神经网络 (ANN) 解码器。解码器部署在基于 RISC-V 的硬件平台上，并经过优化以利用稀疏性。所提出的实现在占空比模式下的平均功耗为 0.50mW。在进行无占空比的连续推理时，它实现了每次推理 1.88 µ J 的能效，比基线 ANN 低 5.5 倍。此外，每次推理的平均解码延迟为 0.12 毫秒，比 ANN 实现快 5.7 倍。
博士奖学金：利用近似计算增强联邦脉冲神经网络 (SNN) 以实现可穿戴健康监测
脉冲神经网络 (SNN) 的固有效率使其成为可穿戴健康监测的理想选择。SNN 通过事件驱动处理和稀疏激活进行操作，与传统 CNN 相比，功耗更低。这种节能方法与可穿戴设备的限制非常吻合，可确保长时间使用并最大程度地降低对用户体验的影响。另一种降低可穿戴健康监测 SNN 功耗的技术是近似计算。这种方法使资源受限的可穿戴设备能够实现计算效率，从而提高健康监测设备的使用寿命和可用性。