开发智能神经形态解决方案仍然是一项艰巨的任务。它需要对硬件的基本构建块有扎实的概念理解。除此之外,易于访问且用户友好的原型设计对于加快设计流程至关重要。我们基于神经网络模拟器 Brian 开发了一个开源 Loihi 模拟器,可以轻松将其纳入现有的模拟工作流程。我们在软件中演示了单个神经元和循环连接的脉冲神经网络的无错误 Loihi 模拟。我们还审查并实施了片上学习,由于随机舍入,存在合理的差异。这项工作提供了 Loihi 计算单元的连贯介绍,并介绍了一个新的、易于使用的 Loihi 原型设计包,旨在帮助简化新算法的概念化和部署。
图形神经网络已成为深度学习的专业分支,旨在解决对象之间成对的对象至关重要的问题。最新进步利用图形卷积神经网络在图结构中提取特征。尽管结果有希望,但由于稀疏特征,在资源利用效率低下的情况下,这些方法在现实世界应用中面临挑战。最近的研究从哺乳动物的大脑中吸收了吸收性,并采用尖峰神经网络来建模和学习图形结构。但是,这些副本仅限于传统的基于von Neumann的计算系统,这些计算系统仍然面临硬件效率低下。在这项研究中,我们提出了专为Loihi 2.我们使用熔岩贝叶斯优化优化网络参数,这是一种与神经形态计算体系结构兼容的新型超参数优化系统。我们展示了将神经形态贝叶斯优化与使用固定精确尖峰神经元进行引用图分类的方法相结合的性能优势。我们的结果证明了整数精确,Loihi 2兼容尖峰神经网络在执行引文图分类中具有与现有浮点实现相当的精度。
I. I n t r o d u c t i o n神经形态计算旨在理解和适应自然界中神经体系结构的基本属性,以发现一种新的计算机体系结构模型,该模型本来可以适合于大脑启发的计算类别,这些计算挑战了Von Neu-Mann模型。这些属性包括完全集成的记忆和计算,精细的并行性,普遍反馈和复发,大量的网络粉丝,低精度和随机计算以及通常与学习相关的持续适应过程。这些属性还包括稀疏,基于尖峰的互动,以中介分布式通信。这种尖峰神经网络(SNN)自然会通过以异步,事件驱动的方式进行操作,而偏爱非活性状态和低延迟处理来提供能量效率。从该诉讼中产生的计算的重新思考以意想不到的方式与相关领域相交,例如机器学习,深度学习,人工智能,计算科学和计算机架构。正如这项调查的结果所示,诸如Loihi之类的芯片及其支持的工作量不适合在一个精心设计的框中,至少不是当今已被充分了解的盒子。
人工智能领域的最新突破大大提升了我们对各种规模和各种形式的计算设备智能的需求。这种新智能包括数据中心的推荐系统、自动呼叫中心和游戏系统、自动驾驶汽车和机器人、与我们个人计算设备进行更直观和更具预测性的交互,以及能够立即应对紧急情况的智能城市和道路基础设施。与此同时,随着当今人工智能技术的成熟,人们逐渐意识到其局限性。虽然深度神经网络 (DNN) 表现出近乎无限的扩展能力来解决大问题,但这些收益是以计算能力和预先收集的数据为代价的。许多新兴的人工智能应用(尤其是那些必须在不可预测的现实环境中运行且受到功率、延迟和数据限制的应用)需要全新的方法。
开发智能神经形态解决方案仍然是一项具有挑战性的任务。它需要对硬件的基本构建块有扎实的概念理解。除此之外,易于访问且用户友好的原型设计对于加快设计流程至关重要。我们基于神经网络模拟器 Brian 开发了一个开源 Loihi 模拟器,可以轻松将其纳入现有的模拟工作流程。我们在软件中演示了单个神经元和循环连接的脉冲神经网络的无错误 Loihi 模拟。我们还审查并实施了片上学习,由于随机舍入,存在合理的差异。这项工作提供了 Loihi 计算单元的连贯介绍,并介绍了一个新的、易于使用的 Loihi 原型设计包,旨在帮助简化新算法的概念化和部署。
英特尔实验室发布 Kapoho Point 开发板和 Lava 框架更新,并赞助新的 INRC 项目 2022 年 9 月 28 日 -- 英特尔实验室正利用其 Loihi 2 第二代研究芯片和去年发布的开源 Lava 软件框架,引领神经拟态计算的发展。作为英特尔将神经拟态技术引入商业应用的目标的一部分,英特尔实验室正在为开发人员提供新工具,以迈出开发过程的下一步,其中包括 Kapoho Point,这是一款 8 芯片 Loihi 2 开发板,可堆叠以处理大规模工作负载并直接连接到低延迟基于事件的视觉传感器。此外,英特尔实验室正在发布开源 Lava 框架的更新,以支持可编程神经元、整数值脉冲、卷积网络和持续学习。从最新的 Lava 版本 (v0.5) 开始,与 Loihi 1 系统上的相同工作负载相比,这些功能使 Kapoho Point 运行深度学习应用程序的速度提高了 12 倍,能耗降低了 15 倍 1 。此外,英特尔还通过英特尔神经形态研究社区 (INRC) 启动了八个英特尔赞助的大学项目。向社区成员交付的下一代神经形态系统 Kapoho Point 是一款基于 Loihi 2 的开发板,是一款紧凑型系统,非常适合用于小型设备和从无人机到卫星和智能汽车等应用。该开发板可以启用具有多达 10 亿个参数的 AI 模型或解决具有多达 800 万个变量的优化问题,同时与最先进的 CPU 求解器相比,速度提高了 10 倍以上,能耗降低了 1,000 倍。通过堆叠多个开发板,Kapoho Point 可以进行扩展以解决更大的问题。
30 多年来,神经形态 VLSI 设计一直是一个研究领域。它始于尝试构建可以模拟眼睛和耳蜗等各个大脑区域功能的硅芯片 [1]。随着摩尔定律达到物理极限,业界正在寻求通过探索更好的算法(如神经启发(神经形态))来提高硅电路效率。这包括英特尔进军神经形态芯片 Loihi [2] 的尝试。此前,IBM 推出了神经形态芯片 True North [3]。True North 是一种具有神经元和突触阵列的神经处理器。除了作为神经处理器之外,Loihi 芯片还可以像人脑一样动态学习。这些芯片不仅可用于模拟大脑的各个区域,还可用于构建专用的机器学习硬件 [4] 和构建神经假体。尽管途径众多,但很少有大学提供这样的课程。因此,我们决定在我们的大学开设这门课程。本课程包括教授低功耗设计、亚阈值模式电路、混合信号芯片、将多个芯片组合成一个系统以实现神经形态硬件、背景神经科学和计算模型。
根据现在普遍接受的板块建筑学理论的,夏威夷火山主义归因于岩浆的产生和上升,因为太平洋岩石圈板块在固定的或至少较慢的移动,融化异常(“夏威夷热点”)上,在Asthensophere(例如,Wilson,1963年); 1963年; Dalall和其他1979年,麦克马式板板; Dalrymple,1987年,1989年)。 首先是北部太平洋板块的渐进式运动超过7500万年,这使夏威夷山脊 - 佩奇 - 佩奇岛的海底在太平洋海上跨越了6,000公里长的火山,每座火山连续地从泥土中脱离了“热点斑点”和一个新的Volcano Grew。 根据该模型,目前活跃的夏威夷火山Kilauea,Mauna Loa,也许还有Loihi,即距离约30英里的潜艇火山,夏威夷火山主义归因于岩浆的产生和上升,因为太平洋岩石圈板块在固定的或至少较慢的移动,融化异常(“夏威夷热点”)上,在Asthensophere(例如,Wilson,1963年); 1963年; Dalall和其他1979年,麦克马式板板; Dalrymple,1987年,1989年)。首先是北部太平洋板块的渐进式运动超过7500万年,这使夏威夷山脊 - 佩奇 - 佩奇岛的海底在太平洋海上跨越了6,000公里长的火山,每座火山连续地从泥土中脱离了“热点斑点”和一个新的Volcano Grew。根据该模型,目前活跃的夏威夷火山Kilauea,Mauna Loa,也许还有Loihi,即距离
在这项工作中,我们提出了一种用于人形 iCub 机器人头部姿势估计和场景表示的神经形态架构。脉冲神经网络在英特尔的神经形态研究芯片 Loihi 中完全实现,并精确整合发出的运动命令,以在神经路径整合过程中估计 iCub 的头部姿势。iCub 的神经形态视觉系统用于校正姿势估计中的漂移。机器人前方物体的位置使用片上突触可塑性来记忆。我们使用机器人头部的 2 个自由度 (DoF) 进行实时机器人实验,并展示精确的路径整合、视觉重置和片上物体位置学习。我们讨论了将机器人系统和神经形态硬件与当前技术集成的要求。
近十年来,基于人工脉冲神经网络的神经形态架构兴起,例如 SpiNNaker、TrueNorth 和 Loihi 系统。这些架构中的大规模并行性以及计算和内存的共置可能使能耗比传统的冯·诺依曼架构低几个数量级。然而,到目前为止,由于缺乏正式的机器模型和神经形态计算的计算复杂性理论,因此无法将其与更传统的计算架构进行比较(特别是在能耗方面)。在本文中,我们迈出了建立这种理论的第一步。我们引入脉冲神经网络作为机器模型,与我们所熟悉的图灵机不同,信息及其操作共置在机器中。我们引入了典型问题,定义了复杂性类的层次结构,并提供了一些初步的完整性结果。