神经形态计算是一种非冯·诺依曼计算范式,通过模拟人脑进行计算。神经形态系统非常节能,耗电量比 CPU 和 GPU 少数千倍。它们有可能在未来推动自动驾驶汽车、边缘计算和物联网等关键用例。因此,它们被视为未来计算领域不可或缺的一部分。神经形态系统主要用于基于脉冲的机器学习应用,尽管图论、微分方程和基于脉冲的模拟中也有一些非机器学习应用。这些应用表明神经形态计算可能具有通用计算能力。然而,神经形态计算的通用可计算性尚未建立。在这项工作中,我们证明了神经形态计算是图灵完备的,因此具有通用计算能力。具体来说,我们提出了一种神经形态计算模型,其中只有两个神经元参数(阈值和泄漏)和两个突触参数(权重和延迟)。我们设计了神经形态电路来计算所有 µ 递归函数(即常数、后继和投影函数)和所有 µ 递归运算符(即组合、原始递归和最小化运算符)。鉴于 µ 递归函数和运算符正是可以使用图灵机计算的函数和运算符,这项工作确立了神经形态计算的图灵完备性。
图 1:深度神经网络硬件 (a) 由通过突触(箭头)连接的多层神经元(圆圈)组成的深度神经网络。(b) 连接两层神经元的忆阻交叉阵列 21。插图表示单个忆阻器单元,垂直连接一行和一列。突触前 CMOS 神经元(红色)向行施加电压。每列的输出电流 Ij 是所有输入电压 Vi 乘以忆阻器电导 Gij 的总和。每列的放大器驱动突触后 CMOS 神经元(蓝色)。(c) 由圆形谐振器组成的光学神经网络,将不同波长 λ i 输入(不同颜色)耦合到神经元(灰色)22。突触(橙色方块)和神经激活功能(绿色方块)由相变材料实现。
作为集成电路接近其物理限制,神经形态计算已成为一种有希望的计算范式,但基于传统的von Neumann架构的计算,在人工智能,神经网络,脑部机器接口和其他领域中具有重要的应用前景。与电信号相比,光信号具有潜在的优势,例如高速,高带宽,对串扰的免疫力以及对环境变化的敏感性。利用神经生物学的研究成就,例如光遗传学,将光引入突触/神经元设备中,可以使光电子信号传感和转换能够显着改善神经形态设备的性能以及通过其集成形成的神经网络的性能。光电神经形态设备的开发将为集成感测,记忆和计算提供强有力的支持,这对于构建有效的新计算系统具有重要意义。近年来,光电神经形态设备的开发迅速发展,科学家和工程师在全球范围内在材料,结构,功能和集成方面的一系列研究进步。为了总结该领域的重要研究成就并展示了前瞻性工作,《半导体杂志》已专门计划了有关“光电神经塑态设备”的特刊。欢迎评论文章和研究论文的贡献。本期特刊的重点是但不限于以下主题:
基于冯·诺依曼架构和经典神经网络的现代人工智能 (AI) 系统与哺乳动物的大脑相比具有许多基本局限性。在本文中,我们将讨论这些局限性及其缓解方法。接下来,我们将概述目前可用的神经形态 AI 项目,这些项目通过将一些大脑特征引入计算系统的功能和组织来克服这些局限性(TrueNorth、Loihi、Tianjic、SpiNNaker、BrainScaleS、NeuronFlow、DYNAP、Akida、Mythic)。此外,我们还介绍了根据神经形态 AI 系统所使用的大脑特征对其进行分类的原则:联结主义、并行性、异步性、信息传输的脉冲性质、设备上学习、本地学习、稀疏性、模拟和内存计算。除了回顾基于现有硅微电子技术的神经形态设备所使用的新架构方法外,我们还讨论了使用新忆阻器元件基座的前景。我们还给出了在神经形态应用中使用忆阻器的最新进展示例。
神经形态(脑启发)计算技术一直引起了研究人员的关注。最近,这种兴趣已经扩展到了商业领域,IBM和英特尔等主要工业参与者探索了技术,以及将神经形态解决方案商业化的启动公司,例如在低功率边缘系统中推断应用程序,通过到GPU的数据中心规模的替代方案,用于大型语言模型的GPU替代方案。随着这种商业兴趣的日益增长的重要性,能够比较和对比替代神经形态产品的优势和劣势,范围从米德(Mead)通过新颖的设备技术(例如,诸如Memristors)(例如,诸如MEAD)提供了基于内在的数字技术和大型数字技术的新型设备技术(例如,通过新颖的设备技术)提供的新型设备技术(例如,通过新型设备技术)偏爱米德(Mead)的开创性工作的替代性和缺点。这种比较需要基准作为比较的基础,但是当前神经形态技术的纯粹多样性为前瞻性基准带来了困难。这个重点问题旨在汇集一些关于神经形态基准测试的一些早期思考。这有各种形式,包括比较在两个不同的神经形态平台上的相同应用程序,并查看哪些应用显示出比常规解决方案具有神经形态优势。收集的论文代表了关于神经形态基准挑战的早期观点,但它们与此事的最后一句话相去甚远 - 在这里还有很多事情要做!
摘要 — 我们提出了一种用于支持脉冲神经网络的神经形态硬件的在线测试方法。测试旨在实时检测由于硬件级故障而导致的异常操作,以及筛选容易出现错误预测的异常值或角落输入。测试由两个片上分类器实现,它们基于使用脉冲计数提取的低维特征集预测网络是否会做出正确的预测。分类器系统能够评估决策的置信度,当置信度被判断为低时,重放操作有助于解决歧义。通过将测试方法完全嵌入到基于 FPGA 的定制神经形态硬件平台中,可以演示测试方法。它在后台运行,完全不干扰网络操作,同时为绝大多数推理提供零延迟测试决策。索引术语 — 神经形态计算、脉冲神经网络、测试、可靠性。
30 多年来,神经形态 VLSI 设计一直是一个研究领域。它始于尝试构建可以模拟眼睛和耳蜗等各个大脑区域功能的硅芯片 [1]。随着摩尔定律达到物理极限,业界正在寻求通过探索更好的算法(如神经启发(神经形态))来提高硅电路效率。这包括英特尔进军神经形态芯片 Loihi [2] 的尝试。此前,IBM 推出了神经形态芯片 True North [3]。True North 是一种具有神经元和突触阵列的神经处理器。除了作为神经处理器之外,Loihi 芯片还可以像人脑一样动态学习。这些芯片不仅可用于模拟大脑的各个区域,还可用于构建专用的机器学习硬件 [4] 和构建神经假体。尽管途径众多,但很少有大学提供这样的课程。因此,我们决定在我们的大学开设这门课程。本课程包括教授低功耗设计、亚阈值模式电路、混合信号芯片、将多个芯片组合成一个系统以实现神经形态硬件、背景神经科学和计算模型。
神经形态计算机的价值主要取决于我们对其进行编程以执行相关任务的能力。目前,神经形态计算机大多局限于从深度学习改编而来的机器学习方法。然而,如果我们能利用神经形态计算机的计算特性来发挥其全部功能,那么它的潜力将远远超出深度学习。神经形态编程必然不同于传统编程,需要我们对编程的总体思维方式进行范式转变。本文的贡献包括:1)对神经形态计算机背景下“编程”含义的概念分析;2)探索神经形态计算中前景广阔但被忽视的现有编程范式。目标是拓展神经形态编程方法的视野,从而使研究人员能够摆脱现有方法的束缚,探索新的方向。
在人类机器人交互环境中大脑的抽象建模功能需要实时了解机器人的每个部分(电动机,传感器,情感等)在与环境互动时,它们如何工作以及它们如何相互作用,以完成复杂的行为任务。人类的大脑非常有效,因为它们使用基于事件的冲动处理信息,也称为尖峰,这使生物非常有效,并且能够在几乎每个需要实时互动的任务中都超越当前主流机器人系统。近年来,神经科学家,生物学家,计算机科学家和工程师的共同努力使设计具有生物学现实的硬件和模型可以使机器人具有基于神经形态计算和尖峰神经网络(SNN)所需的类似人类的处理能力。然而,尽管已经进行了一些尝试,但仍缺少神经形态计算和机器人技术的全面组合。在本文中,我们介绍了针对社会互动机器人技术的神经形态计算应用的系统综述。我们首先介绍了神经形态计算的基本原理,模型和体系结构。根据其关注的应用程序对其余文章进行分类。最后,我们确定了完全整合社会互动性神经形态机器人的潜在研究主题。
摘要。目标。与传统数字计算相比,神经系统中的计算使用不同的计算原语,在不同的硬件上运行,因此在使用时间、空间和能量等物理资源方面受到与数字计算不同的约束。为了更好地理解具有类似时空和能量约束的物理介质上的神经计算,神经形态工程领域旨在设计和实现电子系统,在 VLSI 硬件中模拟神经系统在多个生物组织层面的组织和功能,从单个神经元到大型电路和网络。混合模拟/数字神经形态 VLSI 系统结构紧凑、功耗低,并且独立于模型大小和复杂性实时运行。方法。本文重点介绍了当前在从突触到系统级的多个生物组织层面上将神经形态系统与神经系统进行接口的努力,并讨论了未来具有更复杂神经形态电路的生物混合系统的前景。主要结果。单个硅神经元已成功与无脊椎动物和脊椎动物神经网络接口。这种方法允许研究传统技术无法获得的神经特性,同时提供传统数值建模方法无法实现的真实生物学背景。在网络层面,神经元群有望与数百或数千个硅神经元的神经形态处理器进行双向通信。最近对 BMI 的研究表明,使用当前的神经形态技术可以实现这一点。意义。生物神经元和各种复杂程度的 VLSI 神经形态系统之间的生物混合接口已开始出现在文献中。当前神经形态系统的主要目的是作为研究与神经动力学相关的基本问题的计算工具,其复杂性现在允许与大型神经网络和电路直接接口,从而为神经工程系统、神经假体和神经康复带来潜在的有趣的临床应用。