XiaoMi-AI文件搜索系统
World File Search System交叉开关
基于忆阻片上系统的超维计算硬件-算法协同设计
超维计算 (HDC) 采用并行计算范式和高效学习算法，非常适合资源受限的人工智能 (AI) 应用，例如边缘设备。基于忆阻设备的内存计算 (IMC) 系统通过提供节能硬件解决方案对此进行了补充。为了充分利用忆阻 IMC 硬件和 HDC 算法的优势，我们提出了一种硬件算法协同设计方法，用于在忆阻片上系统 (SoC) 上实现 HDC。在硬件方面，我们利用忆阻交叉开关阵列固有的随机性进行编码，并采用模拟 IMC 进行分类。在算法层面，我们开发了硬件感知编码技术，将数据特征映射到超维向量中，从而优化了忆阻 SoC 内的分类过程。硬件实验结果表明语言分类任务的准确率为 90.71%，凸显了我们的方法在边缘设备上实现节能 AI 部署的潜力。
用于推理的脑启发硬件解决方案......
由于浮点运算需要大量资源，使用传统计算范式在贝叶斯网络中实现推理（即计算后验概率）在能源、时间和空间方面效率低下。脱离传统计算系统以利用贝叶斯推理的高并行性最近引起了人们的关注，特别是在贝叶斯网络的硬件实现方面。这些努力通过利用新兴的非易失性设备，促成了从数字电路、混合信号电路到模拟电路的多种实现。已经提出了几种使用贝叶斯随机变量的随机计算架构，从类似 FPGA 的架构到交叉开关阵列等受大脑启发的架构。这篇全面的评论论文讨论了考虑不同设备、电路和架构的贝叶斯网络的不同硬件实现，以及解决现有硬件实现问题的更具未来性的概述。
一种用于实现随机二进制尖峰时间相关可塑性的 CMOS-忆阻器混合系统
本文介绍了一个完全实验性的混合系统，其中使用定制的高阻态忆阻器和采用 180 nm CMOS 技术制造的模拟 CMOS 神经元组装了一个 4 × 4 忆阻交叉脉冲神经网络 (SNN)。定制忆阻器使用 NMOS 选择晶体管，该晶体管位于第二个 180 nm CMOS 芯片上。一个缺点是忆阻器的工作电流在微安范围内，而模拟 CMOS 神经元可能需要的工作电流在皮安范围内。一种可能的解决方案是使用紧凑电路将忆阻器域电流缩小到模拟 CMOS 神经元域电流至少 5-6 个数量级。在这里，我们建议使用基于 MOS 阶梯的片上紧凑电流分配器电路，将电流大幅衰减 5 个数量级以上。每个神经元之前都添加了这个电路。本文介绍了使用 4 × 4 1T1R 突触交叉开关和四个突触后 CMOS 电路的 SNN 电路的正确实验操作，每个电路都有一个 5 个十进制电流衰减器和一个积分激发神经元。它还演示了使用此小型系统进行的一次性赢家通吃训练和随机二进制脉冲时间依赖可塑性学习。
采用混合 CMOS-RRAM 集成的混合信号神经形态计算电路
随着深度神经网络 (DNN) 在嵌入式设备上的广泛应用，硬件的能效和尺寸成为关注焦点。例如，最近基于 Arduino 的 MAIXDuino 套件集成了用于卷积神经网络 (CNN) 的 K210 神经网络处理器，旨在开发嵌入式人工智能 (AI) 和物联网 (IoT) 解决方案 [1]，[2]。在这种 Edge-AI 加速器专用集成电路 (ASIC) 中，DNN 模型在图形处理单元 (GPU) 上使用基于梯度下降的反向传播或 Backprop 算法 [3]–[5] 进行离线训练，然后“传输”到“推理”ASIC。反向传播是计算密集型的，由于冯诺依曼瓶颈，大量数据在内存和 CNN 加速器之间不断穿梭，因此会消耗大量能量。人们越来越重视创新“非冯·诺依曼”架构，即在内存内部执行计算。此类架构有望利用超越摩尔或后 CMOS 非易失性存储器 (NVM) 技术 [6]。这需要对整个设备、电路和算法层次结构中的非冯·诺依曼计算架构进行跨层研究。神经启发或神经形态片上系统 (NeuSoC) 架构将内存计算与基于稀疏尖峰的计算和通信相结合，以实现接近生物大脑能效的超低功耗运行 [7]。基于 NVM 的计算架构采用 1R 或 1T1R 交叉开关或交叉点架构，其中 DNN 权重存储在 NVM 单元的状态中，神经元驻留在
脉冲网络中使用忆阻器进行持续学习的概率元可塑性
在动态环境中运行的边缘设备迫切需要能够持续学习而不会发生灾难性遗忘。这些设备中严格的资源限制对实现这一目标构成了重大挑战，因为持续学习需要内存和计算开销。使用忆阻器设备的交叉开关架构通过内存计算提供能源效率，并有望解决此问题。然而，忆阻器在电导调制中通常表现出低精度和高可变性，这使得它们不适合需要精确调制权重大小以进行整合的持续学习解决方案。当前的方法无法直接解决这一挑战，并且依赖于辅助高精度内存，导致频繁的内存访问、高内存开销和能量耗散。在这项研究中，我们提出了概率元可塑性，它通过调节权重的更新概率而不是大小来整合权重。所提出的机制消除了对权重大小的高精度修改，从而消除了对辅助高精度内存的需求。我们通过将概率元可塑性集成到以低精度忆阻器权重在错误阈值上训练的脉冲网络中，证明了所提机制的有效性。持续学习基准的评估表明，与基于辅助内存的解决方案相比，概率元可塑性实现了与具有高精度权重的最先进的持续学习模型相当的性能，同时用于附加参数的内存消耗减少了约 67%，参数更新期间的能量消耗减少了约 60 倍。所提出的模型显示出使用低精度新兴设备进行节能持续学习的潜力。
NEBULA：一种用于 SNN 和 ANN 的基于神经形态自旋的超低功耗架构
摘要 — 迄今为止，脑启发式认知计算主要有两种方法：一种是使用多层人工神经网络 (ANN) 执行模式识别相关任务，另一种是使用脉冲神经网络 (SNN) 模拟生物神经元，以期达到与大脑一样高效和容错的效果。前者由于结合了有效的训练算法和加速平台而取得了长足的进步，而后者由于缺乏两者而仍处于起步阶段。与 ANN 相比，SNN 具有明显的优势，因为它们能够以事件驱动的方式运行，因此功耗非常低。最近的几项研究提出了各种 SNN 硬件设计方案，然而，这些设计仍然会产生相当大的能源开销。在此背景下，本文提出了一种涵盖设备、电路、架构和算法级别的综合设计，以构建用于 SNN 和 ANN 推理的超低功耗架构。为此，我们使用基于自旋电子学的磁隧道结 (MTJ) 设备，这种设备已被证明既可用作神经突触交叉开关，又可用作阈值神经元，并且可以在超低电压和电流水平下工作。使用这种基于 MTJ 的神经元模型和突触连接，我们设计了一种低功耗芯片，该芯片具有部署灵活性，可用于推理 SNN、ANN 以及 SNN-ANN 混合网络的组合——与之前的研究相比，这是一个明显的优势。我们在一系列工作负载上展示了 SNN 和混合模型的竞争性能和能源效率。我们的评估表明，在 ANN 模式下，所提出的设计 NEBULA 的能源效率比最先进的设计 ISAAC 高达 7.9 倍。在 SNN 模式下，我们的设计比当代 SNN 架构 INXS 的能源效率高出约 45 倍。 NEBULA ANN 和 SNN 模式之间的功率比较表明，对于观察到的基准，后者的功率效率至少高出 6.25 倍。索引术语 — 神经网络、低功耗设计、领域特定架构、内存技术
Fernando CORINTO 博士
Fernando CORINTO，博士 电气工程教授 都灵理工大学 电子与电信系 Corso Duca degli Abruzzi, 24, 10129 - 都灵 - 意大利 个人简历 Fernando Corinto 分别于 2001 年和 2005 年获得都灵理工大学电子工程硕士学位和电子与通信工程博士学位。他还于 2005 年获得都灵理工大学欧洲博士学位。Corinto 教授于 2004 年荣获玛丽居里奖学金。他目前是都灵理工大学电子与电信系电气工程教授。他的研究活动主要集中在非线性动态电路和系统、复杂/神经网络和用于优化问题的忆阻器纳米技术方面。 Corinto 教授是 2 本书、7 个书籍章节和 150 多篇国际期刊和会议论文的合著者。自 2010 年以来，他担任 IEEE 高级会员。他还是 IEEE CAS 技术委员会“蜂窝纳米级网络和阵列计算”和“非线性电路和系统”的成员。Corinto 教授曾担任 IEEE 北意大利 CAS 分会的副主席。Corinto 教授于 2014-2015 年担任 IEEE 电路和系统汇刊 I 的副主编。自 2015 年 1 月以来，他还担任国际电路理论与应用杂志的编辑委员会和评论编辑。Corinto 教授曾担任 COST Action“忆阻器 - 器件、模型、电路、系统和应用 (MemoCiS)”的副主席。 Corinto 教授于 2013 年和 2017 年担任德累斯顿工业大学德累斯顿高级研究员。Corinto 教授也是慕尼黑工业大学 August-Wilhelm Scheer 客座教授和慕尼黑工业大学高等研究院成员。研究资助 1) 第 12 届科技合作执行计划（2019-2021 年）框架内研究项目“带有振荡神经元和事件驱动突触交叉开关的忆阻器脉冲神经网络用于神经形态视觉识别”的首席研究员。 2) 国家研究项目 PRIN 2007“带有动态开关忆阻器振荡器的模拟计算：理论、设备和应用（COSMO）”的首席研究员，该项目由大学及研究部（MIUR）支持。 3) COST 行动“忆阻器 - 设备、模型、电路、系统和应用（MemoCiS）”副主席http://www.cost.eu/COST_Actions/ict/Actions/IC1401。 4) 2013 - 2015年意大利共和国和韩国科技合作执行计划框架内研究项目“用于神经形态应用的基于忆阻器的混合蜂窝系统”的首席研究员。5) 2015 年法国意大利大学/意大利法国大学 (UFI/UIF) PHC Galilée 2015 项目“使用忆阻器实现复杂网络同步”研究项目的首席研究员。 6) 拉格朗日项目为期两年 (2005/7-2007/6) 研究奖学金 (由 CRT 基金会资助并在 ISI 基金会的科学监督下) 的首席研究员。 7) 2009-2011 年期间 CRT 基金会资助的“用于处理时空模式的纳米电路阵列”研究项目的首席研究员。 8) 2012-2014 年期间 CRT 基金会资助的“用于神经形态计算的局部连接混合系统”研究项目的首席研究员。
Flash 架构
以及信息科学与应用国际会议 (ICISA) ⋅ 工程学院模拟与混合信号设计与测试中心委员会成员 ⋅ IEEE 微波理论与技术学报、IEEE 电子器件学报和 IEEE 固态电路杂志的技术审稿人 精选出版物 ⋅ S. Hamedi-Hagh、MY Siddiqui、M. Singh 和 S. Ardalan，“具有恒定回波损耗的低压数字控制 4GHz 可变增益放大器，”微电子选定领域杂志，2012 年。 ⋅ S. Hamedi-Hagh 和 D.-H. Park，“纳米线晶体管在驱动纳米线 LED 中的应用，”电气电子材料学报，第 13 卷，第 2 期，第 73-77 页，2012 年。 ⋅ S. Hamedi-Hagh、M. Tabesh、S. Oh、NJ Park 和 D.-H. Park，“用于近场通信的 UHF CMOS 前端设计”，电气工程与技术杂志，KIEE，第 6 卷，第 6 期，第 817-823 页，2011 年。⋅ Bindal, D. Wickramaratne 和 S. Hamedi-Hagh，“利用硅纳米线技术实现直接序列扩频基带发射器”，纳米电子学和光电子学杂志，第 5 卷，第 1 期，第 1-12 页，2010 年。⋅ Bindal, T. Ogura、N. Ogura 和 S. Hamedi-Hagh，“用于实现带扫描链的现场可编程门阵列架构的硅纳米线晶体管”，纳米电子学和光电子学杂志，第 5 卷，第 1 期，第 1-12 页，2010 年。 4，第 342-352 页，2009 年。⋅ S. Hamedi-Hagh、JC Chung、S. Oh、NJ Park 和 DH Park，“用于 GPS 通信系统的高性能贴片天线的设计”，电气工程与技术杂志，KIEE，第 342-352 卷。 4，第 2 期，282-286 页，2009 年。⋅ S. Hamedi-Hagh 和 A. Bindal，“下一代纳米线放大器的设计和特性”，《VLSI 设计杂志》，文章 ID 190315，2008 年。⋅ JC Chung 和 S. Hamedi-Hagh，“单芯片通信系统的 PCB 匹配电感器和天线的设计”，《国际微波科学与技术杂志》，文章 ID 287627，2008 年。⋅ Hamedi-Hagh 和 A. Bindal，“使用完全耗尽周围栅极晶体管的纳米线 CMOS 放大器的特性”，《纳米电子学与光电子学杂志》，第 4 卷，第 2 期，第 282-286 页，2009 年。 ⋅ S. Hamedi-Hagh、S. Oh、A. Bindal 和 DH Park，“使用纳米线 FET 设计下一代放大器”，电气工程与技术杂志，KIEE，第 3 卷，第 4 期，第 566-570 页，2008 年。⋅ S. Hamedi-Hagh 和 A. Bindal，“用于高速模拟集成电路的硅纳米线场效应晶体管的 SPICE 建模”，IEEE Transactions on Sotoudeh Hamedi-Hagh 第 3/6 页纳米技术，第 7 卷，第 766-775 页，2008 年。⋅ Bindal、S. Hamedi-Hagh 和 T. Ogura，“用于现场可编程门阵列架构应用的硅纳米线技术”，纳米电子学与光电子学杂志，第 3 卷，第 4 期，第 566-570 页，2008 年。 3，第 2 期，第 1-9 页，2008 年。 ⋅ Bindal 和 S. Hamedi-Hagh，“硅纳米线晶体管及其在未来 VLSI 中的应用：16×16 SRAM 的探索性设计研究”，纳米电子学和光电子学杂志，第 2 卷，第 294-303 页，2007 年。⋅ Bindal、A. Naresh、P. Yuan、KK Nguyen 和 S. Hamedi-Hagh，“利用硅纳米线技术设计双功函数 CMOS 晶体管和电路”，IEEE 纳米技术学报，第 6 卷，第 291-302 页，2007 年。⋅ Bindal 和 S. Hamedi-Hagh，“利用硅纳米线技术设计新型脉冲神经元”，纳米技术杂志（物理研究所），第 2 卷，第 301-302 页，2007 年。 18，第 1-12 页，2007 年。⋅ Bindal 和 S. Hamedi-Hagh，“关于节能硅纳米线动态 NMOSFET/PMESFET 逻辑的探索性研究”，IEE 科学、测量和技术会议录，第 1 卷，第 121-130 页，2007 年。⋅ Bindal 和 S. Hamedi-Hagh，“使用硅纳米线技术实现交叉开关架构的静态 NMOS 电路”，半导体、科学和技术杂志（物理研究所），第 22 卷，第 54-64 页，2007 年。⋅ Bindal 和 S. Hamedi-Hagh，“硅纳米线技术对单功函数 CMOS 晶体管和电路设计的影响”，纳米技术杂志（物理研究所），第 17 卷，第 4340-4351 页，2006 年。