•深度学习 /常规人工神经网络•并行数据处理(背景和变化检测,卷积等)•线性代数(MVM,交叉相关,L1-NORM等)•经典机器学习(SVMS,K-Nearest邻居,群集,群集)
基于冯·诺依曼架构和经典神经网络的现代人工智能系统与大脑相比具有许多基本局限性。本文讨论了这些局限性及其缓解方法。接下来,本文概述了当前可用的神经形态人工智能项目,这些项目通过将一些大脑特征引入计算系统的功能和组织中来克服这些局限性(TrueNorth、Loihi、Tianjic、SpiNNaker、BrainScaleS、NeuronFlow、DYNAP、Akida)。此外,本文还介绍了根据神经形态人工智能系统所使用的大脑特征(神经网络、并行性和异步性、信息传输的脉冲性质、局部学习、稀疏性、模拟和内存计算)对其进行分类的原理。除了基于现有硅微电子技术的神经形态设备中使用的新架构方法外,本文还讨论了使用新忆阻器元件基的前景。本文还给出了在神经形态应用中使用忆阻器的最新进展示例。
“神经形态”是指与生物神经网络的架构和 / 或动态非常相似的系统 [1, 2, 3]。典型的例子是模仿生物大脑架构的新型计算机芯片,或从昆虫和哺乳动物的视觉或嗅觉系统等中获取灵感以获取环境信息的传感器。这种方法并非没有野心,因为它有望使工程设备能够重现生物有机体的性能水平 — — 主要的直接优势是有效利用稀缺资源,从而降低功耗。如今,神经形态方法主要在两个层面进行研究 (i) 算法和 (ii) 硬件。在算法层面,它利用基于脉冲的处理和训练 [2] 来构建能够有效处理数据的新型机器学习管道。在硬件层面,神经形态方法被用于设计受生物神经系统启发的新型模拟和数字电路和计算机芯片。这导致了新型传感设备的出现,据信这些设备可以产生特别好的候选对象来模拟生物视觉,以及用于设计专用于有效实现刚刚介绍的基于脉冲的系统的计算机芯片。事实上,由于基于脉冲的通信的不连续性和脉冲神经元的时间动态性,在传统计算机硬件上模拟整个脉冲神经元网络的行为在计算上(因此在能源方面)非常低效。这在人工智能 (AI) 领域也有近亲,Geoffrey Hinton 最近在其中引入了“凡人计算”的概念[ 4 ]:一种不存在软件和硬件分离的计算形式。在“凡人计算”中,神经网络解决方案与它们的计算能力独特地联系在一起
摘要。计算的标准性质目前正受到一系列问题的挑战,这些问题开始阻碍技术进步。为解决这些问题,提出的策略之一是开发新的受大脑启发的处理方法和技术,并将其应用于广泛的应用场景。这是一项极具挑战性的工作,需要多个学科的研究人员共同努力,同时共同设计处理方法、支持计算架构及其底层技术。《神经形态计算与工程》(NCE)杂志的推出是为了支持这个新社区的努力,并提供一个论坛和存储库来展示和讨论其最新进展。通过与编辑团队的同事密切合作,NCE 的范围和特点已被设计为确保它服务于学术界和工业界日益壮大的跨学科和充满活力的社区。
摘要 目前,一系列问题开始阻碍技术进步,对计算的标准性质提出了挑战。为解决这些问题,提出的策略之一是开发新的受大脑启发的处理方法和技术,并将其应用于广泛的应用场景。这是一项极具挑战性的任务,需要多个学科的研究人员齐心协力,同时共同设计处理方法、支持计算架构及其底层技术。《神经形态计算与工程》(NCE)杂志的推出是为了支持这个新社区的努力,并提供一个论坛和资料库来展示和讨论其最新进展。通过与编辑团队同事的密切合作,NCE 的范围和特点已被设计为确保它服务于学术界和工业界日益壮大的跨学科和充满活力的社区。
一场技术革命正在进行中。它涵盖了我们社会的几乎所有方面,从教育到健康,从金融到自动化,从运输到气候变化。计算技术已经普遍存在,因此,每年都会生产越来越多的数据。需要新的,最前沿的人工智能(AI)算法和数据科学方法来利用机会,并应对随着这场革命的需求。AI算法通常采用神经网络深度学习技术来解决模式识别,在从大量数据中提取信息方面非常成功[1]。但是,用于开发最新和最强大的网络的方法,例如GPT-3 [2],需要数千个PETAFLOP天(超过浮点操作)。据估计,用于开发GPT-3的多次培训课程需要“ 9,998天”的GPU时间(超过27 GPU年)。考虑到所有这些运行,研究人员估计,建立该模型产生了35吨二氧化碳的排放:比美国成年人普通成年人在两年内产生的更多。” [3]
Min Gu教授此前曾担任澳大利亚Swinburne Technology副校长和杰出教授以及澳大利亚研究委员会的著名教授。 他还曾担任澳大利亚RMIT大学(皇家墨尔本理工学院)的副主席和杰出教授。 他撰写了四本英语专着,一篇翻译成中文,一本用英语编辑的书。 此外,他在纳米/生物探测领域的国际认可和权威期刊上发表了超过560篇论文,包括自然,科学,自然光子学,自然纳米技术和自然传播。 他是澳大利亚科学院的会员,澳大利亚技术科学与工程学院,也是中国工程学院的外国成员。 他还被当选为电气与电子工程师研究所(IEEE),国际光学和光子学会(SPIE),美国光学学会(OSA,现为Optica),现为Optica),物理研究所(IOP,英国),澳大利亚物理学学院(AIP)以及中国光学学会(AIP)等(COS)等。 他曾担任国际光学生命科学学会主席,国际光学委员会副主席兼奖项委员会主席,以及美国光学学会(OSA)的董事会成员兼国际委员会主席,以及其他关键角色。 在2019年,他获得了国际光学和光子学会的丹尼斯·加博奖。Min Gu教授此前曾担任澳大利亚Swinburne Technology副校长和杰出教授以及澳大利亚研究委员会的著名教授。他还曾担任澳大利亚RMIT大学(皇家墨尔本理工学院)的副主席和杰出教授。他撰写了四本英语专着,一篇翻译成中文,一本用英语编辑的书。此外,他在纳米/生物探测领域的国际认可和权威期刊上发表了超过560篇论文,包括自然,科学,自然光子学,自然纳米技术和自然传播。他是澳大利亚科学院的会员,澳大利亚技术科学与工程学院,也是中国工程学院的外国成员。他还被当选为电气与电子工程师研究所(IEEE),国际光学和光子学会(SPIE),美国光学学会(OSA,现为Optica),现为Optica),物理研究所(IOP,英国),澳大利亚物理学学院(AIP)以及中国光学学会(AIP)等(COS)等。他曾担任国际光学生命科学学会主席,国际光学委员会副主席兼奖项委员会主席,以及美国光学学会(OSA)的董事会成员兼国际委员会主席,以及其他关键角色。在2019年,他获得了国际光学和光子学会的丹尼斯·加博奖。院士Min Gu还是中国科学院的爱因斯坦主席教授,并获得了许多享有声望的奖项,包括澳大利亚光学学会的Beattie Steel奖,澳大利亚科学院的Ian Wark奖章,澳大利亚物理学院的BOAS奖章,以及Victoria Science Innovation奖。2022年,他获得了Optica(以前是OSA)的Emmett N. Leith Medal,并在2023年获得了上海木兰纪念奖。
在XXI世纪,人类被刺激面临全球挑战:气候变化,污染,清洁水,食物和能源的短缺。这些挑战将复杂的系统(例如人类社会,世界经济,城市地区,自然生态系统和地球气候)等复杂的系统(联合国大会,2015年; Martin,2007年; Martin,2007年; Harari,2018; Gentili,2021年; Gentili,2021; Gentili等,2022)。每当我们处理复杂的系统时,我们都会在其描述中遇到一些局限性,并在理解和预测其行为方面。这种局限性概述了所谓的认识论复杂性(Gentili,2023)。限制是由于计算复杂性引起的(Goldreich,2008年):许多涉及复杂系统的计算问题都是可解决但棘手的。示例是(1)实际问题,例如调度和旅行推销员问题; (2)基本科学问题,例如Schrödinger方程和蛋白质折叠; (3)通过机器学习算法面临的模式识别问题。它们都是指数性的问题,当它们具有较大的维度时,它们会变得棘手:即使我们使用世界上最快的超级计算机,也不可能在合理的时间内确定其确切的解决方案。面对认识论复杂性,因此,计算复杂性是自然计算的有前途的策略(Rozenberg等,2012; Gentili,2023)。自然计算是一条跨学科的研究线,它从自然中汲取灵感来制定(a)新算法,提出(b)(b)计算的新材料和体系结构,以及(c)新方法和模型以了解复杂的系统。新计算体系结构和算法的富裕灵感来源是人类和动物的大脑。他们的模仿激发了神经形态工程的新兴领域,该领域有望超越常规的人工智能(AI)算法和高能量的硬件,
仅 2020 年,托管云工作负载的数据中心就排放了约 600 兆吨温室气体,超过整个英国 (GB) 的消耗量。除非发生根本性变化,否则到 2050 年,数据中心将消耗全球 20% 以上的能源!凭借其片上学习和低功耗、高吞吐量推理能力,我们相信 AKIDA 可以通过分散 AI 处理来帮助减少数据中心 98% 的碳排放。智能地分析片上数据将有助于终结数百万个端点向云数据中心发送的大量原始、未处理且大多不相关的数据,从而解决阻碍互联网拥塞的问题。