语音运动控制的 DIVA 模型发音器官速度方向 (DIVA) 模型是一个人工神经网络,可定量描述语音运动控制背后的计算(Guenther,1995;Tourville 和 Guenther,2011;E. Golfinopoulos、Tourville 和 Guenther,2010;有关详细说明,请参阅 Guenther,2016)。它包含一个模拟组件网络,这些组件代表负责产生语音的大脑结构。该模型包括一个模仿声道行为的发音合成器,神经网络学习控制合成器发音器官的运动,以产生可理解的语音。我们在此重点关注模型的神经计算和发展过程的更高级别处理,避免使用数学方程和计算机实现细节,以方便处理。为了理解该模型,我们首先将 定义为大脑中具有自己优化的运动程序的“语音块”。这些块可以是音素、音节和/或单词,具体取决于所考虑的年龄和语言经验。根据许多先前的提议(例如,Kozhevnikov & Chistovich,1965;Levelt,1993;MacNeilage & Davis,1990),并得到音素组合分布分析(Sun & Poeppel,2022;Kessler & Treiman,1997)的支持,我们建议
在追求这一目标的过程中,消除不可预测的行为已被视为一项必要的工程费用。消除计算噪声的努力涵盖了整个微电子技术堆栈,从研究高可靠性材料和设备到纠错电路和架构,再到容错系统和算法。确定性计算显然取得了令人难以置信的成功——在不到四分之三个世纪的时间里,我们已经从大约一千个只能进行相对简单计算的阴极管阵列过渡到每秒能够处理 10 18 次浮点运算的高性能计算百亿亿次系统。[2,3] 然而,能耗已日益成为传统处理器面临的挑战。人工智能 (AI) 和机器学习 (ML) 在多种应用中的采用越来越广泛,以及对更多计算的需求不断增长,导致对结合多种技术(图形处理单元 (GPU)、中央处理单元 (CPU) 等)的异构计算平台的需求更高。随着越来越多的处理器被整合,未使用的处理器需要关闭以处理散热问题(即“暗硅”)。[4] 这些问题加上大量新设备、内存计算、高效的芯片间通信、3D 堆叠和集成技术
我们研究了男性青少年做出食物和体育活动决策的神经计算机制,以及这些过程如何受到体重和体育活动水平的影响。在进行体育活动和饮食评估后,38 名 14-18 岁的男性完成了食物和体育活动项目的行为评级和 fMRI 决策任务。食物和体育活动的自我控制决策彼此之间有显著相关性。在两者中,以味觉或享受为导向的过程与成功的自我控制决策呈负相关,而以健康为导向的过程则呈正相关。味觉/享受和健康属性评级之间的相关性可以预测实际的实验室食物摄入量和体育活动(2 周活动监测)。fMRI 数据显示,食物和活动的决策值均编码在腹内侧前额叶皮层中,这表明两种决策在选择时都具有共同的奖励值相关回路。与超重/肥胖组相比,体重正常的组在体育活动决策期间,认知控制、多感觉整合和运动控制区域的大脑激活更强。对于食物和体力活动,自我控制决策采用类似的计算和神经生物学机制,这可能为如何促进健康的饮食和体力活动决策提供见解。
应将通讯发送到Junho Jeong:yanyenli@dongguk.edu文章INFO杂志机器和计算杂志(http://anapub.co.co.ke/journals/jmc/jmc/jmc.html)doi:修订表格2022年12月18日; 2022年12月30日接受。2023年4月5日在线可用。©2023作者。由Anapub出版物出版。这是CC BY-NC-ND许可证下的开放访问文章。(http://creativecommons.org/licenses/by-nc-nd/4.0/)摘要 - 这项研究调查了在通信网络中使用神经计算技术的使用,并根据错误率,延迟和吞吐量评估其性能。结果表明,不同的神经计算技术,例如人工神经网络(ANN),卷积神经网络(CNN),复发性神经网络(RNN),长期短期记忆(LSTM)和生成的对抗网络(GAN)在提高绩效方面具有不同的权衡。技术的选择将基于应用程序的特定要求。研究还评估了不同通信网络体系结构的相对性能,并确定了与在通信网络中应用不同技术相关的权衡和限制。研究表明,需要进一步的研究来探索技术的使用,例如深度强化学习;在通信网络中,并研究如何使用技术的使用来提高通信网络的安全性和鲁棒性。关键字 - 人工神经网络(ANN),卷积神经网络(CNN),经常性神经网络(RNN),长期短期记忆(LSTM),生成对抗网络(GANS)。
深度学习算法的根源在于简化的脑回路模型。随着强大计算资源的出现,人工神经网络的设计脱离了其生物学灵感,专注于设计能够以与人类表现相当甚至超过人类表现的准确度解决复杂任务的强大机器。然而,在过去十年中,神经科学和人工智能再次找到了它们最初的共生关系。神经机制被用作开发深度网络架构和训练算法的灵感来源,以找到具有更好的抗噪性、泛化能力和持续学习能力的计算模型。另一方面,受生物启发的网络为理解大脑如何学习和处理信息提供了新的视角,有可能带来创新的治疗应用。此外,标准的深度学习模型已成功应用于神经数据的分析和理解。一个显著的例子是,可以使用人工网络作为大脑某些区域的模型,来预测甚至驱动感官刺激的神经活动。在这篇论文中,我深入研究了深度学习和神经科学之间的相互作用。首先,我从生物学角度介绍了人工神经网络的基本概念,并概述了关于生物学上可行的学习和皮层计算模型的现有文献。其次,我介绍了我对大脑启发学习领域的贡献,包括受突触整合启发的优化器、解决反向传播生物学上不现实方面的学习规则,以及自监督脉冲网络在盲源分离任务中的应用。第三,我介绍了皮层神经元和人工神经网络对对抗性噪声的鲁棒性的比较分析,展示了如何使用深度学习来操纵神经活动以实现规定的模式。第四,我提出了一个框架来量化人类和最先进的人工模型之间的差距,重点关注语言领域。最后,我反思了人工智能的未来发展,更具体地说,反思了神经科学是否是推动深度学习突破性进展的必要条件的争论。
在追求这一目标的过程中,消除不可预测的行为已被视为一项必要的工程费用。消除计算噪声的努力涵盖了整个微电子技术堆栈,从研究高可靠性材料和设备到纠错电路和架构,再到容错系统和算法。确定性计算显然取得了令人难以置信的成功——在不到四分之三个世纪的时间里,我们已经从大约一千个只能进行相对简单计算的阴极管阵列过渡到每秒能够处理 10 18 次浮点运算的高性能计算百亿亿次系统。[2,3] 然而,能耗已日益成为传统处理器面临的挑战。人工智能 (AI) 和机器学习 (ML) 在多种应用中的采用越来越广泛,以及对更多计算的需求不断增长,导致对结合多种技术(图形处理单元 (GPU)、中央处理单元 (CPU) 等)的异构计算平台的需求更高。随着越来越多的处理器被整合,未使用的处理器需要关闭以处理散热问题(即“暗硅”)。[4] 这些问题加上大量新设备、内存计算、高效的芯片间通信、3D 堆叠和集成技术
树突接收单个神经元的绝大部分输入,并协调这些信号向神经元输出的转换。体外和理论证据表明树突具有强大的处理能力,但人们对这些机制在完整大脑中是如何运作的,以及它们如何影响电路动力学知之甚少。新的实验和计算技术引起了人们对揭示和利用其计算潜力的兴趣。这篇综述重点介绍了最近和新兴的研究,这些研究结合了成熟和尖端技术来确定树突在大脑功能中的作用。我们讨论了树突在新皮层和海马锥体神经元中对感觉知觉和学习的主动介导。作为这些生理发现的补充,我们提出了理论工作,通过使用生物学上可行的树突过程实现,为单个神经元和网络的底层计算提供了新的见解。最后,我们提出了一种新颖的脑机接口任务,该任务通过分析躯体树突耦合来研究生物信用分配的机制。总之,这些发现代表着在理解树突如何对体内学习和行为至关重要方面取得了令人兴奋的进展,并强调了亚细胞过程如何有助于我们理解生物和人工神经计算。
神经代码的变化使每个个体都独一无二。我们使用来自猕猴视网膜中主要神经节细胞类型的 100 个群体记录,结合可解释的个体变异计算表示,探测了神经代码的变化。这种表示捕捉了非线性、时间动态和空间感受野大小等属性的变化和共变,并保留了开细胞和关细胞之间不对称等不变性。不同细胞类型中响应属性的共变与其突触输入的层压接近度有关。令人惊讶的是,男性视网膜比女性视网膜表现出更高的放电率和更快的时间整合。利用以前记录的视网膜数据可以有效地表征新的猕猴视网膜和人类视网膜。模拟表明,将大量视网膜记录与行为反馈相结合可以揭示活体人类的神经代码,从而改善视网膜植入物的视力恢复。
神经计算和工程实验室正在寻找与脑机界面,深度学习,神经计算和机器人技术有关的项目的多个博士后研究员。我们的小组使用机器学习技术来研究神经回路和设计下一代脑机界面中的计算。我们正在寻求在重点网络模型,计算神经科学和脑机界面设计的重点领域雇用博士后。除此之外,我们还在寻找一个专门重点的博士后,以机器人的武器和计算机视觉系统,不需要神经科学 /神经工程的背景。要了解有关我们的研究的更多信息,请访问我们的实验室网站(http://seas.ucla.edu/~kao/)或通过kao@seas.ucla.edu向Jonathan Kao(PI)发送电子邮件。候选人必须拥有博士学位。特别鼓励那些在机器学习,神经科学,神经/电气工程,计算机科学,应用数学或统计数据方面具有强大背景的人。候选人有望具有强大的职业道德;出色的组织,人际交往能力;软件技能;和批判性思维能力。要申请,请发送求职信,并将简历发送至kao@seas.ucla.edu。
摘要:脑电图 (EEG) 记录有助于解码张开/闭合手部的动作准备。为此,通过波束形成解决逆问题,提取运动皮层中的皮层源信号(相对于运动开始提前 1 秒)。EEG 源时期用作源时间图输入到自定义深度卷积神经网络 (CNN),该神经网络经过训练可执行双向分类任务:手闭合前 (HC) 与静息状态 (RE) 以及手张开前 (HO) 与 RE。虽然深度 CNN 效果很好(HC 与 RE 的准确率高达 89.65+-5.29%,HO 与 RE 的准确率高达 90.50+-5.35%),但在本研究中,我们探索了深度 CNN 的可解释性,以进一步了解手部亚运动准备过程中皮层源的隐藏激活机制。具体来说,进行遮挡敏感性分析以调查哪个皮质区域最好参与分类过程。实验结果显示,受试者的皮质激活具有反复出现的空间模式;特别是靠近纵向裂隙的中央区域以及运动前区和初级运动皮质的右颞区似乎参与程度很高。这些发现鼓励深入研究似乎在手的张开/闭合准备中发挥关键作用的皮质区域。