XiaoMi-AI文件搜索系统
World File Search SystemBACKPROPAGATION
预测编码：理论与实验回顾
预测编码为皮质功能提供了一种潜在的统一解释——假设大脑的核心功能是最小化对世界生成模型的预测误差。该理论与贝叶斯大脑框架密切相关，在过去二十年中，在理论和认知神经科学领域产生了重大影响。大量研究基于对改进和扩展的预测编码理论和数学模型的实证测试，以及评估它们在大脑中实施的潜在生物学可行性以及该理论做出的具体神经生理和心理预测。然而，尽管这种理论经久不衰，但还没有对预测编码理论，尤其是该领域的最新发展进行全面的回顾。在这里，我们对预测编码的核心数学结构和逻辑进行了全面的回顾，从而补充了文献中的最新教程（Bogacz，2017；Buckley，Kim，McGregor 和 Seth，2017）。我们还回顾了该框架内的大量经典和最新研究，从可以实现预测编码的神经生物学现实微电路，到预测编码与广泛使用的误差反向传播算法之间的密切关系，以及调查预测编码与现代机器学习技术之间的密切关系。
一种生物学上可信的脉冲神经网络，用于解码海马和运动前皮层的运动学
摘要 — 本研究提出了一种脉冲神经网络，用于根据神经数据预测运动学，从而实现准确且节能的脑机接口。脑机接口是一种解释神经信号的技术系统，可让运动障碍患者控制假肢。脉冲神经网络具有低功耗和与生物神经结构非常相似的特点，因此有可能改进脑机接口技术。本研究中的 SNN 使用泄漏积分和激发模型来模拟神经元的行为，并使用局部学习方法进行学习，该方法使用替代梯度来学习网络参数。该网络实现了一种新颖的连续时间输出编码方案，允许基于回归的学习。SNN 是在从灵长类动物运动前皮层和大鼠海马记录的神经和运动数据上进行离线训练和测试的。该模型通过寻找预测运动数据与真实运动数据之间的相关性来评估，运动前皮层记录的峰值皮尔逊相关系数达到 0.77，海马体记录的峰值皮尔逊相关系数达到 0.80。该模型的准确性与卡尔曼滤波解码器和 LSTM 网络以及使用反向传播训练的脉冲神经网络进行了对比，以比较局部学习的效果。
树突状局部学习：迈向生物学上合理的算法
反向传播是培训神经网络的基础算法，也是深度学习成功的关键驱动力。然而，由于现有文献所强调的，由于三个方面的限制，其生物学上的合理性受到了挑战：体重对称性，对全球误差信号的依赖和训练的双相性质。尽管已经提出了各种替代学习方法来解决这些问题，但大多数要么无法满足同时发生的所有三个标准，要么无法降低结果。受到金字塔神经元动力学和可塑性的启发，我们提出了树突局部学习（DLL），这是一种旨在克服这些挑战的新型学习算法。广泛的经验实验表明，DLL满足生物合理性的所有三个标准，同时在满足这些要求的算法中实现最先进的性能。此外，DLL在包括MLP，CNN和RNN在内的一系列架构中表现出强烈的概括。这些结果是针对现有的生物学上合理学习算法的基准，为未来的研究提供了有价值的经验见解。我们希望这项研究能够激发用于培训多层网络的新生物学合理算法的发展，并在神经科学和机器学习方面发展进步。
基准的尖峰神经网络学习方法具有不同的位置
摘要 - 提供更现实的神经元动力学的启用神经网络（SNN）已证明在几个机器学习任务中实现了与人工神经网络（ANN）相当的性能。信息在基于事件的机制中以显着降低能源消耗的基于事件的机制而作为SNN中的峰值进行处理。但是，由于尖峰机制的非差异性质，训练SNNS具有挑战性。传统方法，例如通过时间的反向传播（BPTT），已显示出有效性，但具有额外的综合和记忆成本，并且在生物学上是难以置信的。相比之下，最近的作品提出了具有不同程度的地方性的替代学习方法，在分类任务中表现出成功。在这项工作中，我们表明这些方法在培训过程中具有相似性，同时它们在生物学合理性和性能之间进行了权衡。此外，这项研究研究了SNN的隐式复发性质，并研究了向SNN添加显式复发的影响。我们在实验上证明，添加显式复发权重可以增强SNN的鲁棒性。我们还研究了基于梯度和非梯度的对抗性攻击下本地学习方法的性能。索引术语 - 启用神经网络，本地学习，培训方法，集中的内核对齐，Fisher信息。
机器学习和深度学习实时应用摘要
图1：机器学习与AI模型的深入学习之间的关系。大流行效应在这首歌中引起了很多关注，继续深入学习尝试，从而增加了对机器的期望。基于无接触世界，更高的注意力与不同的应用有关，即面对识别，分类和检测（Hussin等人。（2022））。因为每个人的脸都不一样；它使人类具有惊人的真实感。机器学习已在许多领域广泛使用。研究社区正在不断就新发展领域进行研究。II。 机器学习方法于1959年，亚瑟·塞缪尔（Arthur Samuel）进行了机器的演变。 在1948年，图灵（Turing and Champernowne）创作了基于最重要的国际象棋游戏的计算机程序的纸和铅笔。 草稿算法是由Christopher Strachey（1952）创建的。 尼尔森在1960年代出版了带有模式分类书的模式分类。 Duda和Hart在1970年解释了模式分类。 研究人员Hinton，Nielsen，Rumelhart和Williams在1985年和1986年提出了神经网络。 用多层感知器（MLP）对实用反向传播（BP）的培训是一个主要的想法。 深度学习将神经网络视为今天的时间。 1。 ML的分类：无监督和监督的强化学习II。机器学习方法于1959年，亚瑟·塞缪尔（Arthur Samuel）进行了机器的演变。在1948年，图灵（Turing and Champernowne）创作了基于最重要的国际象棋游戏的计算机程序的纸和铅笔。草稿算法是由Christopher Strachey（1952）创建的。尼尔森在1960年代出版了带有模式分类书的模式分类。Duda和Hart在1970年解释了模式分类。研究人员Hinton，Nielsen，Rumelhart和Williams在1985年和1986年提出了神经网络。用多层感知器（MLP）对实用反向传播（BP）的培训是一个主要的想法。深度学习将神经网络视为今天的时间。1。ML的分类：无监督和监督的强化学习
肺结节的机器学习评估
AI 被定义为计算机科学的一门学科，其重点是创造能够感知世界并表现得像人类的机器 (13)。最初的 AI 算法用于简单的数据分析，由程序员硬编码，无法识别未专门编程的模式 (14)。ML 是 AI 的一个子领域，其中算法可以识别和学习复杂数据集中的模式以产生智力预测，而不是通过显式编程 (14,15)。然而，大多数传统的 ML 算法仍然需要人工输入，并且此类算法能够评估的模式仍然相当简单。DL 可以被概念化为 ML 的一类，其中算法基于人工神经网络组织成许多处理层，类似于人脑。医学成像最常用的 DL 模型是卷积神经网络 (CNN) (16)（图 1），最初由 Fukushima 于 1980 年描述 (17)。LeCun 等人于 1989 年首次描述了使用反向传播训练 CNN 进行图像识别 (18)。2012 年，Krizhevsky 等人首次使用图形处理单元 (GPU) 训练 CNN 对物体进行分类，并因此赢得了 ImageNet 大规模视觉识别挑战赛 (19)。CNN 不需要人工干预即可进行复杂的数据分析 (20)。CNN 模仿人类大脑，神经元组织成多层 (21)
Dunee Fedgst Mao大学，Junbin
摘要 - 目前，大多数医疗机构都面临着使用零散和孤立数据来解决疾病预测问题的统一模型的挑战。尽管联邦学习已成为隐私保存模型培训的公认范式，但如何将联合学习与fMRI的时间特征相结合以增强预测性能是功能疾病预测的公开问题。为了解决这一具有挑战性的任务，我们提出了一个新型的联合图形时空（FedGST）脑功能疾病预测的框架。具体来说，锚采样用于处理本地客户端的可变长度时间序列数据。然后，动态功能连接图是通过滑动窗口和Pearson相关系数生成的。接下来，我们提出了一个启动时间模型，以从本地客户端的动态功能连接图中提取时间信息。最后，隐藏的激活变量发送到全局服务器。我们在全球服务器上提出了一个UniteGCN模型，以接收和处理来自客户端的隐藏激活变量。然后，全局服务器将渐变信息返回给客户端以进行反向传播和模型参数更新。客户端模型在本地服务器上汇总了模型参数，并将其分配给客户端以进行下一轮培训。我们证明，FedGST在Abide-1和ADHD200数据集上优于其他联合学习方法和基准。索引术语 - 跨时期，联邦学习，脑功能疾病，图表学习
与头部偏航旋转相关的脑电活动的识别
摘要：自动识别头部运动过程中的人类大脑刺激可能会为人机交互 (HCI) 带来重大进步，对严重残疾人群和机器人技术都有重要应用。本文提出了一种基于神经网络的识别技术，通过脑电图信号识别参与者在受到视觉刺激时的头部偏航旋转。目标是识别脑电活动与由参与者左手边/右手边的灯打开/关闭触发的头部运动之间的输入输出函数。该识别过程基于“Levenberg-Marquardt”反向传播算法。在十名参与者身上获得的结果跨越两个多小时的实验，显示了所提出的方法在识别与头部转动相关的脑电刺激方面的能力。对每个参与者的每个实验相关的脑电图信号进行初步分析。预测的准确性由同一文件的训练和测试试验之间的显著相关性证明，在最佳情况下，相关性达到 r = 0.98，MSE = 0.02。在第二次分析中，对一名参与者的 EEG 信号进行训练的输入输出函数由其他参与者的 EEG 信号进行测试。在这种情况下，低相关系数值表明，当对不同的受试者进行训练和测试时，分类器的性能会下降。
基于反向传播的深度脉冲神经网络学习技术：综述
摘要 — 随着智能系统的采用，人工神经网络 (ANN) 已变得无处不在。传统的 ANN 实现能耗高，限制了它们在嵌入式和移动应用中的使用。脉冲神经网络 (SNN) 通过二进制脉冲随时间分布信息来模拟生物神经网络的动态。神经形态硬件的出现充分利用了 SNN 的特性，例如异步处理和高激活稀疏性。因此，SNN 最近引起了机器学习社区的关注，成为低功耗应用的 ANN 的受大脑启发的替代品。然而，信息的离散表示使得通过基于反向传播的技术训练 SNN 具有挑战性。在这篇综述中，我们回顾了针对深度学习应用（例如图像处理）的深度 SNN 的训练策略。我们从基于从 ANN 到 SNN 的转换的方法开始，并将它们与基于反向传播的技术进行比较。我们提出了一种新的脉冲反向传播算法分类法，将其分为三类，即：空间方法、时空方法和单脉冲方法。此外，我们还分析了提高准确性、延迟和稀疏性的不同策略，例如正则化方法、训练混合和调整特定于 SNN 神经元模型的参数。我们重点介绍了输入编码、网络架构和训练策略对准确性-延迟权衡的影响。最后，鉴于准确、高效的 SNN 解决方案仍面临挑战，我们强调了联合硬件和软件共同开发的重要性。
使用MATLAB
摘要：最有身体上挑战的人依靠他人进行运动，而这样的人的数量日益增加。手动轮椅很难被身体挑战的人操作，因为他们需要运动的力量。为了克服这一缺点，市场上有传统的轮椅或动力轮椅。即使他们打算为用户的舒适设计设计，他们很昂贵，因此并非每个受到身体挑战的人都能负担得起。以减少手动轮椅使用的百分比，并以负担得起的方式为身体挑战的人们提供更好的体验和舒适感，我们提出了这一模型。我们提出的模型基于神经网络，而反向传播算法用作训练由用户语音命令训练的人工神经网络的媒介，因此它将语音识别用作控制机制。所提出的原型接受了五个语音命令，例如（向前，向后，左，右和停止）。这些语音命令已成功识别并转换为文本。通过使用蓝牙模块来控制直流电动机来控制轮椅的方向，以下文本将进一步写在目标硬件上。整个原型都是在Matlab R2020A和Arduino Uno上设计为目标硬件的。我们拟议的工作的主要目的是开发一个智能轮椅，该轮椅克服现有系统的问题，对于身体挑战的人来说应该容易，印象深刻且方便。