XiaoMi-AI文件搜索系统
World File Search System反向传播
研究论文 使用反向传播神经网络对高光谱遥感数据中的岩性信息进行提取和分类
为了解决高光谱遥感数据处理中遇到的同构问题,提高高光谱遥感数据在岩性信息提取与分类的精度,以岩石为研究对象,引入反向传播神经网络(BPNN),对高光谱图像数据进行归一化处理后,以岩性光谱与空间信息为特征提取目标,构建基于深度学习的岩性信息提取模型,并使用具体实例数据分析模型的性能。结果表明:基于深度学习的岩性信息提取与分类模型总体精度为90.58%,Kappa系数为0.8676,能够准确区分岩体性质,与其他分析模型相比具有较好的性能。引入深度学习后,提出的BPNN模型与传统BPNN相比,识别精度提高了8.5%,Kappa系数提高了0.12。所提出的提取及分类模型可为高光谱岩矿分类提供一定的研究价值和实际意义。
将卷积层和Biforter网络与前向和反向传播培训
准确的分子特性预测对于药物发现和计算化学至关重要，促进了有希望的化合物并加速治疗性发育的鉴定。传统的机器学习以高维数据和手动特征工程的速度失败，而现有的深度学习方法可能不会捕获复杂的分子结构，而留下了研究差距。我们引入了深CBN，这是一个新型框架，旨在通过直接从原始数据中捕获复杂的分子表示来增强分子性质预测，从而提高了准确性和效率。我们的方法论结合了卷积神经网络（CNN）和biforter注意机制，同时采用了前向算法和反向传播。该模型分为三个阶段：（1）功能学习，使用CNN从微笑字符串中提取本地特征； （2）注意力完善，通过向前前锋算法增强的Biforter模块捕获全球环境； （3）预测子网调整，通过反向传播进行微调。对基准数据集的评估 - 包括TOX21，BBBP，SIDE，Clintox，Clintox，Bace，HIV和MUV，表明深-CBN达到了近乎完美的ROC-AUC分数，显着超过了最好的State-Art-Art方法。这些发现证明了其在捕获复杂分子模式的有效性，提供了一种强大的工具来加速药物发现过程。
基于反向传播的深度脉冲神经网络学习技术：综述
摘要 — 随着智能系统的采用，人工神经网络 (ANN) 已变得无处不在。传统的 ANN 实现能耗高，限制了它们在嵌入式和移动应用中的使用。脉冲神经网络 (SNN) 通过二进制脉冲随时间分布信息来模拟生物神经网络的动态。神经形态硬件的出现充分利用了 SNN 的特性，例如异步处理和高激活稀疏性。因此，SNN 最近引起了机器学习社区的关注，成为低功耗应用的 ANN 的受大脑启发的替代品。然而，信息的离散表示使得通过基于反向传播的技术训练 SNN 具有挑战性。在这篇综述中，我们回顾了针对深度学习应用（例如图像处理）的深度 SNN 的训练策略。我们从基于从 ANN 到 SNN 的转换的方法开始，并将它们与基于反向传播的技术进行比较。我们提出了一种新的脉冲反向传播算法分类法，将其分为三类，即：空间方法、时空方法和单脉冲方法。此外，我们还分析了提高准确性、延迟和稀疏性的不同策略，例如正则化方法、训练混合和调整特定于 SNN 神经元模型的参数。我们重点介绍了输入编码、网络架构和训练策略对准确性-延迟权衡的影响。最后，鉴于准确、高效的 SNN 解决方案仍面临挑战，我们强调了联合硬件和软件共同开发的重要性。
穿孔反向传播
摘要。人工神经网络的神经元最初是在人们对生物神经元的了解远不如今天时发明的。我们的工作探索了对核心神经元单元的修改，使其与生物神经元更加平行。修改是基于这样的认识：生物树突不仅仅是被动激活漏斗，而且在将激活传递到细胞体时还会计算复杂的非线性函数。本文探讨了一种新颖的“穿孔”反向传播系统，该系统使深度神经网络的人工神经元能够更好地编码它们在原始架构中编码的相同特征。在初始网络训练阶段之后，将额外的“树突节点”添加到网络中，并分别进行训练，目标是：将它们的输出与原始神经元的剩余误差相关联。然后冻结训练后的树突节点，并进一步训练原始神经元，现在要考虑树突节点提供的额外误差信号。训练原始神经元然后添加和训练树突节点的循环可以重复多次，直到达到令人满意的性能。我们的算法已成功添加到跨多个领域的现代最先进的 PyTorch 网络中，提高了原始精度，并允许在不损失精度的情况下显着压缩模型。关键词：人工神经网络、深度学习、语音处理、药物发现、股票预测、机器学习、树突状积分、级联相关、人工神经发生
在综合光子神经网络中以反向传播学习
塑料自适应，非线性复发动力学和多尺度内存是神经网络硬件实现的所需功能，因为它们使它们能够学习，适应和处理与生物学大脑的方式相似。在这项工作中，这些特性发生在光子神经元阵列中。重要的是，这是以紧急方式自主实现的，而无需外部控制器设置权重，也没有明确的全球奖励信号反馈。使用基于简单的逻辑回归的无反向传播培训算法的层次结构，在MNIST任务上实现了98.2％的绩效，这是一项流行的基准测试任务，研究书面数字的分类。塑料节点由硅光子微孔谐振器组成，这些谐振器被带有非挥发记忆的一块相变材料覆盖。系统是紧凑，健壮和直接的，可以通过使用多个波长来扩展。此外，它构成了一个独特的平台来测试和有效地以高处理速度实现生物学上合理的学习方案。
飞行时间解析的刺激拉曼散射显微镜使用反向传播的Ultraslow Bessel Light Bullets Generation
摘要我们提出了一种新颖的旋转时间分辨出贝塞尔轻弹刺激的拉曼散射（B 2 -SRS）显微镜，用于更深的组织3D化学成像，而无需机械Z扫描。为完成任务，我们想到了一种独特的方法，可以通过在样品中生成反式泵和stoke bessel轻子弹来实现光学切片，在该泵中，Bessel Light Bullets的组速度是Ultraslow的组速度（例如VG≈0.1C），并通过引入Anglable Angemable Plights spationd spations spationgions spat-spationd。我们从理论上分析了共线多色Bessel Light Bullet Bullet Generations和速度控制的工作原理，并使用相对的SRS 3D深组织成像的相对时间分辨出的检测。我们还构建了B 2 -SRS成像系统，并在各种样品中使用Bessel Light子弹进行了B 2 -SRS显微镜的第一个演示，用于3D化学成像（例如，聚合物珠幻像（，是春季洋葱组织和猪脑脑），具有高分辨率的聚合物珠幻象，具有生物样品）。与常规的SRS显微镜相比，B 2 -SRS技术在猪脑组织的成像深度上提供了> 2倍的改善。使用B 2 -SRS中开发的反式超声贝塞尔轻子弹在组织中的光学切片方法是通用且易于执行的，并且很容易扩展到其他非线性光学成像模式，以推动在生物医学和生物医学系统和超越生物学和生物医学系统中促进3D显微镜成像。
FFCL：具有皮质环路的前向-前向网络，无需反向传播即可在边缘进行训练和推理
前向-前向学习 (FFL) 算法是最近提出的一种无需占用大量内存的反向传播即可训练神经网络的解决方案。在训练期间，标签会伴随输入数据，将其分类为正输入或负输入。每一层都会独立学习对这些输入的响应。在本研究中，我们通过以下贡献增强了 FFL：1) 我们通过在层之间分离标签和特征转发来优化标签处理，从而提高学习性能。2) 通过修改标签集成，我们增强了推理过程，降低了计算复杂性并提高了性能。3) 我们引入了类似于大脑皮层环路的反馈回路，信息在其中循环并返回到早期的神经元，使各层能够将来自前几层的复杂特征与低级特征相结合，从而提高学习效率。
大脑会进行反向传播吗？
反向传播这一术语源自一篇题为“通过反向传播误差学习表征”的原始文章（Rumelhart 等人，1986 年）。这是一种机器学习算法，可调整神经网络中连接的权重，以最小化网络实际输出向量与期望输出向量之间的差异（误差）的度量。在神经科学中，术语“反向传播”是指在轴突小丘区域产生的动作电位向后传播到该神经元的输入端（突触后末端或树突棘）。还观察到，循环侧支将神经元的输出带到其输入区域。这并不一定会导致误差校正；相反，它会加强特定神经元的激发。此外，突触连接不允许动作电位从突触后末端（输入区域）跨越到突触前末端（带来传入信号的神经元的输出区域）
布尔变体和布尔逻辑反向传播
深度学习已成为解决众多现代问题的常见解决方案，占据了当今技术和社会关注的核心。其权力的配方是基于梯度反向传播的前所未有的大维度和学习过程的结合效应[Lecun等，1998]。，由于神经元模型的简单性，该模型被分解为加权线性总和，然后是非线性激活函数，权重梯度仅由它们各自的输入而不涉及交叉参数依赖性确定。因此，就计算过程而言，梯度反向传播是由梯度链规则自动化的，仅需要对远期输入数据进行缓冲。但是，深度学习在计算上是密集的。图1显示了其典型的操作，其中向前传球在推理和训练中都使用，而后传播仅用于训练。推断，必须存储整个模型参数，并且主要计算是张量点产品。在训练中，除推理外，向前传球还需要缓冲每一层的所有输入张量。它们用于衍生计算，基于梯度的优化器和梯度反向传播所需的张量点产品。也需要基于梯度的学习原理，模型参数和所有信号都是连续数字，通常以32位浮点格式表示。它会导致大量的内存足迹。图2显示了我们的一个示例，以说明
采用反向传播人工神经网络算法设计基于人工智能的 3.84 kW 货运无人机电池组
尽管在有效载荷和航程方面存在限制，货运无人机在应急物流和远程配送方面仍具有广阔的应用前景。在本研究中，我们通过开发一种高容量 3.84 kW 电池来应对这些挑战，该电池专为在苛刻地形中运行的 50 公斤有效载荷货运无人机而设计。我们专注于应急货物的运输，研究无人机设计的关键方面和电池组开发的细节，包括电池选择、内部配置以及用于电池平衡、充电/放电和高级电池管理的关键电路。一项关键创新是集成反向传播人工神经网络 (BPANN) 算法来预测放电深度 (DoD) 和充电状态 (SoC)。研究结果表明，BPANN 提供高度准确的预测，DoD 的误差百分比低至 0.12%，SoC 的误差百分比低至 0.02%，确保电池运行优化和安全。进行了全面的现场测试，以评估所提出的电池平衡策略、强大的电池管理系统 (BMS) 和 BPANN 实施的有效性。我们研究了无人机在 DoD、SoC 和使用设计的电池组的整体现场操作方面的性能，并证明了其在实际应用中的可行性和潜力。