XiaoMi-AI文件搜索系统
World File Search System神经网
通过噪声生长和自组织的神经网络
活神经网络通过生长和自组织过程出现，从单个细胞开始，最终形成大脑，一个有组织、有功能的计算设备。然而，人工神经网络依靠人类设计的手工编程架构来实现其卓越的性能。我们能否开发出无需人工干预就能生长和自组织的人工计算设备？在本文中，我们提出了一种受生物启发的开发算法，该算法可以从单个初始细胞“生长”出一个功能齐全的分层神经网络。该算法组织层间连接以构建视网膜主题池化层。我们的方法受到早期视觉系统所采用的机制的启发，在动物睁开眼睛前几天，该系统将视网膜连接到外侧膝状体 (LGN)。稳健自组织的关键因素是第一层中出现的自发时空活动波和第二层中“学习”第一层中底层活动模式的局部学习规则。该算法可适应各种输入层几何形状，对第一层中的故障单元具有鲁棒性，因此可用于成功增长和自组织不同池大小和形状的池架构。该算法提供了一种通过增长和自组织构建分层神经网络的原始程序。我们还证明了从单个单元增长的网络在 MNIST 上的表现与手工制作的网络一样好。从广义上讲，我们的工作表明，受生物启发的开发算法可以应用于在计算机中自主生长功能性“大脑”。
研究论文 使用反向传播神经网络对高光谱遥感数据中的岩性信息进行提取和分类
为了解决高光谱遥感数据处理中遇到的同构问题,提高高光谱遥感数据在岩性信息提取与分类的精度,以岩石为研究对象,引入反向传播神经网络(BPNN),对高光谱图像数据进行归一化处理后,以岩性光谱与空间信息为特征提取目标,构建基于深度学习的岩性信息提取模型,并使用具体实例数据分析模型的性能。结果表明:基于深度学习的岩性信息提取与分类模型总体精度为90.58%,Kappa系数为0.8676,能够准确区分岩体性质,与其他分析模型相比具有较好的性能。引入深度学习后,提出的BPNN模型与传统BPNN相比,识别精度提高了8.5%,Kappa系数提高了0.12。所提出的提取及分类模型可为高光谱岩矿分类提供一定的研究价值和实际意义。
使用变分循环神经网络进行主动推理，为习惯智能体进行目标导向规划
摘要：至关重要的是要问，代理如何仅使用通过习惯性感觉运动经验获得的部分世界模型来生成行动计划，从而实现目标。尽管许多现有的机器人研究都使用了前向模型框架，但存在高自由度的泛化问题。当前的研究表明，采用生成模型的预测编码 (PC) 和主动推理 (AIF) 框架可以通过学习低维潜在状态空间中的先验分布来开发更好的泛化，该先验分布表示从习惯性感觉运动轨迹中提取的概率结构。在我们提出的模型中，学习是通过推断最佳潜在变量以及突触权重来最大化证据下限来进行的，而目标导向规划是通过推断潜在变量来最大化估计下限来完成的。我们提出的模型在模拟中使用简单和复杂的机器人任务进行了评估，通过为正则化系数设置中间值，证明了在有限的训练数据下学习中具有足够的泛化能力。此外，比较模拟结果表明，由于先验学习将运动计划的搜索限制在习惯轨迹范围内，因此所提出的模型在目标导向规划中优于传统的前向模型。
利用卷积神经网络进行快速对称微分同胚图像配准
微分同胚可变形图像配准在许多医学图像研究中至关重要，因为它提供了独特的属性，包括拓扑保存和变换的可逆性。最近基于深度学习的可变形图像配准方法利用卷积神经网络（CNN）从合成基本事实或相似性度量中学习空间变换，从而实现快速图像配准。然而，这些方法往往忽略了变换的拓扑保存和变换的平滑性，而平滑性仅由全局平滑能量函数来强制执行。此外，基于深度学习的方法通常直接估计位移场，这不能保证逆变换的存在。在本文中，我们提出了一种新颖的、有效的无监督对称图像配准方法，该方法最大化微分同胚图空间内图像之间的相似性，并同时估计正向和逆变换。我们使用大规模脑图像数据集在 3D 图像配准上评估了我们的方法。我们的方法实现了最先进的配准精度和运行时间，同时保持了理想的微分同胚特性。
利用人工神经网络预测定向金属沉积中的高度
定向金属沉积 (DMD) 是一种很有前途的金属增材制造技术，其中零件是通过使用沿预定义轨迹移动的激光束融合注入的金属粉末颗粒来制造的。刀具路径通常包括曲线或边缘部分，机器轴需要相应地减速和加速。因此，局部施加的激光能量和粉末密度在沉积过程中会发生变化，导致局部过度沉积和过热。这些偏差还受到刀具路径几何形状和工艺持续时间的影响：先前的沉积可能会在时间和空间上影响相近的刀具路径段，导致局部热量积聚，并形成与使用相同参数沉积的其他段中产生的轮廓和微观结构不同的轮廓和微观结构，这是由于几何形状和温度相关的集水轮廓所致。为了防止这些现象，需要轻量级和可扩展的模型来预测可变刀具路径的工艺行为。在本文中，我们提出了一种基于人工智能的方法来处理 Inconel 718 的工艺复杂性和多种刀具路径变化。考虑到先前定义的刀具路径，使用人工神经网络 (ANN) 来预测沉积高度。通过打印包含多个曲率和几何形状的随机刀具路径，生成了训练数据。基于训练后的模型，可以成功预测整个刀具路径的显著局部几何偏差，并且可以通过相应地调整工艺参数来预测。
通过图卷积和可逆神经网络对潜在空间中的点云进行去噪
点云经常包含噪声和异常值，为下游应用带来障碍。在本文中，我们介绍了一种新颖的点云去噪方法。通过利用潜在空间，我们明确地发现噪声成分，从而可以提取干净的潜在代码。这反过来又有助于通过逆变换恢复干净点。我们网络中的一个关键组件是一个新的多层图卷积网络，用于捕获从局部到全局各个尺度的丰富几何结构特征。然后将这些特征集成到可逆神经网络中，该网络双射映射潜在空间，以指导噪声解缠结过程。此外，我们使用可逆单调算子来模拟变换过程，有效地增强了集成几何特征的表示。这种增强使我们的网络能够通过将噪声因素和潜在代码中的内在干净点投影到单独的通道上来精确区分它们。定性和定量评估均表明，我们的方法在各种噪声水平下都优于最先进的方法。源代码可在 https://github.com/yanbiao1/PD-LTS 获得。
介绍深度神经网络优化中的突触整合原理
众所周知，大脑中的可塑性电路通过突触整合和突触强度局部调节机制受到突触权重分布的影响。然而，迄今为止设计的大多数人工神经网络训练算法都忽略了刺激依赖性可塑性与局部学习信号之间的复杂相互作用。在这里，我们提出了一种新型的生物启发式人工神经网络和脉冲神经网络优化器，它结合了皮质树突中观察到的突触可塑性的关键原理：GRAPES（调整误差信号传播的组责任）。GRAPES 在网络的每个节点上实施依赖于权重分布的误差信号调制。我们表明，这种生物启发式机制可以显著提高具有前馈、卷积和循环架构的人工神经网络和脉冲神经网络的性能，它可以减轻灾难性遗忘，并且最适合专用硬件实现。总的来说，我们的工作表明，将神经生理学见解与机器智能相结合是提高神经网络性能的关键。
通过逐层优化脑外科医生学习修剪深度神经网络
如何开发精简而准确的深度神经网络对于实际应用至关重要，尤其是对于嵌入式系统中的应用。尽管之前沿着该研究方向的工作已经显示出一些有希望的结果，但是大多数现有方法要么无法显著压缩训练有素的深度网络，要么需要对修剪后的深度网络进行大量再训练才能重新提高其预测性能。在本文中，我们提出了一种新的深度神经网络分层修剪方法。在我们提出的方法中，每个单独层的参数都基于相应参数的分层误差函数的二阶导数独立地进行修剪。我们证明，修剪后最终的预测性能下降受每层造成的重构误差的线性组合限制。通过适当控制分层误差，只需对修剪后的网络进行轻度再训练即可恢复其原始的预测性能。我们在基准数据集上进行了大量实验，以证明我们的修剪方法与几种最先进的基线方法相比的有效性。我们的工作代码发布在：https://github.com/csyhhu/L-OBS 。
深度神经网络修剪的最佳运输
最佳运输，也称为运输理论或Wasserstein指标，是一个数学框架，它解决了找到最有效的方法将质量或资源从一个分布转移到另一种分布的最有效方法的问题，同时最大程度地减少了一定的成本函数[1,2,3]。最初在18世纪作为物流和经济学工具开发，最佳运输在现代数学和各种科学学科（包括计算机科学和机器学习）上引起了极大的关注。在其核心方面，最佳运输旨在通过找到将一个分布的质量重新分配以匹配另一个位置的成本，从而量化两个概率分布之间的相似性。这个优雅而多才多艺的概念在不同领域中发现了从图像处理和数据分析到经济学[11]和神经科学的应用，使其成为具有广泛含义的强大而统一的数学工具[12]。