XiaoMi-AI文件搜索系统
World File Search System神经网
使用数据约束的循环神经网络模型推断全脑交互
行为源自多个在解剖学和功能上不同的大脑区域的协调活动 1,2 。现代实验工具 3–5 使我们能够前所未有地接触大量神经群，甚至是横跨全脑许多相互作用区域的神经群 2 。然而，要理解如此大规模的数据集，不仅需要稳健、可扩展的计算模型来提取区域间通信的有意义特征，还需要原则性理论来解释这些特征。在这里，我们介绍了基于电流的分解 (CURBD)，这是一种使用数据约束的循环神经网络模型 6 推断全脑相互作用的方法，该模型一旦经过训练，就会自主产生与实验获得的神经数据一致的动态。CURBD 利用从这些模型推断出的功能相互作用来同时揭示多个大脑区域之间的定向电流。我们首先表明，CURBD 可以在具有已知连接和动态的模拟真实网络中准确地隔离区域间电流。然后，我们将 CURBD 应用于从广泛的神经数据集（斑马鱼幼虫 7 、小鼠 8 、猕猴 9 和人类 10 ）获得的多区域神经记录，以证明 CURBD 在解开全脑相互作用和行为背后的区域间通信原理方面的广泛适用性。
基于NARX复发神经网络和移动窗口方法的锂离子电池的充电状态估计
摘要准确的充电状态（SOC）估计取决于精确的电池模型。非线性和不稳定干扰因素的影响使准确的SOC估计变得困难。为了获得准确的电池模型，提出了基于NARX（具有外源输入的非线性自回归网络）的方法，提出了复发性神经网络和移动窗口方法。本文从以下三个方面提高了SOC估计的准确性，建模速度和鲁棒性。首先，为了克服对模型训练过程中数据量的过度依赖，使用NARX复发性神经网络来建立电池模型。narx（具有外部输入的非线性自回旋）具有延迟和反馈功能的复发性神经网络可以保留上一刻的输入和输出，并将其添加到下一个时刻的计算中。因此，使用少量数据实现了更好的估计结果；其次，移动窗口方法用于梯度爆炸和NARX模型训练过程中可能发生的梯度消失。第三，通过将其与不同的工作条件和不同温度下的其他方法进行比较，可以验证该模型的有效性。结果表明，所提出的模型具有更高的SOC估计准确性和速度。提出的模型的RMSE性能减少了约65％，并且执行时间缩短了约50％。
直接金属沉积中基于神经网络的过程模型的迁移学习
增材制造工艺在工业领域越来越重要。特别是直接金属沉积 (DMD) 是一种很有前途的制造技术，因为它可以实现广泛的应用，例如从头开始制造零件、在传统加工的原始零件上添加材料，甚至高效修复高价值零件 [1]。除了许多优点外，该工艺的可控性仍然很困难，导致内部缺陷、几何偏差或微观结构不均匀。相变、粉末-气体动力学和参数不确定性等多种物理现象会影响工艺行为并使工艺处理复杂化。因此，需要进行大量的实验活动来确定具有可接受几何和材料性能的工艺参数
摘要。这项工作旨在回顾人工神经网络（ANN）的最典型实现，这些实现是在前馈神经网络中实现的。
摘要。这项工作旨在回顾人工神经网络 (ANN) 的最典型实现，这些实现在前馈神经网络 (FNN) 和循环神经网络 (RNN) 中实现。讨论了 ANN 架构和基本操作原理的本质区别。学习过程的问题分几个部分介绍。使用 ANN 进行预测的优势已在自适应教育学、医学和生物学分类、工业等多个热门领域得到证实。JEL：C45。关键词：人工智能；人工神经网络；前馈神经网络；循环神经网络；感知器。引用：Alytis Gruodis (2023) 人工神经网络在过程建模中的实现。当前实现概述。– 应用业务：问题与解决方案 2(2023)22–27 – ISSN 2783-6967。https://doi.org/10.57005/ab.2023.2.3
利用人工神经网络预测定向金属沉积中的高度
定向金属沉积 (DMD) 是一种很有前途的金属增材制造技术，其中零件是通过使用沿预定义轨迹移动的激光束融合注入的金属粉末颗粒来制造的。刀具路径通常包括曲线或边缘部分，机器轴需要相应地减速和加速。因此，局部施加的激光能量和粉末密度在沉积过程中会发生变化，导致局部过度沉积和过热。这些偏差还受到刀具路径几何形状和工艺持续时间的影响：先前的沉积可能会在时间和空间上影响相近的刀具路径段，导致局部热量积聚，并形成与使用相同参数沉积的其他段中产生的轮廓和微观结构不同的轮廓和微观结构，这是由于几何形状和温度相关的集水轮廓所致。为了防止这些现象，需要轻量级和可扩展的模型来预测可变刀具路径的工艺行为。在本文中，我们提出了一种基于人工智能的方法来处理 Inconel 718 的工艺复杂性和多种刀具路径变化。考虑到先前定义的刀具路径，使用人工神经网络 (ANN) 来预测沉积高度。通过打印包含多个曲率和几何形状的随机刀具路径，生成了训练数据。基于训练后的模型，可以成功预测整个刀具路径的显著局部几何偏差，并且可以通过相应地调整工艺参数来预测。
从聚类效应角度解释神经网络的对抗鲁棒性
对抗训练（AT）是提高深度神经网络鲁棒性的最常用机制。最近，一种针对中间层的新型对抗攻击利用了对抗训练网络的额外脆弱性，输出错误的预测。这一结果说明对抗训练中对抗扰动的搜索空间不足。为了阐明中间层攻击有效的原因，我们将前向传播解释为聚类效应，表征神经网络对于与训练集具有相同标签的样本的中间层表示相似，并通过相应的信息瓶颈理论从理论上证明了聚类效应的存在。随后我们观察到中间层攻击违反了 AT 训练模型的聚类效应。受这些重要观察的启发，我们提出了一种正则化方法来扩展训练过程中的扰动搜索空间，称为充分对抗训练（SAT）。我们通过严格的数学证明给出了经过验证的神经网络鲁棒性界限。实验评估表明，SAT 在防御针对输出层和中间层的对抗性攻击方面优于其他最先进的 AT 机制。我们的代码和附录可以在 https://github.com/clustering-effect/SAT 找到。
条件感知的神经网络，用于受控图像生成
我们介绍C ONTITION- WARE神经N ETWORK（CAN），这是一种将控制添加到图像生成模式中的新方法。与先前的条件控制方法并行，可以通过动态降低神经网络的重量来控制图像生成过程。这是通过引入条件感知的重量产生模式来实现的，该模块会根据输入条件为卷积/线性层生成条件重量。我们测试可以在Coco上的ImageNet和文本对图像生成上生成类别图像的生成。可以始终如一地为包括DIT和UVIT在内的扩散变压器模型提供显着改进。特别是，Ca n与有效的T（CAT）结合在Imagenet 512×512上达到2.78 FID，超过DIT-XL/2，同时每个采样步骤需要少52×MAC。
研究论文 使用反向传播神经网络对高光谱遥感数据中的岩性信息进行提取和分类
为了解决高光谱遥感数据处理中遇到的同构问题,提高高光谱遥感数据在岩性信息提取与分类的精度,以岩石为研究对象,引入反向传播神经网络(BPNN),对高光谱图像数据进行归一化处理后,以岩性光谱与空间信息为特征提取目标,构建基于深度学习的岩性信息提取模型,并使用具体实例数据分析模型的性能。结果表明:基于深度学习的岩性信息提取与分类模型总体精度为90.58%,Kappa系数为0.8676,能够准确区分岩体性质,与其他分析模型相比具有较好的性能。引入深度学习后,提出的BPNN模型与传统BPNN相比,识别精度提高了8.5%,Kappa系数提高了0.12。所提出的提取及分类模型可为高光谱岩矿分类提供一定的研究价值和实际意义。
通过逐层优化脑外科医生学习修剪深度神经网络
如何开发精简而准确的深度神经网络对于实际应用至关重要，尤其是对于嵌入式系统中的应用。尽管之前沿着该研究方向的工作已经显示出一些有希望的结果，但是大多数现有方法要么无法显著压缩训练有素的深度网络，要么需要对修剪后的深度网络进行大量再训练才能重新提高其预测性能。在本文中，我们提出了一种新的深度神经网络分层修剪方法。在我们提出的方法中，每个单独层的参数都基于相应参数的分层误差函数的二阶导数独立地进行修剪。我们证明，修剪后最终的预测性能下降受每层造成的重构误差的线性组合限制。通过适当控制分层误差，只需对修剪后的网络进行轻度再训练即可恢复其原始的预测性能。我们在基准数据集上进行了大量实验，以证明我们的修剪方法与几种最先进的基线方法相比的有效性。我们的工作代码发布在：https://github.com/csyhhu/L-OBS 。
使用变分循环神经网络进行主动推理，为习惯智能体进行目标导向规划
摘要：至关重要的是要问，代理如何仅使用通过习惯性感觉运动经验获得的部分世界模型来生成行动计划，从而实现目标。尽管许多现有的机器人研究都使用了前向模型框架，但存在高自由度的泛化问题。当前的研究表明，采用生成模型的预测编码 (PC) 和主动推理 (AIF) 框架可以通过学习低维潜在状态空间中的先验分布来开发更好的泛化，该先验分布表示从习惯性感觉运动轨迹中提取的概率结构。在我们提出的模型中，学习是通过推断最佳潜在变量以及突触权重来最大化证据下限来进行的，而目标导向规划是通过推断潜在变量来最大化估计下限来完成的。我们提出的模型在模拟中使用简单和复杂的机器人任务进行了评估，通过为正则化系数设置中间值，证明了在有限的训练数据下学习中具有足够的泛化能力。此外，比较模拟结果表明，由于先验学习将运动计划的搜索限制在习惯轨迹范围内，因此所提出的模型在目标导向规划中优于传统的前向模型。