XiaoMi-AI文件搜索系统
World File Search System神经网
因果关系 - 时空图神经网络用于时空时间序列
时空时间序列通常是通过放置在不同位置的监视传感器来收集的，这些传感器通常由于各种故障而包含缺失值，例如机械损坏和内部中断。归纳缺失值对于分析时间序列至关重要。恢复特定的数据点时，大多数现有方法都考虑了与该点相关的所有信息，较小的因果关系。在数据收集期间，不可避免地包括一些未知的混杂因素，例如，时间序列中的背景噪声和构造的传感器网络中的非杂货快捷方式边缘。这些混杂因素可以打开后门路径并在输入和输出之间建立非泡沫相关性。过度探索这些非毒性相关性可能会导致过度拟合。在本文中，我们首先从因果的角度重新审视时空时间序列，并展示如何通过前门调整来阻止混杂因素。基于前门调整的结果，我们引入了一种新颖的C技术性-Ware Sp aTiot e Mpo r al图神经网络（CASPER），其中包含一种新型的基于及时的解码器（PBD）和空间 - 可导致的因果发生（SCA）。PBD可以减少混杂因素的影响，而SCA可以发现嵌入之间的因果关系稀疏。理论分析表明，SCA根据梯度值发现因果关系。我们在三个现实世界数据集上评估Casper，实验结果表明，Casper可以胜过基准，并可以有效地发现因果关系。
权重无关神经网络
并非所有神经网络架构都是一样的，有些架构在某些任务上的表现比其他架构好得多。但是，与神经网络架构相比，权重参数有多重要？在这项工作中，我们想知道，在没有学习任何权重参数的情况下，神经网络架构本身能在多大程度上为给定任务编码解决方案。我们提出了一种搜索方法，用于搜索无需任何明确权重训练就能执行任务的神经网络架构。为了评估这些网络，我们用从均匀随机分布中采样的单个共享权重参数填充连接，并测量预期性能。我们证明，我们的方法可以找到无需权重训练就能执行多项强化学习任务的最小神经网络架构。在监督学习领域，我们发现使用随机权重在 MNIST 上实现远高于偶然准确率的网络架构。本文的交互式版本位于 https://weightagnostic.github.io/
通过图卷积和可逆神经网络对潜在空间中的点云进行去噪
点云经常包含噪声和异常值，为下游应用带来障碍。在本文中，我们介绍了一种新颖的点云去噪方法。通过利用潜在空间，我们明确地发现噪声成分，从而可以提取干净的潜在代码。这反过来又有助于通过逆变换恢复干净点。我们网络中的一个关键组件是一个新的多层图卷积网络，用于捕获从局部到全局各个尺度的丰富几何结构特征。然后将这些特征集成到可逆神经网络中，该网络双射映射潜在空间，以指导噪声解缠结过程。此外，我们使用可逆单调算子来模拟变换过程，有效地增强了集成几何特征的表示。这种增强使我们的网络能够通过将噪声因素和潜在代码中的内在干净点投影到单独的通道上来精确区分它们。定性和定量评估均表明，我们的方法在各种噪声水平下都优于最先进的方法。源代码可在 https://github.com/yanbiao1/PD-LTS 获得。
在 HPC 基础设施上扩展脉冲神经网络
1 机器人、人工智能与实时系统，慕尼黑工业大学信息学院，德国慕尼黑，2 于利希超级计算中心 (JSC) 神经科学模拟与数据实验室，高级模拟研究所，JARA，于利希研究中心有限公司，德国于利希，3 瑞士国家超级计算中心 (CSCS)，苏黎世联邦理工学院，瑞士卢加诺，4 神经计算单元，冲绳科学技术研究生院，日本冲绳，5 机器人与人工智能卓越系，生物机器人研究所，Scuola Superiore Sant'Anna，意大利蓬泰代拉，6 计算机架构与技术系，格拉纳达大学信息与通信技术研究中心，西班牙格拉纳达，7 图像处理研究团队，日本理化学研究所先进光子学中心，和光，8 计算工程应用单元，信息系统与网络安全总部，理化学研究所，日本和光市、9 日本东京电气通信大学信息与工程研究生院、10 德国于利希研究中心、神经科学与医学研究所 (INM-6)、高级模拟研究所 (IAS-6)、JARA BRAIN 研究所 I、11 德国亚琛工业大学计算机科学 3-软件工程、12 日本神户理化学研究所计算科学中心
从聚类效应角度解释神经网络的对抗鲁棒性
对抗训练（AT）是提高深度神经网络鲁棒性的最常用机制。最近，一种针对中间层的新型对抗攻击利用了对抗训练网络的额外脆弱性，输出错误的预测。这一结果说明对抗训练中对抗扰动的搜索空间不足。为了阐明中间层攻击有效的原因，我们将前向传播解释为聚类效应，表征神经网络对于与训练集具有相同标签的样本的中间层表示相似，并通过相应的信息瓶颈理论从理论上证明了聚类效应的存在。随后我们观察到中间层攻击违反了 AT 训练模型的聚类效应。受这些重要观察的启发，我们提出了一种正则化方法来扩展训练过程中的扰动搜索空间，称为充分对抗训练（SAT）。我们通过严格的数学证明给出了经过验证的神经网络鲁棒性界限。实验评估表明，SAT 在防御针对输出层和中间层的对抗性攻击方面优于其他最先进的 AT 机制。我们的代码和附录可以在 https://github.com/clustering-effect/SAT 找到。
利用卷积神经网络进行快速对称微分同胚图像配准
微分同胚可变形图像配准在许多医学图像研究中至关重要，因为它提供了独特的属性，包括拓扑保存和变换的可逆性。最近基于深度学习的可变形图像配准方法利用卷积神经网络（CNN）从合成基本事实或相似性度量中学习空间变换，从而实现快速图像配准。然而，这些方法往往忽略了变换的拓扑保存和变换的平滑性，而平滑性仅由全局平滑能量函数来强制执行。此外，基于深度学习的方法通常直接估计位移场，这不能保证逆变换的存在。在本文中，我们提出了一种新颖的、有效的无监督对称图像配准方法，该方法最大化微分同胚图空间内图像之间的相似性，并同时估计正向和逆变换。我们使用大规模脑图像数据集在 3D 图像配准上评估了我们的方法。我们的方法实现了最先进的配准精度和运行时间，同时保持了理想的微分同胚特性。
使用以 Morgan 指纹为特征的深度神经网络模型预测 ErbB 抑制剂的结合亲和力
ErbB 受体家族（包括 EGFR 和 HER2）在细胞生长和存活中起着至关重要的作用，并与乳腺癌和肺癌等各种癌症的进展有关。在本研究中，我们开发了一个深度学习模型，使用基于 SMILES 表示的分子指纹来预测 ErbB 抑制剂的结合亲和力。每种 ErbB 抑制剂的 SMILES 表示均来自 ChEMBL 数据库。我们首先从 SMILES 字符串生成 Morgan 指纹，并应用 AutoDock Vina 对接来计算结合亲和力值。根据结合亲和力过滤数据集后，我们训练了一个深度神经网络 (DNN) 模型来根据分子指纹预测结合亲和力值。该模型取得了显著的性能，训练集上的均方误差 (MSE) 为 0.2591，平均绝对误差 (MAE) 为 0.3658，R 平方 (R²) 值为 0.9389。尽管在测试集上性能略有下降（R² = 0.7731），但该模型仍然表现出强大的泛化能力。这些结果表明深度学习方法对于预测 ErbB 抑制剂的结合亲和力非常有效，为虚拟筛选和药物发现提供了宝贵的工具。
人工神经网络/增强学习
ex Cathedra讲座和微型注射器。ex catherdra：主要思想带有黑板上呈现的幻灯片和计算。每周都会为一次课堂运动中断前大教堂的讲座。讲座的第二部分需要此练习的结果。其他练习是作为家庭作业进行的，或者可以在第二个锻炼时间进行混乱。讲座也被几个简短的测验打断。miniProject：小型设备是在两个组成的团队中完成的，并从两个或三个小型设备的列表中选择。