抽象功能磁共振成像(fMRI)在任务或休息期间对大脑功能提供了有用的见解。使用相关矩阵代表fMRI数据是分析静止状态和活动状态中大脑固有连接性的一种可靠方法。图形神经网络(GNN)由于其固有的解释能力而被广泛用于大脑网络分析。在这项工作中,我们使用对比度自我监督的学习图变压器引入了一个新颖的框架,并将大脑网络变压器编码器与随机图更改结合在一起。所提出的网络利用对比度学习和图形变化,以有效地训练图形变压器以进行自闭症检测。我们的方法对自闭症脑成像数据交换(ABIDE)数据进行了测试,证明了自闭症检测,其AUROC为82。6和74%的精度超过了当前的最新方法。
通过定向消息传递利用坐标的图神经网络最近在多个分子特性预测任务中取得了最新进展。然而,它们依赖于通常不可用的原子位置信息,而获取这些信息通常非常昂贵甚至不可能。在本文中,我们提出了合成坐标,使高级 GNN 的使用无需真正的分子配置。我们提出了两种距离作为合成坐标:指定分子配置粗略范围的距离界限,以及使用个性化 PageRank 的对称变体的基于图的距离。为了利用距离和角度信息,我们提出了一种将普通图神经网络转换为定向 MPNN 的方法。我们表明,通过这种转换,我们可以在 ZINC 基准上将普通图神经网络的误差降低 55%。此外,我们通过在 SMP 和 DimeNet ++ 模型中加入合成坐标,在 ZINC 和无坐标 QM9 上取得了最新进展。我们的实现可以在线获得。1
现代计算软组织力学模型有可能提供独特的,特定于患者的诊断见解。由于使用常规数值求解器进行机械仿真时,这种模型在临床环境中的部署受到限制。在临床相关时间范围内获得结果的另一种方法是使用计算有效的替代模型(称为模拟器)代替数值模拟器。在这项工作中,我们为软组织力学提出了一个模拟框架,该框架以两种方式基于传统方法。首先,我们使用图形神经网络(GNN)进行仿真。gnns自然可以处理给定患者的唯一软组织几何形状,而无需进行任何低阶近似。其次,模拟器以物理信息的方式进行训练,以最大程度地减少势能功能,这意味着训练不需要昂贵的数值模拟。我们提出结果表明,我们的框架可以为一系列软组织机械模型提供高度准确的仿真,同时预测比模拟器更快地进行了几个数量级。
摘要 - 通过利用共享的语义信息来促进的感知在克服孤立剂的个体局限性方面起着至关重要的作用。但是,现有的协作感知方法倾向于仅关注语义信息的空间特征,同时忽略了时间维度的重要性。因此,合作的潜在利益。在Select2Col中,我们开发了一种合作者选择方法,该方法利用轻量级的图形神经网络(GNN)来估计每个合作者在增强感知表现方面的语义信息(IOSI)的重要性,从而确定了贡献者的合作者,同时排除了那些潜在地产生负面影响的那些合作者。此外,我们提出了一种称为HPHA的语义信息融合算法(历史先前的混合注意),该算法将多尺度的关注和短期关注模块整合起来,以分别从空间和时间尺寸中捕获IOSI,并从空间和时间维度中捕获IOSI稳定权重,并分配了精选的fusion Fusion Fusion Fusion Fusion for-Refortor-refortor-refortor of Informent for fromitient of Informent fromitient fromitient fromitient fromitient fromitient from from from from infusient fromient fromient fromient fromitient fromient of信息。在三个开放数据集上进行的大量实验演示了
图 1:人工智能在药物发现中的应用和技术。人工智能在小分子药物发现中的应用包括虚拟筛选、定量构效关系和药物设计,可归结为两个主要任务:分子性质预测和分子生成。小分子可以用固定指纹、分子图、简化分子输入系统 (SMILES) 字符串和图像来表示。各种模型架构已应用于每种表示格式,包括卷积神经网络 (CNN)、循环神经网络 (RNN)、图神经网络 (GNN)、变分自动编码器 (VAE)、生成对抗网络 (GAN)、归一化流模型和变压器。然而,低数据分子性质预测和目标导向分子生成仍存在挑战。为了应对这些挑战,人们提出了不同的学习范式,例如用于预训练-微调实践的自监督学习和用于化学空间搜索的强化学习。本文讨论的其他范式还包括小样本学习、度量学习、元学习和主动学习。
课程:AIST4010课程ID:013173 AFF日期:2024-07-01 CRSE状态:主动批准。状态:批准的[课程Rev]应用深度学习的基础应用深度学习基础本课程涵盖了如何使用深度学习技术来解决现实生活中的计算问题,处理各种数据。我们通过深入学习引入解决问题的范式来开始课程:数据准备,建立模型,训练模型,模型评估和超参数搜索。然后,我们填写范式中的详细信息。关于深度学习模型,我们将从最简单的线性回归模型转向相对复杂的模型。要处理各种数据类型,即结构化数据,图像,文本,序列,信号和图形,在我们的日常生活中,我们将介绍CNN/Resnet,RNN/LSTM,注意力和GNN模型。除了上述范式外,我们还将涵盖处理过度拟合的常用技术。在本课程结束时,我们将简要浏览生成模型VAE和GAN。咨询:预计学生将具有有关Python编程的背景知识。
摘要 —资源管理在无线网络中起着至关重要的作用,但不幸的是,这会导致具有挑战性的 NP 难题。人工智能 (AI),尤其是深度学习技术,最近已成为一种颠覆性技术,可以实时解决此类挑战性问题。然而,尽管已经报告了有希望的结果,但仍然缺乏基于 AI 的方法的实用设计指南和性能保证。在本文中,我们努力解决两个基本问题:1)与传统技术相比,基于 AI 的方法的主要优势是什么;2)对于给定的资源管理任务,我们应该选择哪种神经网络。对于第一个问题,我们确定并讨论了四个优势。对于第二个问题,提出了最优差距,即与最佳性能的差距,作为选择模型架构的一种衡量标准,同时也可以对不同的基于 AI 的方法进行理论比较。具体来说,对于 K 用户干扰管理问题,我们从理论上证明了图神经网络 (GNN) 优于多层感知器 (MLP),并且这两种方法之间的性能差距随着√而扩大
AE 对抗性示例 AI 人工智能 API 应用程序接口 BDP 边界差分隐私 BIM 基本迭代方法 CIFAR 加拿大高级研究院 CNN 卷积神经网络 CW Carlini 和 Wagner(攻击) DNN 深度神经网络 DP-SGD 差分隐私随机梯度下降 FGSM 快速梯度符号法 GNN 图形神经网络 IP 知识产权 JPEG 联合图像专家组 JSMA 基于雅可比矩阵的显著性图 KNHT 键控非参数假设检验 L-BFGS 有限内存 Broyden-Fletcher-Goldfarb-Shanno(算法) MNIST 改良的国家标准与技术研究所 MNTD 元神经木马检测 PATE 教师集合的私有聚合 PCA 主成分分析 PGD 项目梯度下降 PRADA 防止 DNN 模型窃取攻击 ReLU 整流线性单元 RNN 循环神经网络 RONI 拒绝负面影响 SAI 保护人工智能 SAT 可满足性 SGD 随机梯度下降 SMT 可满足性 模理论 STRIP STRong 有意扰动 TRIM 基于修剪的算法 ULP 通用试金石
摘要 - 随着大型模型的整合,尤其是那些采用深度学习技术的集成,气象预测的领域已经发生了重大的转变。本文回顾了这些模型在天气预测中的进步和应用,强调了它们在转变传统预测方法中的作用。诸如FourcastNet,Pangu-Weather,Graphcast,Climax和Fengwu之类的模型通过提供准确的高分辨率预测,超出了传统数值天气预测(NWP)模型的功能,从而做出了明显的贡献。这些模型利用先进的神经网络体系结构,例如卷积神经网络(CNN),图形神经网络(GNN)和变压器来处理各种气象数据,从而提高了各种时间尺度和空间分辨率的预测准确性。本文解决了该领域中的挑战,包括数据获取和计算需求,并探讨了模型优化和硬件进步的未来机会。它强调了人工智能与常规气象技术的整合,有望提高的天气预测准确性,并为应对与气候相关的挑战做出了重要贡献。这种协同位置将大型模型视为在气象预测不断发展的景观中的关键。
人工智能辅助药物发现 (AIDD) 因其能够使新药搜索更快、更便宜、更有效而越来越受欢迎。尽管它广泛应用于众多领域(例如 ADMET 预测、虚拟筛选),但对带噪声的分布外 (OOD) 学习问题的研究却很少。我们提出了 DrugOOD,一个系统的 OOD 数据集管理和 AIDD 基准。具体来说,我们专注于药物-靶标结合亲和力预测问题,其中涉及大分子(蛋白质靶标)和小分子(药物化合物)。DrugOOD 提供了一个自动化的数据集管理者,具有用户友好的自定义脚本、与生物化学知识一致的丰富领域注释、逼真的噪声水平注释以及 SOTA OOD 算法的严格基准测试,而不是仅提供固定数据集。由于分子数据通常使用图神经网络 (GNN) 主干建模为不规则图,因此 DrugOOD 还可作为图 OOD 学习问题的宝贵试验台。大量的实证研究表明,分布内和分布外实验之间存在显著的性能差距,这强调了需要开发更有效的方案,以允许 AIDD 在噪声下进行 OOD 泛化。