最佳图神经网络架构:GCN、GAT、MPNN 等

探索最流行的 gnn 架构,例如 gcn、gat、mpnn、graphsage 和时间图网络

来源:AI夏令营

传统上,深度学习应用(例如计算机视觉和 NLP)中的数据集通常以欧几里得空间表示。但最近,越来越多的非欧几里得数据以图形表示。

为此,图神经网络 (GNN) 是一种将深度学习技术应用于图形的努力。术语 GNN 通常指各种不同的算法,而不是单一的架构。正如我们将看到的,多年来已经开发了大量不同的架构。为了让您提前预览,这里有一张图表,展示了该领域最重要的论文。该图借鉴了 Zhou J. 等人最近发表的一篇关于 GNN 的评论论文。

来源:图神经网络:方法和应用回顾

来源:图神经网络:方法和应用回顾

在深入研究不同类型的架构之前,让我们先了解一些基本原理和一些符号。

图的基本原理和符号

图由一组节点和一组边组成。节点和边都可以有一组特征。从现在开始,节点的特征向量将表示为 hih_ihi​,其中 iii 是节点的索引。类似地,边的特征向量将表示为 eije_{ij}eij​,其中 iii、jjj 是边所连接的节点。

hih_ihi​ hih_ihi​ hih_i hih_i hih_i hi hi h i h_i hi​ hi​ hi​ h i​ i​ i​ i i i i ​ iii iii ii ii ii i i i i i i eije_{ij}eij​ eije_{ij}eij​ < div> eije_{ij} hi​ h i​ i​ i​ i i i i iii iii ii ii ii i i i i i i eije_{ij}eij​ eije_{ij}eij​ eije_{ij} eije_{ij} eij eij e ij i j e_{ij} eij​ eij​ eij​ e ij​ ij​ ij​ ij ij ij ij i j > ​ iii iii ii ii ii i i i i i i jjj jjj jj jj jj j j j j j j 您可能还知道,图可以是有向的、无向的、加权的和加权的。因此,每种架构可能仅适用于一种类型的图或所有类型的图。 那么我们可以开始开发图神经网络了吗? 图卷积。 图卷积 xix_ixi​ xix_ixi​ xix_i xix_i xix_i xi xi x i x_i ​ xi​ xi​ x i​ i​ i​ i i i i ​ hih_ihi​ hih_ihi​ hih_i hih_i hih_i hi hi h i h_i hi​ hi​ hi​ h i​ i​ i​ i i i i ​ iii iii ii ii ii i i i i i i jjj jjj jj jj jj j j j j j j 您可能还知道,图可以是有向的、无向的、加权的和加权的。因此,每种架构可能仅适用于一种类型的图或所有类型的图。

那么我们可以开始开发图神经网络了吗?

图卷积。

图卷积

xix_ixi​

xix_ixi​ xix_i xix_i xix_i xi xi x i x_i xi​ xi​ x i​ i​ i​ i i i i hih_ihi​ hih_ihi​ hih_i hih_i hih_i hi hi h i h_i hi​ hi​ hi​ h i​ i​ i​ i i i i ​ hi​ h i​ i​ i​ i i i i

直观地表示如下:

  • 节点分类
  • 节点分类

    fff fff ff