生成和对比图表示学习

图表上的自我监督学习(SSL)生成节点和图表表示(即嵌入),可用于下游任务,例如节点分类,节点群集和链接预测。 Graph SSL在有限或没有标记数据的方案中特别有用。现有的SSL方法主要遵循对比度或生成范式,在不同的任务中均出色:对比方法通常在分类任务上表现良好,而生成方法通常在链接预测中表现出色。在本文中,我们提出了一个集成的图形SSL的新颖架构……

来源:Apple机器学习研究

图表上的自我监督学习(SSL)生成节点和图表表示(即嵌入),可用于下游任务,例如节点分类,节点群集和链接预测。 Graph SSL在有限或没有标记数据的方案中特别有用。现有的SSL方法主要遵循对比度或生成范式,在不同的任务中均出色:对比方法通常在分类任务上表现良好,而生成方法通常在链接预测中表现出色。在本文中,我们介绍了图形SSL的新型体系结构,该架构整合了两种方法的优势。我们的框架介绍了社区感知的节点级对比度学习,提供了更强大,更有效的正面和负节点对的生成,以及图形对比度学习以捕获全球语义信息。此外,我们采用了一种全面的增强策略,该策略结合了特征掩盖,节点扰动和边缘扰动,从而实现了强大而多样的表示学习。通过合并这些增强功能,我们的模型可以在多个任务中实现出色的性能,包括节点分类,聚类和链接预测。对开放基准数据集的评估表明,我们的模型优于最先进的方法,根据任务和数据集的规定,达到0.23%-2.01%的性能提升。