为了了解大脑功能和精神障碍,人脑通常被建模为感兴趣区域 (ROI) 及其连接的网络。最近,基于 Transformer 的模型已经针对不同类型的数据(包括图)进行了研究,结果显示可广泛提高性能。在这项工作中,我们研究了基于 Transformer 的大脑网络分析模型。在数据的独特属性的驱动下,我们将大脑网络建模为具有固定大小和顺序的节点的图,这使我们能够 (1) 使用连接配置文件作为节点特征来提供自然且低成本的位置信息,以及 (2) 学习 ROI 之间的成对连接强度,并在个体之间使用有效的注意力权重,从而对下游分析任务具有预测性。此外,我们提出了一种基于自监督软聚类和正交投影的正交聚类读取操作。该设计考虑了决定 ROI 组之间相似行为的底层功能模块,从而产生可区分的聚类感知节点嵌入和信息图嵌入。最后,我们在唯一一个公开可用的大型脑网络数据集 ABIDE 上重新标准化了评估流程,以便对不同的模型进行有意义的比较。实验结果表明,我们提出的 B RAIN N ETWORK T TRANSFORMER 在公开的 ABIDE 和我们受限的 ABCD 数据集上都有明显的改进。实现可在 https://github.com/Wayfear/BrainNetworkTransformer 上获得。
主要关键词