神经网络是强大的函数估计器,这使其成为结构化数据建模的首选范例。然而,与其他强调问题模块性的结构化表示(例如因子图)不同,神经网络通常是从输入到输出的整体映射,具有固定的计算顺序。这一限制使它们无法捕捉不同方向的计算以及建模变量之间的交互。在本文中,我们结合因子图和神经网络的表示优势,提出了无向神经网络(UNN):一个灵活的框架,用于指定可按任何顺序执行的计算。对于特定的选择,我们提出的模型包含并扩展了许多现有架构:前馈网络、循环网络、自注意网络、自动编码器和具有隐式层的网络。我们展示了无向神经架构(包括非结构化和结构化)在一系列任务上的有效性:树约束依赖性解析、卷积图像分类和注意序列完成。通过改变计算顺序,我们展示了如何将单个 UNN 用作分类器和原型生成器,以及如何填充输入序列的缺失部分,使其成为进一步研究的一个有前途的领域。
谱聚类是聚类无向图的一种常用方法,但将其扩展到有向图(有向图)则更具挑战性。一种典型的解决方法是简单地对称化有向图的邻接矩阵,但这可能会导致丢弃边方向性所携带的有价值信息。在本文中,我们提出了一个广义的谱聚类框架,可以处理有向图和无向图。我们的方法基于一个新泛函的谱松弛,我们将其引入为图函数的广义狄利克雷能量,关于图边上的任意正则化测度。我们还提出了一种由图上自然随机游走的迭代幂构建的正则化测度的实用参数化。我们提出了理论论据来解释我们的框架在非平衡类别的挑战性设置中的效率。使用从真实数据集构建的有向 K-NN 图进行的实验表明,我们的图分区方法在所有情况下均表现良好,并且在大多数情况下优于现有方法。