神经网络是强大的函数估计器,这使其成为结构化数据建模的首选范例。然而,与其他强调问题模块性的结构化表示(例如因子图)不同,神经网络通常是从输入到输出的整体映射,具有固定的计算顺序。这一限制使它们无法捕捉不同方向的计算以及建模变量之间的交互。在本文中,我们结合因子图和神经网络的表示优势,提出了无向神经网络(UNN):一个灵活的框架,用于指定可按任何顺序执行的计算。对于特定的选择,我们提出的模型包含并扩展了许多现有架构:前馈网络、循环网络、自注意网络、自动编码器和具有隐式层的网络。我们展示了无向神经架构(包括非结构化和结构化)在一系列任务上的有效性:树约束依赖性解析、卷积图像分类和注意序列完成。通过改变计算顺序,我们展示了如何将单个 UNN 用作分类器和原型生成器,以及如何填充输入序列的缺失部分,使其成为进一步研究的一个有前途的领域。
主要关键词