机构名称：
¥ 1.0
摘要 - 可变性的绑定是象征性的和认知的基石。但是，在连接主义模型中如何实现约束力使神经科学家，认知心理学家和神经网络研究人员困惑。自然包含绑定操作的一种连接主义模型是向量符号体系结构（VSA）。与其他有关可变结合的建议相反，VSA中的结合操作是维度具有维护性的，它可以代表复杂的层次数据结构，例如树，同时避免尺寸的组合扩展。经典的VSA通过密集的随机矢量编码符号，其中信息分布在整个神经元种群中。相比之下，在大脑中，特征在单个神经元或小组神经元的活性中更局部编码，通常形成神经激活的稀疏载体。遵循Laiho等人。（2015），我们探索了符号推理，并具有稀疏分布式表示的特殊情况。使用来自压制感应的技术，我们首先表明经典VSA中的可变结合在数学上等同于稀疏特征向量之间的张量产品结合，这是另一个众所周知的结合操作，从而增加了维度。这种理论上的结果促使我们研究了二维保护的结合方法，其中包括将张量矩阵减少到单个稀疏向量中。一种通用稀疏矢量的一种结合方法使用随机投影，另一种块状圆形卷积，对于具有块结构，稀疏块编码的稀疏向量定义。我们的实验表明，块 - 本地卷积卷积结合具有理想特性，而基于随机投影的结合也有效，但是有损的。我们在示例应用中证明了具有块圆形圆形卷积和稀疏块码的VSA的性能与经典VSA相似。最后，我们在神经科学和神经网络的背景下讨论了我们的结果。
稀疏分布式表示的可变绑定
主要关键词
相关文件推荐
