关联内存或内容可寻址内存是计算机科学和信息处理中的重要组成函数,同时它是认知和计算脑科学中的关键概念。已经提出了许多不同的神经网络架构和学习规则,以模拟大脑的关联记忆,同时研究关键组件功能,例如模式完成和竞争以及降低噪声。较少研究但同样重要的主动记忆功能是原型提取,其中训练集包括通过扭曲原型模式而生成的模式实例,而训练有素的网络的任务是回忆给定新实例的生成原型。在本文中,我们基于非模块化和模块化重复网络中使用的七个不同HEBBIAN学习规则的关联记忆功能,并在中度稀疏的二进制模式下进行赢家摄取的全部动态操作。总体而言,我们发现模块化网络具有最大的存储器为模式存储容量。流行的标准HEBB规则以最差的能力出现,而协方差学习则证明是强大但容量较低的,并且在测试的不同条件下,贝叶斯 - 赫比亚规则显示出最高的模式存储能力。
主要关键词