Hopfield 网络是一种人工神经网络,它通过选择循环连接权重和更新规则将记忆模式存储在神经元的状态中,使得网络的能量景观在记忆周围形成吸引子。我们可以在这种使用 N 个神经元的网络中存储多少个稳定、足够吸引人的记忆模式?答案取决于权重和更新规则的选择。受生物学中集合连通性的启发,我们通过添加集合连接并将这些连接嵌入到单纯复形中来扩展 Hopfield 网络。单纯复形是图的高维类似物,它自然地表示成对和成组关系的集合。我们表明,我们的单纯 Hopfield 网络增加了记忆存储容量。令人惊讶的是,即使连接仅限于与全成对网络大小相同的小随机子集,我们的网络仍然优于成对网络。这样的场景包括非平凡的单纯拓扑。我们还测试了类似的现代连续 Hopfield 网络,为改进 Transformer 模型中的注意力机制提供了一条潜在的有希望的途径。
兴趣使他走出了物理学同事们的工作领域,并搬到了整个大陆。• 他接受了加州理工学院化学和生物学教授的职位。• 在那里,他可以免费使用计算机资源
在本文中,我们从现代 Hopfield 模型的角度研究表格学习。具体来说,我们使用广义稀疏的现代 Hopfield 模型来学习表格数据表示和预测。在这项工作中,引入了 BiSHop(双向 S 分析 Hop 场模型)作为端到端表格学习的创新框架,解决了深度表格学习中的两个挑战:非旋转不变数据结构和特征稀疏性。受到联想记忆和注意力机制之间新建立的联系的启发,BiSHop 采用了双组分策略。它通过双向学习模块按列和按行顺序处理数据,每个模块都配备广义稀疏 Hopfield 层。这些层通过引入可学习的稀疏性扩展了传统的 Hopfield 模型。从方法论上讲,BiSHop 支持多尺度表示学习,能够有效地捕捉特征内和特征间的交互,并在各种尺度上具有自适应稀疏性。在各种真实世界数据集上进行的经验验证表明,BiSHop 以更少的超参数优化 (HPO) 运行超越了当前最先进的方法的性能,标志着深度表格学习的重大进步。
现代 Hopfield 网络 (HN) 表现出内容可寻址存储器 (CAM) 的特性,可以存储和检索大量记忆。它们还为人类的联想记忆建模提供了基础。然而,这些网络的实现通常在生物学上是不合理的,因为它们假设突触连接的强度是对称的,并使用依赖于多体突触的功能。已经提出了更具生物学现实性的现代 HN 版本,尽管这些实现通常仍使用软最大值函数。计算单个节点的软最大值需要了解所有其他神经元,因此仍然具有一定程度的生物学不合理性。我们提出了一种现代 HN,它使用可以以更符合生物现实的方式计算的 softmax 版本,因此使我们更接近生物学上合理的记忆模型。我们还表明,我们提出的网络可以使用局部学习规则来学习连接权重,该规则源自能量函数的梯度下降。最后,我们验证了我们提出的生物网络的行为类似于现代 HN,并探索了它的其他一些有趣的特性。
摘要:许多方面对印尼社会的连续性,尤其是梅德人的连续性非常有影响力。影响梅丹人民连续性的方面之一是天气。天气在各个部门(例如农业,航空和许多其他部门)中起着重要作用。印度尼西亚气象,气候学和地球物理机构。(BMKG)一直试图开发其创新,以便能够向公众提供准确的天气信息。为了协助向梅丹市的公众传播天气信息的过程,我们需要使用基于网站的计算机技术的天气预报应用程序,以便可以通过将应用程序与BMKG数据连接到Hopfield方法来轻松有效地传播天气信息。基于本研究的结果,首先要应用Hopfield算法与人工神经网络进行分析,因此成功地构建了天气预报的应用程序,以帮助将梅丹市的天气信息传播到所有希望获取有关天气信息的梅丹城市的天气信息。关键字:BMKG,天气,人工神经网络,Hopfield,网站
• 冯·诺依曼的讲稿。• 比较大脑和数字计算机的架构。• 神经元如何处理精度问题。• 记忆存储的根本区别。
近年来数据的指数增长导致了从多个来源产生的庞大,异质的数据集。大数据应用程序越来越依赖这些数据集来提取知识,以进行预测分析和决策。但是,数据的质量和语义完整性仍然是关键的挑战。在本文中,我们提出了一个受脑启发的分布式认知框架,该框架将深度学习与Hopfield Network集成,以识别和链接多个数据集的语义相关属性。我们的方法对人脑的双半球功能进行了建模,右半球在其中处理并吸收了新信息,而左半球则检索学习的表示形式以建立有意义的关联。认知体系结构在MapReduce框架上运行,并链接存储在Hadoop分布式文件系统(HDFS)中的数据集。通过将深层田网络作为一种关联内存机制纳入,我们的框架可以增强经常同时发生属性的回忆,并根据不断发展的数据使用模式动态调整关系。实验结果表明,随着时间的流逝,霍普菲尔德记忆中具有强大关联烙印的属性会得到加强,而相关性降低的属性逐渐削弱 - 这种现象类似于人类记忆的回忆和遗忘。这种自优化的机制可确保链接的数据集具有上下文有意义,从而提高数据歧义和整体集成精度。我们的发现表明,将深层网络与分布式认知处理范式相结合,为在大规模环境中管理复杂的数据关系提供了可扩展且具有生物学启发的方法。
免责声明本报告是作为美国政府机构赞助的工作的帐户。均未对任何信息,明示或暗示的任何雇员或官员,也没有任何雇员或官员,也不是任何雇员或官员,也不承担任何法律责任或责任,对任何信息的准确性,完整性或有效性,包括任何信息,设备,产品或过程所披露或代表其使用不属于私有权利。 以此处参考任何特定的商业产品,流程或服务,商标,制造商或其他方式不一定构成或暗示其认可,建议或对其任何代理机构的认可,建议或偏爱。 本文所表达的文件作者的观点和观点不一定陈述或反映美国政府或其任何代理机构,Argonne National Laboratory或Uchicago Argonne,LLC。均未对任何信息,明示或暗示的任何雇员或官员,也没有任何雇员或官员,也不是任何雇员或官员,也不承担任何法律责任或责任,对任何信息的准确性,完整性或有效性,包括任何信息,设备,产品或过程所披露或代表其使用不属于私有权利。以此处参考任何特定的商业产品,流程或服务,商标,制造商或其他方式不一定构成或暗示其认可,建议或对其任何代理机构的认可,建议或偏爱。本文所表达的文件作者的观点和观点不一定陈述或反映美国政府或其任何代理机构,Argonne National Laboratory或Uchicago Argonne,LLC。
免责声明本报告是作为美国政府机构赞助的工作的帐户。均未对任何信息,明示或暗示的任何雇员或官员,也没有任何雇员或官员,也不是任何雇员或官员,也不承担任何法律责任或责任,对任何信息的准确性,完整性或有效性,包括任何信息,设备,产品或过程所披露或代表其使用不属于私有权利。 以此处参考任何特定的商业产品,流程或服务,商标,制造商或其他方式不一定构成或暗示其认可,建议或对其任何代理机构的认可,建议或偏爱。 本文所表达的文件作者的观点和观点不一定陈述或反映美国政府或其任何代理机构,Argonne National Laboratory或Uchicago Argonne,LLC。均未对任何信息,明示或暗示的任何雇员或官员,也没有任何雇员或官员,也不是任何雇员或官员,也不承担任何法律责任或责任,对任何信息的准确性,完整性或有效性,包括任何信息,设备,产品或过程所披露或代表其使用不属于私有权利。以此处参考任何特定的商业产品,流程或服务,商标,制造商或其他方式不一定构成或暗示其认可,建议或对其任何代理机构的认可,建议或偏爱。本文所表达的文件作者的观点和观点不一定陈述或反映美国政府或其任何代理机构,Argonne National Laboratory或Uchicago Argonne,LLC。
在神经科学中,经典 Hopfield 网络是标准的生物学上可行的长期记忆模型,它依靠赫布可塑性进行存储,依靠吸引子动力学进行回忆。相比之下,机器学习中的记忆增强神经网络通常使用键值机制来存储和读取记忆,只需一步。与传统变体相比,这种增强网络实现了令人印象深刻的记忆壮举,但它们的生物学相关性尚不清楚。我们提出了一种基本的键值记忆实现,它使用生物学上可行的三因子可塑性规则的组合来存储输入。当网络参数进行元学习时,相同的规则就会恢复。我们的网络在自动联想记忆任务上的表现与经典 Hopfield 网络相当,并且可以自然扩展到持续回忆、异联想记忆和序列学习。我们的结果表明,作为生物长期记忆的模型,经典 Hopfield 网络是一种引人注目的替代方案。