机构名称：
¥ 1.0
摘要 — 大自然一直启发着人类精神，科学家经常根据对大自然的观察开发新方法。成像和传感技术的最新进展使人们对生物神经过程有了更深入的了解。为了找到增强神经网络学习能力的新策略，我们专注于一种与生物神经网络中的学习任务和神经稳定性密切相关的现象，即稳态可塑性。在描述稳态可塑性的理论中，突触缩放被发现是最成熟和最适用的。我们系统地讨论了关于突触缩放理论的先前研究及其如何应用于人工神经网络。因此，我们利用信息论来分析评估突触缩放如何影响互信息。基于这些分析结果，我们提出了两种在简单和复杂、前馈和循环神经网络的训练过程中应用突触缩放的方式。我们在标准基准上将我们的方法与最先进的正则化技术进行了比较。我们发现，在广泛的网络前馈和循环拓扑和数据集上的实验中，与之前的正则化方法相比，所提出的方法在回归和分类任务中产生的误差最低。
突触缩放——一种人工神经网络...
主要关键词
相关文件推荐
