机构名称：
¥ 1.0
权重共享是卷积神经网络及其成功背后的支柱之一。然而，在大脑等物理神经系统中，权重共享是不切实际的。这种差异提出了一个基本问题：权重共享是否必要。如果是，精度要达到什么程度？如果不是，有什么替代方案？本研究的目的是调查这些问题，主要通过放宽权重共享假设的模拟。从神经回路中汲取灵感，我们探索了自由卷积网络和具有可变连接模式的神经元的使用。使用自由卷积网络，我们表明，虽然权重共享是一种实用的优化方法，但它并不是计算机视觉应用中的必需品。此外，当使用正确翻译的数据（类似于视频）进行训练时，自由卷积网络的性能与标准架构中观察到的性能相匹配。在平移增强数据的假设下，自由卷积网络学习平移不变的表示，从而产生一种近似形式的权重共享。© 2020 作者。由 Elsevier Ltd. 出版。这是一篇根据 CC BY-NC-ND 许可协议 ( http://creativecommons.org/licenses/by-nc-nd/4.0/ ) 开放获取的文章。
机器学习中的神经网络：共享还是不共享......
主要关键词
相关文件推荐
