机构名称：
¥ 2.0
1.3 问题的历史。1988 年，Baum [ 6 ] 提出了该问题的一个版本。在 Cover [ 8 ] 早期工作的基础上，Baum 研究了多层感知器的记忆容量，即具有阈值激活函数的前馈神经结构。他首先研究了网络结构 [ n, m, 1]，其中一个隐藏层由 m 个节点组成（并且，如符号所示，隐藏层中有 n 个节点和一个输出节点）。Baum 注意到，对于 R n 中一般位置的数据点 xk，结构 [ n, m, 1] 的记忆容量约为 nm ，即它与连接数成正比。这并不难：一般位置保证任何 n 个数据点子集所跨越的超平面不会错过任何其他数据点；这允许人们在其自己的 n 个数据点批次上训练隐藏层中的 m 个神经元中的每一个。Baum 然后问同样的现象是否仍然存在于更深的神经网络中。他问，对于较大的 K，是否存在一个深度神经结构，其总数为 O（√
具有阈值和...的神经网络的记忆容量
主要关键词
相关文件推荐
