Loading...
机构名称:
¥ 1.0

人工神经网络是强大的机器学习系统。然而,如果权重数量过多,接近于零,网络就会变得不必要地庞大和沉重。稀疏模型会删除冗余权重,旨在以最小的准确度损失减少参数数量。稀疏进化训练过程会自适应地进化人工神经网络拓扑的权重。事实证明,这种技术可以删除大量权重,并实现比非进化或密集连接的对应技术更高的准确度,尽管连接的添加和删除遵循相对简单的算法。受人类大脑突触修剪的启发,我们提出了一种稀疏进化训练算法中权重进化的高级方法。我们建议在训练阶段随着准确度的提高逐渐删除连接。我们表明,参数数量可以显著减少,而准确度几乎不会损失,额外的计算复杂性可以忽略不计。我们在基准图像和表格数据集上训练的多层感知器上展示了该算法的性能。这项研究有助于理解稀疏人工神经网络,并朝着更高效的模型迈出了一步。

稀疏人工神经网络:自适应性能 - ...

稀疏人工神经网络:自适应性能 - ...PDF文件第1页

稀疏人工神经网络:自适应性能 - ...PDF文件第2页

稀疏人工神经网络:自适应性能 - ...PDF文件第3页

稀疏人工神经网络:自适应性能 - ...PDF文件第4页

稀疏人工神经网络:自适应性能 - ...PDF文件第5页

相关文件推荐

2022 年
¥1.0