机构名称：
¥ 5.0
稀疏性是一种有用的正则化器，可用于各种应用，尤其是在神经网络中。本文提出了一种针对分类任务的模型，其中稀疏活动和稀疏连接用于增强分类能力。实现此目标的工具是稀疏性强制投影算子，它可以为任何给定向量找到具有预定义稀疏性的最接近向量。在本文的理论部分，开发了这种投影的综合理论。总而言之，结果表明投影几乎在任何地方都是可微的，因此可以实现为平滑的神经元传递函数。因此，可以使用基于梯度的方法端到端调整整个模型。在 MNIST 手写数字数据库上进行的实验表明，稀疏活动或稀疏连接可以提高分类性能。通过两者的结合，与传统的非稀疏方法相比，性能可以显著提高。关键词：监督学习、稀疏投影、稀疏活动、稀疏连接
监督学习中的稀疏活动和稀疏连接
主要关键词
相关文件推荐
