机构名称：
¥ 5.0
在本文中，我们从现代 Hopfield 模型的角度研究表格学习。具体来说，我们使用广义稀疏的现代 Hopfield 模型来学习表格数据表示和预测。在这项工作中，引入了 BiSHop（双向 S 分析 Hop 场模型）作为端到端表格学习的创新框架，解决了深度表格学习中的两个挑战：非旋转不变数据结构和特征稀疏性。受到联想记忆和注意力机制之间新建立的联系的启发，BiSHop 采用了双组分策略。它通过双向学习模块按列和按行顺序处理数据，每个模块都配备广义稀疏 Hopfield 层。这些层通过引入可学习的稀疏性扩展了传统的 Hopfield 模型。从方法论上讲，BiSHop 支持多尺度表示学习，能够有效地捕捉特征内和特征间的交互，并在各种尺度上具有自适应稀疏性。在各种真实世界数据集上进行的经验验证表明，BiSHop 以更少的超参数优化 (HPO) 运行超越了当前最先进的方法的性能，标志着深度表格学习的重大进步。
深度表格学习的现代 Hopfield 模型
主要关键词
相关文件推荐
