详细内容或原文请订阅后点击阅览
BoolFormer：具有变压器逻辑函数的符号回归
本文在ICML 2025的第二个AI上接受了数学研讨会。我们介绍了BoolFormer，这是一种基于变压器的模型，该模型训练有素，旨在执行布尔函数的端到端符号回归。首先，我们证明它可以预测鉴于其完整的真相表，可以预测训练期间未见的复杂功能的紧凑型公式。然后，我们证明，即使有不完整或嘈杂的观察，Boolformer仍然能够找到良好的近似表达式。我们在广泛的现实二进制分类数据集上评估了布尔形式，证明了其作为可解释的替代方案的潜力……
来源:Apple机器学习研究本文在ICML 2025的第二个AI上接受了数学研讨会。
我们介绍了BoolFormer，这是一种基于变压器的模型，该模型训练有素，可以执行布尔函数的端到端符号回归。首先，我们证明它可以预测鉴于其完整的真相表，可以预测训练期间未见的复杂功能的紧凑型公式。然后，我们证明，即使有不完整或嘈杂的观察，Boolformer仍然能够找到良好的近似表达式。我们在广泛的现实世界二进制分类数据集上评估了布尔形式，证明了其作为经典机器学习方法的可解释替代品的潜力。最后，我们将其应用于建模基因调节网络动力学的广泛任务，并通过基准表明Boolformer与最先进的遗传算法具有竞争力，并加快了几个数量级。我们的代码和模型可公开使用。
- *同等贡献†écolePolytechniquefédéraledeLausanne（EPFL）•基础科学学院（SB），计算研究所（IC），EPFL