近年来,双重方法已经非常受欢迎,可以在机器学习模型的有效估计高维超参数上。迄今为止,二进制pa-Rameters是通过连续放松和四舍五入策略来处理的,这可能导致解决方案不一致。在这种情况下,我们通过基于适当的罚款术语求助于等效的连续二线重新构造,以应对混合二元超参数的挑战优化。我们提出了一个算法框架,在合适的假设下,可以保证提供混合二进制解决方案。此外,该方法的一般性允许在提议的框架内安全地使用现有的连续折叠求解器。我们评估了两个特定的机器学习问题的方法的性能,即,回归问题中的群 - 符号结构的估计和数据蒸馏问题。报告的结果表明,我们的方法具有基于放松和舍入的最新方法竞争。
主要关键词