详细内容或原文请订阅后点击阅览
极其简单的自蒸馏改进了代码生成
大型语言模型 (LLM) 能否在没有验证器、教师模型或强化学习的情况下仅使用其自己的原始输出来改进代码生成？我们通过简单自蒸馏（SSD）给出肯定的答案：从具有特定温度和截断配置的模型中抽取样本解决方案，然后使用标准监督微调对这些样本进行微调。 SSD 在 LiveCodeBench v6 上将 Qwen3-30B-Instruct 从 42.4% 提高到 55.3% pass@1，收益主要集中在更难的问题上，并且它在 4B、8B 和 30B 规模的 Qwen 和 Llama 模型上进行了推广，包括......
来源:Apple机器学习研究大型语言模型 (LLM) 能否在没有验证器、教师模型或强化学习的情况下仅使用其自己的原始输出来改进代码生成？我们通过简单自蒸馏（SSD）给出肯定的答案：从具有特定温度和截断配置的模型中抽取样本解决方案，然后使用标准监督微调对这些样本进行微调。 SSD 将 Qwen3-30B-Instruct 在 LiveCodeBench v6 上的 pass@1 从 42.4% 提高到 55.3%，收益主要集中在更难的问题上，并且它在 4B、8B 和 30B 规模上泛化了 Qwen 和 Llama 模型，包括指令和思维变体。为了理解为什么这样一个简单的方法可以发挥作用，我们将这些收益追溯到 LLM 解码中的精度探索冲突，并表明 SSD 以上下文相关的方式重塑令牌分布，在精度很重要的情况下抑制干扰尾部，同时在探索很重要的情况下保留有用的多样性。总而言之，SSD 为改进 LLM 代码生成提供了补充的训练后方向。