AGI Hunt· cwolferesearch·· 3 小时前AI 评分62
Base Labs 研究 RL 前 SFT 蒸馏对 Qwen 模型表现的影响
Base Labs 实验：RL 前 SFT 蒸馏对大模型可能有害无益
AI 导读
Base Labs 研究了 RL 前使用 GPT-5.6-Sol 教师模型的思维链进行 SFT 蒸馏，对 0.6B–8B Qwen 模型后续 RL 训练的影响。
来源：AGI Hunt · agihunt.info
Base Labs 研究 RL 前 SFT 蒸馏对 Qwen 模型表现的影响