AGI Hunt· Perfect_Power815·· 1 小时前AI 评分50
按 α 插值混合 Qwen2.5-7B 与 SimpleRL-Zoo-7B 权重,找回 RL 微调丢失的多样性
按 α 插值混合 base 与 RL 权重,找回 RL 微调丢掉的多样性
AI 导读
作者通过按 α 插值混合 Qwen2.5-7B 与 SimpleRL-Zoo-7B 的 checkpoint,在六个数学基准上研究了 RL 微调模型性能与输出多样性的权衡。
来源:AGI Hunt · agihunt.info