跳到正文
AGI Hunt· Perfect_Power815·· 1 小时前AI 评分50

按 α 插值混合 Qwen2.5-7B 与 SimpleRL-Zoo-7B 权重,找回 RL 微调丢失的多样性

按 α 插值混合 base 与 RL 权重,找回 RL 微调丢掉的多样性

AI 导读

作者通过按 α 插值混合 Qwen2.5-7B 与 SimpleRL-Zoo-7B 的 checkpoint,在六个数学基准上研究了 RL 微调模型性能与输出多样性的权衡。

来源:AGI Hunt · agihunt.info