CMU 新研究：模型合并与嫁接让 LLM 持续学习吸收 off-policy 数据并保留旧能力

CMU 研究团队提出模型合并与 grafting（嫁接）方法，让后训练 LLM 吸收 off-policy 数据并减少旧能力遗忘。简单模型合并可强化 off-policy SFT，基于早期 checkpoint 学习后再迁移至后训练模型的方法基本消除遗忘，并在困难数学、自我改进和知识注入任务中取得提升，代码已开源至 GitHub。