跳到正文
AGI Hunt· teortaxesTex·· 3 小时前AI 评分47

REINFORCE Zero:训练-推理不变性让异步 LLM RL 稳定跑满 2 万次更新

REINFORCE Zero:训练-推理不变性让异步 LLM RL 稳定跑满 2 万次更新

AI 导读

研究者提出 REINFORCE Zero,通过保持训练-推理不变性(TII)、使用不截断的 token 级 IS 比率和极简 loss,使纯 REINFORCE 稳定训练 LLM 强化学习。

来源:AGI Hunt · agihunt.info