AGI Hunt· teortaxesTex·· 3 小时前AI 评分47
REINFORCE Zero:训练-推理不变性让异步 LLM RL 稳定跑满 2 万次更新
REINFORCE Zero:训练-推理不变性让异步 LLM RL 稳定跑满 2 万次更新
AI 导读
研究者提出 REINFORCE Zero,通过保持训练-推理不变性(TII)、使用不截断的 token 级 IS 比率和极简 loss,使纯 REINFORCE 稳定训练 LLM 强化学习。
来源:AGI Hunt · agihunt.info