AGI Hunt· simonguozirui·· 2 小时前AI 评分46
Inkling stable reinforce(SC)开源 RL 训练细节:FP4 权重与 8 分钟长 rollout 仍稳定
开源 RL 大规模训练细节:FP4 权重加 8 分钟长 rollout 仍稳定
AI 导读
Inkling 的 stable reinforce(SC)训练方法可缓解策略滞后(stale policy),即使 rollout 平均时长达 8 分钟、尾部样本更长,训练仍保持稳定。训练与采样均使用 FP4 权重,KV cache 同样采用 FP4;该方法此前尚未有人尝试。
来源:AGI Hunt · agihunt.info