跳到正文
AGI Hunt· simonguozirui·· 2 小时前AI 评分46

Inkling stable reinforce(SC)开源 RL 训练细节:FP4 权重与 8 分钟长 rollout 仍稳定

开源 RL 大规模训练细节:FP4 权重加 8 分钟长 rollout 仍稳定

AI 导读

Inkling 的 stable reinforce(SC)训练方法可缓解策略滞后(stale policy),即使 rollout 平均时长达 8 分钟、尾部样本更长,训练仍保持稳定。训练与采样均使用 FP4 权重,KV cache 同样采用 FP4;该方法此前尚未有人尝试。

来源:AGI Hunt · agihunt.info