跳到正文
AGI Hunt· _AndrewZhao·· 3 小时前AI 评分55

斯坦福论文揭示 bf16 舍入丢失 RL 更新,一行代码修复

斯坦福论文:bf16 舍入悄悄丢弃大部分 RL 更新,一行代码修复

AI 导读

论文《bf16 Rounding Silently Discards Most RL Policy Updates》指出,LLM 强化学习后训练中,bf16 舍入可能丢弃大部分单步策略更新,在 Qwen3-1.7B 上每步仅有 0.4–0.5% 的 served 权重发生变化。

来源:AGI Hunt · agihunt.info