AGI Hunt· _AndrewZhao·· 3 小时前AI 评分55
斯坦福论文揭示 bf16 舍入丢失 RL 更新,一行代码修复
斯坦福论文:bf16 舍入悄悄丢弃大部分 RL 更新,一行代码修复
AI 导读
论文《bf16 Rounding Silently Discards Most RL Policy Updates》指出,LLM 强化学习后训练中,bf16 舍入可能丢弃大部分单步策略更新,在 Qwen3-1.7B 上每步仅有 0.4–0.5% 的 served 权重发生变化。
来源:AGI Hunt · agihunt.info