bf16舍入或丢弃多数RL更新
热点事件持续更新
bf16舍入或丢弃多数RL更新
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
斯坦福论文《bf16 Rounding Silently Discards Most RL Policy Updates》指出，大语言模型强化学习后训练将权重舍入为bf16时，可能静默丢失多数单步策略更新；在Qwen3-1.7B实验中，每步只有0.4%—0.5%的服务权重实际变化。 作者提出名为“Fair Cast”的修复：主权重导出时采用随机舍入或误差反馈等无偏舍入，并在服务副本上计算训练损失。论文称，该方案只需修改导出处一行代码；在Qwen3-0.6B至4B模型、AdamW和Muon的25组配对种子实验中，18胜6平1负，平均提高6.1分。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 23:17
斯坦福论文揭示 bf16 舍入丢失 RL 更新，一行代码修复报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- AGI Hunt斯坦福论文揭示 bf16 舍入丢失 RL 更新，一行代码修复
论文《bf16 Rounding Silently Discards Most RL Policy Updates》指出，LLM 强化学习后训练中，bf16 舍入可能丢弃大部分单步策略更新，在 Qwen3-1.7B 上每步仅有 0.4–0.5% 的 served 权重发生变化。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。