跳到正文
AGI Hunt· heghbalz·· 1 小时前AI 评分47

随机舍入让 BF16 强化学习后训练收敛速度追平 FP16

AI 导读

随机舍入将 FP32 shadow weights 转为 BF16 后,BF16 RL 后训练的收敛速度可与 FP16 相当。相同学习率下,普通 BF16 明显滞后;主要瓶颈是权重更新的舍入误差,而非前后端 logprobs 不一致。随机舍入为降低显存与带宽成本提供了可行路径。

来源:AGI Hunt · agihunt.info