大模型训练崩盘实录：梯度跳至 164 万、loss 飙至 12.17

François Fleuret 转发了一段大模型预训练日志，记录一次 run 被停止并废弃的失稳过程。首次大梯度跳变出现在第 996 步，第 1004 步梯度冲到 164 万，五步后 loss 峰值达 12.17，显示梯度尖峰出现后约十步便遭遇 loss 崩溃，凸显大规模训练中监控与及时止损的必要性。