DeepSeek-V3 学习率计划拆解：预热、峰值、余弦衰减与退火四阶段

DeepSeek-V3 的 14.8T tokens 预训练采用四阶段学习率计划，依次为预热、峰值、余弦衰减和最终退火。峰值学习率 2.2×10⁻⁴ 维持至约 10T tokens，余弦衰减后在约 14.3T 处降至 2.2×10⁻⁵，最后 167B tokens 降至 7.3×10⁻⁶ 以完成收敛。