AIR 调度器：按有效学习率设计，128B token MoE 预训练超越 cosine

复旦团队发布 arXiv 论文并提出 AIR 调度器，以有效学习率 ELR 而非名义学习率作为调度目标。AIR 融合理论推导的 1/√t 衰减与仿射调整，在 128B token 的 MoE 预训练中优于 cosine 等调度，同等累计 LR 下终端损失降低约 0.01；将同一 ELR 轨迹用于 WD 也可复现收益。