ICLR 论文实证验证 AdamW 批大小缩放法则：LR 与 WD 同按 √k 缩放

一篇 ICLR 2026 论文通过实验验证了 AdamW 批大小缩放法则：批大小 B→B×k 时，LR→LR×√k、WD→WD×√k。该法则来自《Adaptive Methods through the Lens of SDEs》的 Lemma 3.13，并规定动量系数 βᵢ→1−√k×(1−βᵢ)。