ApexW 优化器开源，大张量训练提速

ApexW 开发者发布并开源了面向 PyTorch 的优化器 ApexW，通过紧凑的优化器状态和 Triton 执行路径，在大张量负载下较 PyTorch fused AdamW 快约 1.5 倍，状态内存约减半，可缓解大模型微调时的显存压力。 其优势依赖张量规模与布局：在 1.28 亿参数的碎片化小张量场景中，ApexW 每步耗时 76.0 毫秒，慢于 PyTorch 原生的 16.1 毫秒；自动执行模式也尚未稳定复现相同加速。项目代码已在 GitHub 开放，开发者正征集基准测试和实现反馈。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。