Hugging Face 免费发布 MoE 训练手册，附 80 万 GPU 小时实验经验

Hugging Face 发布免费开放的《The Ultimate MoE Training Handbook》，汇集团队投入 80 万 GPU 小时取得的 MoE 训练经验。手册约 7 万词，含 55 个交互式图表与代码，涵盖专家规模规划、all-to-all 通信优化、路由故障排查、checkpoint 升级和推理时专家裁剪等问题。