跳到正文
AGI Hunt· jiqizhixin·· 2 小时前AI 评分35

港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈

港科大联手华为提出 BalanceRoute,破解 MoE 推理负载均衡瓶颈

AI 导读

港科大周子捷团队与华为 2012 实验室理论部提出 BalanceRoute,将分布式 MoE 解码中的同步等待问题数学化建模,并通过短期负载预测制定在线路由决策,缓解数据并行下的负载不均瓶颈。该方案被 NeurIPS 2026 接收,论文编号为 ArXiv 2605.06113。

来源:AGI Hunt · agihunt.info