腾讯发布 MoE 路由贡献剪枝论文：减少约 25% 参数，性能下降 2-9%

腾讯团队发布论文《Understanding Mixture-of-Experts Language Models Beyond Expert Boundaries》，提出依据路由贡献剪枝 MoE 神经元。研究显示，该方法可削减约 25% 的参数，模型性能仅下降 2-9%，仍保留 91-98% 的原始能力，为 MoE 模型高效压缩提供新思路。