Kimi K3采用分位数均衡路由
热点事件持续更新
Kimi K3采用分位数均衡路由
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Kimi K3据称将每层最多896个MoE路由专家的负载均衡机制，由固定步长的无损失符号更新改为分位数均衡：系统汇总跨GPU的得分直方图，再据此求解各专家的bias，无需人工调节步长。 重复批次测试显示，固定步长方案中最繁忙专家的负载仍比均值高25%，分位数均衡则收敛至8%。这表明该机制意在缩小专家间的负载差异，但其实际效果目前仅见于所述测试。
AI 根据报道生成 · 3 小时前更新
最新进展11月6日 02:39
Kimi K3 用分位数均衡替代固定步长实现 MoE 专家负载均衡报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- AGI HuntKimi K3 用分位数均衡替代固定步长实现 MoE 专家负载均衡
Kimi K3 为每层多达 896 个路由专家改用分位数均衡，通过跨 GPU 汇总的得分直方图求解各专家 bias，无需调节步长。测试重复批次中，符号更新最忙专家仍比均值高 25%，分位数均衡则收敛至 8%；DeepSeek-V4.1-Flash 则为每个模态保留一个 bias。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月6日 03:00
- 近 24 小时变化
- –
02.557.510
03:0004:0005:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。