社区笔记反驳MoE远距token不共享专家说法

一篇社区笔记反驳了MoE模型中相距很远的token不会路由到同一专家的说法，相关争论由Nathan Young引述Goodfire AI的Nick Cammarata及社区笔记观点引发。报道没有披露笔记所采用的实验方法，但将其结论表述为对该说法的证伪。

AI 根据报道生成 · 54 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。