社区笔记证伪 MoE 模型中远距离 token 不共享专家的说法

一条社区笔记证伪了 MoE 模型中相距很远的 token 不会路由到同一专家的说法。该争论由 Nathan Young 引述 Goodfire AI 的 Nick Cammarata 与社区笔记观点，相关背景还介绍了支持在文章和 YouTube 视频上叠加注释的 Common Notes 浏览器扩展。