跳到正文
AGI Hunt· _akhaliq·· 3 小时前AI 评分48

字节跳动 Seed 开源 Qwen3-30B-A3B-MoE-SAE,揭示 MoE 专家细粒度分工

字节跳动开源 Qwen3-30B 稀疏自编码器,揭示 MoE 专家有细粒度可解释分工

AI 导读

字节跳动 Seed 团队在 Hugging Face 开源 Qwen3-30B-A3B 的 MoE 输出层稀疏自编码器(ByteDance-Seed/Qwen3-30B-A3B-MoE-SAE),用于分析 MoE 专家的细粒度专业化分工。

来源:AGI Hunt · agihunt.info