AGI Hunt· _akhaliq·· 3 小时前AI 评分48
字节跳动 Seed 开源 Qwen3-30B-A3B-MoE-SAE,揭示 MoE 专家细粒度分工
字节跳动开源 Qwen3-30B 稀疏自编码器,揭示 MoE 专家有细粒度可解释分工
AI 导读
字节跳动 Seed 团队在 Hugging Face 开源 Qwen3-30B-A3B 的 MoE 输出层稀疏自编码器(ByteDance-Seed/Qwen3-30B-A3B-MoE-SAE),用于分析 MoE 专家的细粒度专业化分工。
来源:AGI Hunt · agihunt.info