AGI Hunt· samsja19·· 3 小时前AI 评分59
Prime Intellect 发布 Prime Mega MoE,DeepSeek MoE 训练最高提速 55%
Prime Intellect 把 DeepSeek MegaMoE 做成可训练,MoE 训练提速最高 55%
AI 导读
Prime Intellect 发布 Prime Mega MoE,将 DeepSeek 的 MegaMoE 内核改造为可训练版本,通过融合 MoE 层计算与通信并补充 backward 内核加快训练。
来源:AGI Hunt · agihunt.info