跳到正文
AGI Hunt· samsja19·· 3 小时前AI 评分59

Prime Intellect 发布 Prime Mega MoE,DeepSeek MoE 训练最高提速 55%

Prime Intellect 把 DeepSeek MegaMoE 做成可训练,MoE 训练提速最高 55%

AI 导读

Prime Intellect 发布 Prime Mega MoE,将 DeepSeek 的 MegaMoE 内核改造为可训练版本,通过融合 MoE 层计算与通信并补充 backward 内核加快训练。

来源:AGI Hunt · agihunt.info