微软完成MAI Base 2预训练
热点事件持续更新
微软完成MAI Base 2预训练
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
微软AI宣布完成MAI Base 2混合专家模型预训练;该模型总参数2.8T、每次推理激活80B参数,微软称其在留出评测中超过被测开源权重模型,预训练计算效率较DeepSeek-V4-Pro-Base高4至12倍。 微软研究人员还表示,其视觉编码器方案无需单独进行编码器预训练,可减少相关开销。
AI 根据报道生成 · 49 分钟前更新
最新进展11月16日 17:35
微软发布 MAI Base 2:80B 激活参数、2.8T 总参数的 MoE 基座模型报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AGI Hunt微软发布 MAI Base 2:80B 激活参数、2.8T 总参数的 MoE 基座模型
微软 AI 宣布完成 MAI Base 2 的预训练,采用 80B 激活参数、2.8T 总参数的 MoE 架构。该模型在 held-out 评测中超过被测开源权重模型,预训练 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4-12 倍,研究者还提到其视觉编码器方案可省去编码器预训练开销。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。