AGI Hunt· teortaxesTex·· 2 小时前精选AI 评分77
百度发布并开源 ERNIE 5.5 Flash,支持 1M 上下文
百度开源 ERNIE 5.5 Flash:280B 总参仅激活 14B,支持 1M 上下文
AI 导读
百度发布并开源 ERNIE 5.5 Flash,这是一款 280B 总参数、仅激活 14B 的 MoE 模型,支持 1M 上下文。模型采用 43 层骨干、Muon 优化器从零预训练 33.5T tokens,并以 FP8/BF16 safensors 权重上架 Hugging Face 和 ModelScope。
推荐理由
模型参数规模、稀疏架构与上下文能力均已披露,便于读者对照其设计取舍和部署成本。
来源:AGI Hunt · agihunt.info