Hacker News front page· pretext·· 2 小时前精选AI 评分78
百度发布 ERNIE-5.5-Flash-Base 基础模型
Baidu released ERNIE 5.5 Flash Base
AI 导读
百度发布 ERNIE-5.5-Flash-Base,一款总参数量 280B、每个 token 激活 14B 参数的稀疏 MoE 语言模型。模型使用 33.5T tokens 从零预训练,训练上下文最高 128K,微调和推理支持 1M-token 上下文,权重以 FP8 和 BF16 safetensors 形式发布在 Hugging Face。
推荐理由
公开了基础权重、架构细节、训练配置和同规模模型评测,便于开发者评估二次训练与部署成本。
来源:Hacker News front page · ernie.baidu.com