跳到正文
Hacker News front page· pretext·· 2 小时前精选AI 评分78

百度发布 ERNIE-5.5-Flash-Base 基础模型

Baidu released ERNIE 5.5 Flash Base

AI 导读

百度发布 ERNIE-5.5-Flash-Base,一款总参数量 280B、每个 token 激活 14B 参数的稀疏 MoE 语言模型。模型使用 33.5T tokens 从零预训练,训练上下文最高 128K,微调和推理支持 1M-token 上下文,权重以 FP8 和 BF16 safetensors 形式发布在 Hugging Face。

推荐理由

公开了基础权重、架构细节、训练配置和同规模模型评测,便于开发者评估二次训练与部署成本。

来源:Hacker News front page · ernie.baidu.com