AGI Hunt· jacek2023·· 1 天前AI 评分64
DiffuSpace 开源扩散语言模型 Clover-35B-A3B-Preview
DiffuSpace 开源首个扩散语言模型 Clover-35B
AI 导读
DiffuSpace 发布 Clover-35B-A3B-Preview，称其为首个开源权重的生产级扩散语言模型。该模型总参数 35B、激活参数 3B，支持 128K 上下文，BF16 精度下单卡吞吐可达 680 tokens/s，官方称其发布时取得开源扩散语言模型的 SOTA 评测成绩，并跑赢同级自回归模型。
来源：AGI Hunt · agihunt.info