Arimorcos 团队：精选数据相当于 6 倍算力，12B 模型以 1/5 预训练算力击败 30B-A3B

Arimorcos 团队分享预训练实验结论：精选数据以 1/6 的算力匹配了最大基线模型。一个总参数 12B、激活参数 1.4B 的模型，仅用 1/5 预训练算力便击败 30B-A3B 模型，团队将于周二上午 10 点直播详解。