跳到正文
AGI Hunt· ChengleiSi·· 2 小时前AI 评分74

K2 Horizon 开放 13 万亿 token 预训练数据与后训练数据管线

AI 导读

K2 Horizon 开放了 13 万亿 token 预训练数据和后训练数据生成管线,预训练部分包含 5 个数据集、24 个子集、60 亿文档和 21.6TB 数据,已上线 Hugging Face。

来源:AGI Hunt · agihunt.info