K2 Horizon开放万亿级训练数据与管线

Kimi K2团队IFM宣布开源K2 Horizon的预训练数据及后训练数据生成管线，开放规模达13万亿token的预训练数据和超过10万亿token的合成后训练数据。 预训练部分包含5个数据集、24个子集，共60亿篇文档、21.6TB，已上线Hugging Face；后训练数据覆盖数学、推理、编码、规划和问题求解，配套的11个GitHub仓库、7条任务生成管线及3条高级生成管线也已开放。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。