跳到正文
AGI Hunt· LiTianleli·· 2 小时前AI 评分41

Inkling 开源最大规模 RL 训练曝光:2048 张 GPU 运行 9 天处理超 3T tokens

开源最大 RL 训练曝光:2048 张 GPU 跑 9 天超 3T tokens

AI 导读

Inkling 联合 RL 训练数据披露:一次运行历时 9 天,动用 2,048 张 GPU,处理超过 3T tokens,完成 1,075 步训练和超过 1,700 万次 rollout。训练算力超过 4×10²³ FLOPs,批大小约 3B tokens,训练步数较 MiMo V2.6 多约 36 倍。

来源:AGI Hunt · agihunt.info