yb2698 披露异步 GRPO 训练未覆盖完整数据混合

yb2698 披露，其采用固定步数加异步 GRPO 的训练设置，使 LFM2.5-24B-A2B、LFM3-1.7B 和 TwIL-8B 都没有跑完完整的数据混合：LFM2.5-24B-A2B 见到 435–1,212 个任务，LFM3-1.7B 见到 474–1,288 个，TwIL-8B 仅见到 116–159 个。 原因在于每步只训练能塞进 token 预算的已完成 rollout，TwIL 的长推理和 hermes harness 等长 rollout 进一步压缩了每步可处理的任务数，而任务按固定顺序执行，导致部分训练始终未触及 traj2envs。这属于作者对自身训练设置及其数据覆盖限制的说明。

AI 根据报道生成 · 18 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。