跳到正文
AGI Hunt· baseten·· 3 小时前AI 评分40

Baseten 与 Mirendil 合作案例:40 秒权重同步提升前沿 RL 吞吐 1.9 倍

Baseten 案例揭秘:Mirendil 用 40 秒权重同步跑前沿 RL,吞吐提升 1.9 倍

AI 导读

Baseten 与 Mirendil 的合作案例显示,通过对象存储中的紧凑权重增量重建策略并同步至采样集群,前沿 RL 的全局权重增量同步约 40 秒完成,吞吐提升 1.9 倍。Mirendil 的 trainer 在自有环境运行,rollout 集群 GPU 用量可达训练端的 2-5 倍。同步期间吞吐短暂降至中位数约 90%,约 1 分钟恢复。

来源:AGI Hunt · agihunt.info