跳到正文
AGI Hunt· srush_nlp·· 2 小时前AI 评分60

LMSYS 解读 TITO 原则与 Miles 实现机制

LMSYS 详解 TITO 原则:训练与推理 token 序列不一致如何毁掉 RL 训练

AI 导读

LMSYS在Miles框架博客中阐述Token-In-Token-Out(TITO)原则,要求trainer评估的token序列与推理引擎在rollout中实际消费和产出的序列完全一致。

来源:AGI Hunt · agihunt.info