跳到正文
AGI Hunt· finbarrtimbers·· 3 小时前AI 评分34

Score centering 通过减偏置项抵消 RL 训练与推理引擎漂移

AI 导读

Score centering 通过减去偏置项,抵消 RL 训练与推理引擎之间的漂移,缓解训练与推理不一致造成的 mismatch。该方法利用校正项校正模型分数,帮助 LLM 强化学习降低训练推理失配带来的影响。

来源:AGI Hunt · agihunt.info