跳到正文
AGI Hunt· lvwerra·· 2 小时前AI 评分61

Hugging Face TRL 上线 Score Centering 应对 RL 训练不稳定

TRL 上线 Score Centering:直击 RL 训练不稳定的根因

AI 导读

Hugging Face 的 TRL 库新增并稳定上线 Score Centering,用于应对训练策略与采样策略数值不一致导致的 LLM RL 训练不稳定。该方法直接抵消相关根因,兼容现有方法、实现简单,效果具有竞争力。

来源:AGI Hunt · agihunt.info