跳到正文
AGI Hunt· George-Washington-University·· 3 小时前AI 评分48

乔治华盛顿大学与杜克大学拆解 LLM 强化学习训练-推理失配,提出 DLC 稳定训练

GWU 与杜克拆解 LLM 强化学习训练-推理失配,提出 DLC 稳定训练

AI 导读

乔治华盛顿大学与杜克大学系统拆解 LLM on-policy 强化学习中的训练-推理失配,将采样误差分解为数值差异与策略滞后。其提出的 discrepancy-lag correction 通过中心化 score、裁剪重要性比并重新同步采样权重,同时处理两类失配;在 Qwen3-1.7B 上,重要性加权在有效样本量跌破一半时失效。

来源:AGI Hunt · agihunt.info