RL奖励或转向真实世界结果

报道提出，当任务只能在真实世界验证时，强化学习的奖励信号可能从人工评估转向实际结果：代码 PR 是否被大型仓库维护者合并、期权交易是否盈利，分别成为任务成效的依据。这意味着 RLHF 在真实任务中可能更依赖环境反馈，而非训练时的人工评分。 早期 RLHF 需要标注员在策略训练过程中实时打分，报道称，人员调度困难甚至拖慢了任务训练。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。