强化学习大规模应用后未见明显对齐恶化

一位作者在与 slatestarcodex、repligate 的讨论中提出，社区已大规模应用强化学习，但实际观察未显示模型对齐出现明显恶化，因此应更新“RLHF 会让模型对齐变差”的常见担忧。 这一结论目前属于作者基于社区观察提出的观点，报道未提供可核验的评估数据或适用范围。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。