EVALUESTEER评估奖励模型价值观对齐能力

1. 16:28
   AGI Hunt

   EVALUESTEER 研究：最佳奖励模型在超25%场景中无法对齐用户价值观

   Kshitish Ghate 与 Maarten Sap 等人发布 EVALUESTEER 论文，发现测试中表现最好的奖励模型在超过25%的情况下无法对齐用户特定价值观与风格偏好。该研究将于10月26日在 ICLR 以海报形式展示，指出用于对齐 LLM 的 RM 并非中性载体，其对用户个性化价值的可引导性存在明显上限。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。