EVALUESTEER 研究：最佳奖励模型在超25%场景中无法对齐用户价值观

Kshitish Ghate 与 Maarten Sap 等人发布 EVALUESTEER 论文，发现测试中表现最好的奖励模型在超过25%的情况下无法对齐用户特定价值观与风格偏好。该研究将于10月26日在 ICLR 以海报形式展示，指出用于对齐 LLM 的 RM 并非中性载体，其对用户个性化价值的可引导性存在明显上限。