Rieser提出正向对齐研究框架

DeepMind 研究员 Verena Rieser 在 EMNLP 2026 发表 Industry Keynote，提出以“正向对齐”让自主 AI agent 锚定核心价值观，减少对脆弱评分规则的依赖。 Rieser 将该方向概括为三项挑战：验证模型能否在真实场景和无人监督情况下可靠运用价值观；通过参与式方式确定价值观的来源、选择及批准主体；测量这些原则能否长期改善人类福祉。演讲提出的是研究框架，其实际效果仍待实证检验。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。