Agent动态偏好对齐的判断难题

jacyanthis提出，AI agent看到新证据后，是否应改变用户预先设定的偏好，关键在于判断何时改变。该问题也涉及是否应模拟用户，确认其在事后仍会支持这种改变，令偏好对齐需要在静态设定与允许证据更新的动态建模之间作出设计选择。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。