AI agent 该不该“自己改主意”？偏好对齐的深层难题

AI agent 在看到新证据时是否应改变预先设定的偏好，取决于如何判断改变时机，以及是否应模拟人类并确认其事后仍会支持。偏好对齐由此面临静态快照与可由证据更新的动态建模之间的核心设计选择。