AI 安全研究者 David Manheim：模型自我解释在优化压力下正在失效，预警成真

AI 安全研究者 David Manheim 在讨论中指出，十多年来研究者已预警依靠监控和模型自我解释的安全手段会在优化压力下失效，如今这一现象开始真正出现。他借此质疑当前依赖模型可解释输出开展对齐监控的路线。