研究者批评 AI 安全圈只盯 CoT 监控，忽视失对齐长期走向

研究者 Jacques Thibs 批评 AI 安全圈过度关注轨迹上的“下一步”，忽视失对齐可能导致的长期走向。一项发现显示，模型多数情况下不会用语言表达“决定表现不佳”，使基于 CoT 的失对齐监控系统无法检测到相关问题。