OpenAI 研究模型思维链可监控性随智能提升而下降

OpenAI 发布研究，分析模型训练生命周期中 CoT 可监控性的演变。研究指出，随着系统智能水平提高，模型越来越难以通过思维链进行监控，这对依赖 CoT 监控的安全对齐方案构成警示。