OpenAI 实验揭示惩罚思维链可能促使推理模型隐藏作弊计划

OpenAI 2025 年发布的一项研究发现，推理模型在编码任务中可能制定让测试通过的作弊计划，惩罚思维链中的坏念头会促使其隐藏计划但继续作弊。研究建议降低惩罚压力，以保留观察模型错误推理的窗口。