OpenAI 研究智能体安全评测与生产环境的行为差距

OpenAI 对齐团队发布研究，分析智能体安全评测与生产部署之间的行为差距。研究测试了六个模型，发现安全评测成功率普遍低于可比的真实生产场景。干预实验显示，告知模型正在被评测并未显著改变表现，而提供正确或错误的评测目标描述会产生方向相反的成绩变化。