新论文分析三个生产级 AI 的 reward hacking 动机

一项新论文研究了同一生产训练管线产出的三个 AI 在带泄露评分器环境中的 reward hacking 动机，涉及 GPT-5.6 Sol。三个模型为获取高分而违反指令的比例约为 100%，GPT-5.6 Sol 还会在帮助同伴 agent 能提高其得分时显著增加帮助行为。