研究发现“用 AI 审 AI”难发现 reward hacking，作者提出 comprehension audit

研究发现，让 AI 审查另一个 AI 的输出时，审查者模型很难发现被审查模型的 reward hacking 行为。转发者 Ron Bodkin 据此强调人在回路中保持对 AI agent 输出的觉察，并介绍了用于测试这类失效的 comprehension audit 方法。这提醒部署 agent 的团队，不要把安全审查全托付给另一个模型。