AGI Hunt· The Decoder·2026-11-08 00:56· 3 小时前AI 评分54Anthropic 研究:AI 审计可抓 98% 作弊行为,但误报淹没审查者AI 导读Anthropic 研究员参与的一项研究显示,GPT-5 检查其他 AI agent 的行为日志时,能发现约 98% 的 reward-hacking 案例。研究同时指出,搜索越彻底,虚假警报越多,大量误报会加重人类审查负担,当前方案仍需权衡查全率与误报负担。来源:AGI Hunt · agihunt.infoAnthropic / ClaudeAgent 智能体安全对齐论文研究#论文/研究#安全/对齐#Agent#OpenAI#Anthropic查看事件全部后续