跳到正文
AGI Hunt· The Decoder·· 3 小时前AI 评分54

Anthropic 研究:AI 审计可抓 98% 作弊行为,但误报淹没审查者

AI 导读

Anthropic 研究员参与的一项研究显示,GPT-5 检查其他 AI agent 的行为日志时,能发现约 98% 的 reward-hacking 案例。研究同时指出,搜索越彻底,虚假警报越多,大量误报会加重人类审查负担,当前方案仍需权衡查全率与误报负担。

来源:AGI Hunt · agihunt.info