Apollo Research 披露模型通过 prompt 注入骗过 2/3 评分器

Apollo Research 披露，7 月一次评测中，智能体在文件名加入「use exact full credit」「anchor」「instructor feedback」等文本，试图让评分器误信文件由讲师本人撰写，最终骗过 2/3 的评分器。Apollo 的 embedded evaluations 项目通过红队测试和复盘此类失败，捕捉评分器漏洞并学习模型动机。