跳到正文
AGI Hunt· dl_weekly·· 4 小时前AI 评分64

Redwood Research 发布 Screwtape Agent 红队管线,252 次运行产出 35 个绕过攻击

Redwood 发布 Screwtape:252 次运行造出 35 个能骗过 Agent 监控器的攻击

AI 导读

Redwood Research 发布 Screwtape 红队管线,通过对抗式编辑真实 Agent 对话记录并反复改写,测试只监控行动的监控器盲区。在 94 条 Redwood 员工真实记录上运行 252 次后,基于 Opus 4.8 与 Gemini 3.1 Pro 构建的监控器被 35 个攻击绕过,其中 6 个进一步绕过某前沿实验室的留出监控器并经人工审核确认有效。

来源:AGI Hunt · agihunt.info