跳到正文
AGI Hunt· dair_ai·· 2 小时前AI 评分68

MetaPI将Agent基准改造成间接提示词注入评测环境

MetaPI 论文:把 Agent 基准改造成注入攻击测试,闭源模型攻击成功率仍超 20%

AI 导读

MetaPI可将现有Agent能力基准自动改造成间接提示词注入评测环境,并已应用于AppWorld、VitaBench和Terminal-Bench。方法会自动定位注入点、生成攻击目标、优化自适应攻击payload,并在原有任务环境和基础设施中逐项验证。实验显示,gpt-5.6-luna、claude-sonnet-5等闭源模型攻击成功率仍高于20%,现有防御尚难同时兼顾效用与安全。

来源:AGI Hunt · agihunt.info