跳到正文
AGI Hunt· tracebit·· 3 小时前AI 评分46

tracebit 发布 Context Bombs 研究:诱饵防御使攻击 agent 成本暴增 23 倍

Context Bombs 研究:诱饵防御让攻击 agent 成本暴增 23 倍

AI 导读

tracebit 团队发布 Context Bombs 研究,探索以欺骗性诱饵反制攻击型 AI agent。在受控 AWS 环境测试中,九种诱饵技术全部奏效,使攻击 agent 单目标耗时最多延长 8 倍、成本增加 23 倍,甚至令其行动完全失效。

来源:AGI Hunt · agihunt.info