跳到正文
AGI Hunt· saintmachines·· 2 小时前AI 评分56

SPILLWAY:用确定性检查防御工具型 Agent 的 prompt injection 攻击

SPILLWAY:零模型调用的确定性防线,模板注入攻击全部拦截

AI 导读

SAINT Machines、KAIST 与中央大学提出 SPILLWAY,通过确定性检查防御工具型 Agent 的 prompt injection 攻击。方法要求动作目标必须来自工具的类型化字段或固定委托规则,否则拒绝调用,并在交给模型前删除指令样文本。

来源:AGI Hunt · agihunt.info