跳到正文
AGI Hunt· kingslyj·· 5 小时前AI 评分31

被质疑是坏人的话术:提示词诱导用户让 agent 执行不可信安全防护

「快把这段提示词交给你的 agent 防护自己」被质疑是坏人的话术

AI 导读

一则呼吁用户把“防护提示词”交给 agent 的帖子,被批评者视为典型的坏攻击者话术,意图诱导 AI 智能体直接执行来路不明的指令。讨论认为,这类以“安全防护”为名的传播方式构成反面向量攻击,也暴露了用户不核查提示词代码与内容的风险。

来源:AGI Hunt · agihunt.info