研究者提出图像提示注入攻击

安全研究者 burkov 提出并实验测试了面向视觉语言模型的黑盒提示注入攻击 Repeat-After-Me。攻击者只需控制一张图片，就能在其中嵌入要求模型照抄特定响应的小段指令，例如发起工具调用或套取受保护信息，从而可能使智能体偏离用户给出的无关任务。 这项攻击无需访问模型内部参数，但当智能体读取不可信图片或文档，同时拥有调用敏感工具或访问敏感信息的能力时，潜在影响会进一步扩大。相关实验用于检验主流视觉语言模型是否会执行图片中的指令。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。