Repeat-After-Me 用图片提示注入操控视觉语言模型

安全研究者 burkov 提出 Repeat-After-Me 黑盒提示注入攻击，通过在图片中嵌入指令，要求视觉语言模型照抄特定响应。实验测试了模型面对无关任务时是否会触发工具调用或泄露受保护信息，该风险在智能体读取不可信图片和文档并掌握敏感工具时会进一步显现。