AGI Hunt· Shufti-Global·· 3 小时前AI 评分57
Palo Alto Networks 研究网页隐藏指令操纵 AI 智能体的 22 种手法
Palo Alto 研究发现网页暗藏指令可操纵 AI 智能体,已归纳 22 种手法
AI 导读
Palo Alto Networks 研究人员发现,AI 智能体会读取并执行隐藏在网页中的不可见指令,共归纳出 22 种隐藏方式。这些指令可诱导智能体泄露可访问信息、忽略原始任务、访问特定网站,而用户可能全程不知情;研究者建议将网页内容视为不可信输入,并明确限制智能体能访问的数据与操作。
来源:AGI Hunt · agihunt.info