AGI Hunt· Kyrannio·· 6 小时前AI 评分32
一句 prompt 即可让 agent 全权修改 50 万台设备?HackingDave 敲响安全警钟
一句 prompt 即可让 agent 全权修改 50 万台设备?安全人士敲警钟
AI 导读
安全人士 HackingDave 用拟真 prompt 揭示 AI agent 的权限风险:一句指令便要求给 agent 完全权限,以修补 50 万台设备上的全部安全漏洞。企业将 root 级权限交给自动化系统后,prompt injection 或模型幻觉可能演变为全网级事故。
来源:AGI Hunt · agihunt.info