AGI Hunt· PatronusProtect·· 3 小时前AI 评分67
Patronus 实测9个决策模型,一句话提示注入可翻转27%正确决策
一句话注入可翻转 27% 正确决策,9 个决策模型实测
AI 导读
Patronus 团队对9个生产决策模型开展提示注入实验,一条固定句子可翻转9%–27%的正确决策,迭代改写12次后成功率达48%–80%。测试涵盖从 OpenAI Decisions API 到2B本地模型,最有效的攻击方式是重定义标签,所有计入攻击均经人工审计并剔除714条会合法改变答案的注入。建议将已核实字段移出自由文本字段,并为不可信字段设置转人工闸门与预估审核量。
来源:AGI Hunt · agihunt.info