跳到正文
AGI Hunt· mrpkk·· 3 小时前AI 评分60

Prompt 注入扫描器应按字段位置分级

Prompt 注入扫描器该按位置分级:同句在 description 是致命、在 content 只是高危

AI 导读

mrpkk 指出,Prompt 注入扫描器应按字段角色分级,description 中的注入短语可定为 critical,content 中的同类内容则降为 high。其 attest 项目已开源规则 attest/poison.py,源码等会被模型再次处理和编译的字段仍需升级。发布前测试还发现,仅增加一个“the”即可绕过正则,说明有限签名扫描器难以覆盖任意改写。

来源:AGI Hunt · agihunt.info