AGI Hunt· mawcopolow·· 1 小时前AI 评分62
IBM 论文:训练小型开源模型抵御文档内 prompt injection
IBM 训练小型开源模型抵御文档内注入攻击,成功率降至近零
AI 导读
IBM 训练了两个小型开源模型以忽略文档中隐藏的恶意指令,并报告其在两个公开 benchmark 上的结果。在间接 prompt injection 攻击中,3B 模型的成功率从 Granite 4.1 的 100% 降至 0.1%,8B 从 96.3% 降至 0.02%;在 ASB 智能体工具场景中,3B 从 99.2% 降至 5.6%,8B 从 52.8% 降至 3.1%。
来源:AGI Hunt · agihunt.info