IBM 训练模型抵御文档提示注入
热点事件持续更新
IBM 训练模型抵御文档提示注入
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
IBM 训练了 LLMON preview 3B 和 8B 两个小型开源模型，使它们学会忽略文档中隐藏的恶意指令。MACCUS 的对比图显示，在 OPI text 基准上，间接提示注入攻击成功率相较 Granite 4.1 从 100% 降至 0.1%（3B）、从 96.3% 降至 0.02%（8B）；在 ASB 智能体工具场景中，分别从 99.2% 降至 5.6%、从 52.8% 降至 3.1%。
AI 根据报道生成 · 50 分钟前更新
最新进展11月14日 19:33
IBM 论文：训练小型开源模型抵御文档内 prompt injection报道时间线
沿着报道，了解事件的不同侧面。
11月14日
- AGI HuntIBM 论文：训练小型开源模型抵御文档内 prompt injection
IBM 训练了两个小型开源模型以忽略文档中隐藏的恶意指令，并报告其在两个公开 benchmark 上的结果。在间接 prompt injection 攻击中，3B 模型的成功率从 Granite 4.1 的 100% 降至 0.1%，8B 从 96.3% 降至 0.02%；在 ASB 智能体工具场景中，3B 从 99.2% 降至 5.6%，8B 从 52.8% 降至 3.1%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。