Agent安全护栏需验证真实拦截

Shoumik Goswami 提出通过完整执行链路验证 Agent 安全护栏：仅检测到提示词注入，不能证明恶意内容已被拦截；以 StackOne 开源的 Defender 为例，blockHighRisk 默认关闭，高风险内容可被标记但不会被判定为“不允许”。 验证时应提交已知恶意的工具结果，确认应用层实际阻止其到达 Agent，同时检查阻断结论、LLM 审查者拒答或输出异常时的处理，以及文本清洗的信任边界。Defender 自述文本清洗仅为 best-effort，且 LLM 审查者也可能受待审文本影响，因此日志警告不能作为已成功拦截的证据。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。