Intrinsec AI 展示利用推理引擎 KV Cache 检测 Agent 攻击的方法

Intrinsec AI 创始人 Ari Azarafrooz 在 AI Engineer CODE 峰会上展示了利用推理引擎生成的 KV cache 作为 AI Agent 安全信号的方法。方案通过正常流量学习基线并标记异常 KV 页，还可识别语音留言中的隐藏口头指令，演讲还覆盖 vLLM、SGLang、LMCache、llm-d 和 NVIDIA Dynamo 的接入点及生产部署难点。