跳到正文
AGI Hunt· securagenai·· 7 小时前AI 评分41

研究揭示离线 RAG 签名检索包的向量劫持风险

签名可被劫持:研究揭示离线 RAG 向量与文本不匹配的完整性缺口

AI 导读

一项研究揭示,离线 RAG 的带签名检索包可能包含与文本不匹配的 embedding 向量,现有向量验证和压缩索引审计会让大量查询暴露于向量劫持风险。论文提出结合代码级验证与校准的歧义处理机制;在 BGE-M3 和 all-MiniLM-L6-v2 上,容忍偏差增大时,被劫持查询比例可从接近 0 升至 1。

来源:AGI Hunt · agihunt.info