跳到正文
热点事件持续更新

RAG权限过滤实现零泄露但仍会误答

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

作者 trohit92 的 RAG 权限控制案例研究通过检索层过滤 10 份带密级合成文档,使机密内容未进入提示词,实现零泄露;但低权限用户询问机密问题时,模型仍会依据其可见文档给出带引用的自信答案,3 次测试中有 2 次错误答案通过事实性检查。 该研究仅评测 16 个问题,表明权限过滤能阻断机密内容进入模型上下文,却不能防止模型在无权访问正确文档时改用可见材料作答或静默拒绝;相关结果属于小规模案例,不代表统计结论。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. AGI Hunt
    RAG 权限控制零泄露仍出错:越权用户拿到带引用的自信错误答案

    一项 RAG 安全案例研究通过检索层过滤 10 份带密级文档,机密内容未进入 prompt,实现 0 次泄露。低权限用户询问机密问题时,模型 3 次中有 2 次依据可见文档作答并带引用,两个错误答案均通过 groundedness 检查。评测仅含 16 个问题,暴露正确文档存在但用户无权查看时的静默拒绝问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。