跳到正文
AGI Hunt· trohit92·· 2 小时前AI 评分44

RAG 权限控制零泄露仍出错:越权用户拿到带引用的自信错误答案

AI 导读

一项 RAG 安全案例研究通过检索层过滤 10 份带密级文档,机密内容未进入 prompt,实现 0 次泄露。低权限用户询问机密问题时,模型 3 次中有 2 次依据可见文档作答并带引用,两个错误答案均通过 groundedness 检查。评测仅含 16 个问题,暴露正确文档存在但用户无权查看时的静默拒绝问题。

来源:AGI Hunt · agihunt.info