AGI Hunt· trohit92·· 2 小时前AI 评分44
RAG 权限控制零泄露仍出错:越权用户拿到带引用的自信错误答案
AI 导读
一项 RAG 安全案例研究通过检索层过滤 10 份带密级文档,机密内容未进入 prompt,实现 0 次泄露。低权限用户询问机密问题时,模型 3 次中有 2 次依据可见文档作答并带引用,两个错误答案均通过 groundedness 检查。评测仅含 16 个问题,暴露正确文档存在但用户无权查看时的静默拒绝问题。
来源:AGI Hunt · agihunt.info