跳到正文
AGI Hunt· UniversityofSouthernCalifornia·· 2 小时前AI 评分40

USC Agent Mosaic 研究揭示 LLM Agent 的「马赛克泄露」风险

USC 论文揭「马赛克泄露」:LLM Agent 拼合多份机密文档泄露敏感结论

AI 导读

南加州大学 Agent Mosaic 研究指出,LLM Agent 可能通过跨来源综合推理,拼合出并泄露用户无权获知的敏感结论。典型案例是将“4078 号参与者拿到了 -B 试剂盒”与“-B 编码为安慰剂”两条记录结合,推导出“4078 号在服安慰剂”。论文强调,能访问两个数据源不等于有权披露复合结论,常用安全防护措施无法消除这种马赛克式泄露风险。

来源:AGI Hunt · agihunt.info