AGI Hunt· Setloop·· 3 小时前AI 评分53
Setloop 发布 LLM-Attacker Suite，统一评估拆分式 LLM 文档还原攻击
LLM-Attacker 框架:训练梯度让拆分式 LLM 文档还原率升至 37.8%
AI 导读
Setloop 团队发布 LLM-Attacker Suite，用于统一评估拆分式或分布式 LLM 系统的隐私攻击与文档还原能力。框架通过记录攻击配置、复用已记录消息并要求无防御基线，提升不同实验之间的评分可比性。在受控 GPT-2 实验中，利用训练期返回的梯度后，token 恢复率从 94.20% 升至 97.38%，整篇文档恢复率从 13.71% 升至 37.77%。
来源：AGI Hunt · agihunt.info