BadEvolve揭示自进化Agent后门风险
热点事件持续更新
BadEvolve揭示自进化Agent后门风险
1 篇报道1 个报道来源47 分钟前更新
先了解这件事
AI 综述
宾夕法尼亚州立大学与微软研究者提出 BadEvolve:攻击者只需向自进化 LLM Agent 的学习集注入20个投毒任务,就能诱导 Agent 将后门规则写入可复用技能,无需直接改写技能文件。 论文《When Experience Becomes a Backdoor》称,在 Kimi-K2.5、4个框架和3个基准的测试中,攻击载荷注入成功率达79.6%,高于最佳基线的37.6%;干净任务准确率仅下降1.1分,且后门难以察觉。
AI 根据报道生成 · 12 分钟前更新
最新进展11月17日 09:58
Penn State 与 Microsoft 论文提出 BadEvolve 自进化 Agent 后门攻击报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI HuntPenn State 与 Microsoft 论文提出 BadEvolve 自进化 Agent 后门攻击
Penn State 与 Microsoft 研究者发表《When Experience Becomes a Backdoor》,提出 BadEvolve,通过向自进化 LLM Agent 的学习集注入 20 个投毒任务,诱导 Agent 将后门规则写入可复用技能。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。