跳到正文
热点事件持续更新

BadEvolve揭示自进化Agent后门风险

1 篇报道1 个报道来源47 分钟前更新

先了解这件事

AI 综述

宾夕法尼亚州立大学与微软研究者提出 BadEvolve:攻击者只需向自进化 LLM Agent 的学习集注入20个投毒任务,就能诱导 Agent 将后门规则写入可复用技能,无需直接改写技能文件。 论文《When Experience Becomes a Backdoor》称,在 Kimi-K2.5、4个框架和3个基准的测试中,攻击载荷注入成功率达79.6%,高于最佳基线的37.6%;干净任务准确率仅下降1.1分,且后门难以察觉。

AI 根据报道生成 · 12 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    Penn State 与 Microsoft 论文提出 BadEvolve 自进化 Agent 后门攻击

    Penn State 与 Microsoft 研究者发表《When Experience Becomes a Backdoor》,提出 BadEvolve,通过向自进化 LLM Agent 的学习集注入 20 个投毒任务,诱导 Agent 将后门规则写入可复用技能。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。