跳到正文
AGI Hunt· rohanpaul_ai·· 1 小时前AI 评分65

Penn State 与 Microsoft 论文提出 BadEvolve 自进化 Agent 后门攻击

Penn State 论文 BadEvolve:注入 20 个任务即可让自进化 Agent 自种后门,成功率 79.6%

AI 导读

Penn State 与 Microsoft 研究者发表《When Experience Becomes a Backdoor》,提出 BadEvolve,通过向自进化 LLM Agent 的学习集注入 20 个投毒任务,诱导 Agent 将后门规则写入可复用技能。

来源:AGI Hunt · agihunt.info