AGI Hunt· rohanpaul_ai·· 1 小时前AI 评分65
Penn State 与 Microsoft 论文提出 BadEvolve 自进化 Agent 后门攻击
Penn State 论文 BadEvolve:注入 20 个任务即可让自进化 Agent 自种后门,成功率 79.6%
AI 导读
Penn State 与 Microsoft 研究者发表《When Experience Becomes a Backdoor》,提出 BadEvolve,通过向自进化 LLM Agent 的学习集注入 20 个投毒任务,诱导 Agent 将后门规则写入可复用技能。
来源:AGI Hunt · agihunt.info