跳到正文
AGI Hunt· DimitrisPapail·· 1 小时前AI 评分57

微软研究:直接编辑少量权重即可给 LLM 植入后门,Claude Code 自主发现攻击方法

直接改几个权重即可埋后门,攻击方法由 Claude Code 自主发现

AI 导读

微软一项安全研究提出,直接编辑 LLM 的少量权重即可植入后门,无需微调。攻击在未触发特定 trigger 时极难被检测,模型以具备工具执行权限的 agent 运行时风险显著放大,该攻击方法的发现与改良几乎由 Claude Code 自主完成。

来源:AGI Hunt · agihunt.info