跳到正文
AGI Hunt· DimitrisPapail·· 2 小时前AI 评分48

研究:改写不到 10 个休眠神经元即可给 LLM Agent 植入后门

AI 导读

Dimitris Papailiopoulos 发表论文《Lazare, veni foras》,提出无需训练,仅对 LLM 中不到 10 个休眠神经元进行权重重编程,即可为基于该模型的 agent 植入后门。被植入后门的模型在常规评测中表现正常,难以被察觉,暴露出 LLM Agent 的潜在安全隐患。

来源:AGI Hunt · agihunt.info