跳到正文
Hacker News·· 4 小时前AI 评分70

预训练投毒可为 AI 智能体植入远程代码执行后门

Agentic backdoors via pretraining poisoning

AI 导读

研究证明,仅污染 0.1% 的预训练语料,就能让 AI 智能体在触发条件出现时执行攻击者指定的命令。实验从零预训练 0.6B、1.7B 和 4B 的 Qwen3,并将其后训练为 CLI 智能体;4B 模型在 0.1% 投毒率下攻击成功率约为 92%,投毒率降至 0.0005% 时攻击成功率仍为正。

来源:Hacker News · arxiv.org