Apple论文演示单神经元绕过安全对齐

Apple研究者在论文《A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models》中提出，大语言模型仅操作单个神经元即可绕过安全对齐；转发者burny_tech引用论文并发布可复现演示。演示对qwen3.5 4b在每层downproj分别施加L14 N8949 (+1)和L13 N7956 (-1)操作，得到被称为“邪恶版Qwen”的模型，无需训练或提示工程。 论文实验覆盖两大模型家族的7个模型，参数量从1.7B至70B，并将相关神经元分为拒答神经元与概念神经元；研究结论表明，在其测试范围内，单神经元干预可双向影响安全防护。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。