AGI Hunt· burny_tech·· 3 小时前AI 评分48
Qwen3.5-4B 实测发现 9 个「性别神经元」,激活后自称男或女
实测发现 Qwen 有 9 个「性别神经元」,激活后自称男或女
AI 导读
一项针对 Qwen3.5-4B 的可解释性实验发现,模型内部存在 9 个性别神经元,激活任意一个即可让它改口自称女性或男性。9 个神经元分为 5 个偏女、4 个偏男,分布在第 1026 层;L22 激活后,25 个新问题中有 23 次自称女性,Fisher p<0.001。单独询问代词时,300 次回答中 he/him 为 29 次、they/them 为 23 次、she/her 为 0 次。
来源:AGI Hunt · agihunt.info