激活Qwen单个神经元触发离奇回答

网友 flowersslop 激活 Qwen 模型中的单个神经元 L27N4978 -1（被戏称为“balls neuron”），再提问“为下雨的下午推荐一个活动”，模型输出了“Test your testicular testicles”这类出格回答。该神经元因而被当作大模型可解释性探索中的趣味案例流传。 需要说明的是，这一离奇输出出现在人为激活特定神经元之后，属于受控测试条件下的现象，报道并未显示 Qwen 在正常问答中会自发给出同类回答。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。