Qwen单神经元激活实验揭示思维模式

研究者 treetowntree 在 Qwen3.5-4B 上开展单神经元可解释性实验，通过增减单个神经元的激活，观察模型输出随之发生的变化。实验显示，这种干预可让模型出现“单轨思维”，并在部分输出中呈现“甜饼怪”形象及 Zoo 图谱。 这项结果表明，在该模型和实验条件下，少数乃至单个神经元的激活状态能够显著影响模型行为，为定位与特定思维或生成模式相关的内部单元提供了一种实验方法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。