大语言模型可解释性实验：归零 16 个神经元使特定回复概率下降 83 万倍

Sauers 演示大语言模型机制可解释性实验，将负责生成特定回复开头的 16 个神经元逐个归零，使该回复出现概率从 72% 降至 1/5200 万。其典型出现可能性约下降 83 万倍，而归零同等数量的随机神经元几乎没有影响，证明少量神经元可被精准干预模型行为。