单神经元实验：模型会为被“植入”的联想词编造理由

一项单神经元可解释性实验表明，激活 Apple 相关 persona 神经元后，模型会改变对自身联想词是否“意外”的解释。实验中未干预时有 16% 称其为意外，激活该词自身神经元后降至 5%，激活其他 persona 神经元为 13%，随机神经元为 10%；实验共覆盖 276 个 persona 神经元，每个测试 3 行。