单神经元激活改变模型自我解释

研究人员通过单神经元可解释性实验发现，激活与特定人格及联想词相关的神经元，会改变模型对自身输出是否“意外”的解释；结果显示，模型会围绕被干预的联想词调整说法。 实验覆盖276个人格神经元，每个神经元测试3行。未干预时，16%的回答称联想词令人意外；激活该联想词自身的神经元后降至5%，激活其他人格神经元为13%，激活随机神经元为10%。这表明神经元干预不仅可能影响模型输出，也会影响模型对输出意图的自我描述。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。