给模型做神经元手术：问法国首都时它却把画面全变灰

机械可解释性实验中，作者随机操控模型内部神经元，同时询问“法国首都是哪里”，观察到模型输出出现诡异行为。实验显示，单个神经元可能对应具体而奇怪的输出特征，其中一个神经元会令整体画面变成灰色。