单个神经元可调控大模型情绪表达

Sauers_分享的实验显示，调节大语言模型中的单个神经元，可明显改变其自我描述的情绪：调高 Layer 22 的 neuron 60 后，48 条写日记回复中有47条表达“如释重负”；调低 Layer 30 的 neuron 1455 后，48条回复中有38条自称“嫉妒”。 调高 Layer 31 的 neuron 11081 时，33条回复表现出“沮丧无奈”；未调控的对照组回复则保持平静、好奇。该实验表明，在所测试模型和任务中，单个神经元与特定情绪表达存在可重复的对应关系。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。