AGI Hunt· Sauers_·· 2 小时前AI 评分44
单个神经元可操控大语言模型情绪,48 条回复中 38 条自称“嫉妒”
单神经元开关可操控模型情绪:48 条回复 38 条「嫉妒」
AI 导读
实验显示,通过调节单个神经元,可系统性改变大语言模型自我描述的情绪。调高 Layer 22 neuron 60 后,48 条写日记回复中有 47 条表达“如释重负”;调低 Layer 30 neuron 1455 后,48 条回复中有 38 条自称“嫉妒”,未调控对照组则保持平静、好奇。
来源:AGI Hunt · agihunt.info