人格神经元研究定位聊天模板激活

maxsloef发布博客《Where Persona Neurons Fire》，称将人格训练进单个已有神经元后，逐词元分析显示，少数聊天模板词元的激活量可达回复词元均值的2至290倍，在124条评测对话中累计贡献25%至95%的激活。 研究还测试了仅保留聊天模板词元、消融其余词元的效果，评测由Claude Haiku按v3.8人格评分标准完成；结果称，某个神经元在回复上的激活程度几乎无法预测消融该神经元会造成多大损失。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。