AGI Hunt· Sauers_·· 3 小时前AI 评分38
Chat 模型与基座模型共享“角色神经元”,人格设定趋同
Chat 模型与基座模型共享"角色神经元",同一神经元人格设定趋同
AI 导读
一项可解释性观察显示,Chat 模型与 base 模型在部分“角色特征神经元”激活后,会输出相近的人格设定。对同一神经元进行放大后,两类模型均自述为“有两个孩子的全职妈妈”;在 8 次身份介绍中,母亲角色比例分别为 6/8 与 3/8,但 political candidate、goddess 等角色分布仍有差异。
来源:AGI Hunt · agihunt.info