跳到正文
AGI Hunt· Sauers_·· 3 小时前AI 评分37

steering Qwen3-8B 单个神经元可扩大模型 J-space,残余流更呈 J-lens 形态

steering 单个神经元可扩大模型 J-space,残余流更呈 J-lens 形态

AI 导读

steering Qwen3-8B 第 17 层的单一神经元,可扩大模型的 J-space,使残余流更呈 J-lens 形态,而非增加工作区容量。该神经元强度为 -0.5,过度方差解释率从 2.1% 升至 3.1%,occupancy 从 8 升至 10.5,6 个 J-lens 向量的方差解释从 3.06% 升至 3.88%;20 个随机神经元对照未出现该效果。

来源:AGI Hunt · agihunt.info