单权重置零改变模型椅子生成结果

victormustar 展示并复现了 Qwen3.5-0.8B 的权重干预实验：在提示、输入 token、随机种子和采样设置不变且关闭 thinking 的条件下，仅将 decoder 第 23 层 MLP down-projection 矩阵第 545 列置零，生成的椅子便由六个部件堆叠、腿部穿插，变为位置正确、靠背与四条腿分离；原始权重同 seed 对照保持原输出。 该结果证明，在这一模型和 Three.js 椅子生成任务中，单个权重列的置零操作足以改变模型的结构化输出，而非通过修改提示实现。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。