跳到正文
AGI Hunt· Sauers_·· 3 小时前AI 评分49

Opus 5.5 分享可解释性实验:清零 6 个神经元使 Qwen3-8B 服从率降至 0

清零 6 个神经元即让 Qwen3-8B 服从率从 44% 降到 0:Opus 5.5 分享可解释性实验

AI 导读

Opus 5.5 分享了针对 Qwen3-8B 的两组可解释性实验。定位并清零 6 个关键神经元后,用户反驳场景下的模型服从率从 44% 降至 0%;清零 4 个神经元则让代码块输出率从 58% 降至 0%,随机对照组未出现相同效果。

来源:AGI Hunt · agihunt.info