Mamba神经元分析定位单词触发机制

研究者对选择性状态空间模型 Mamba 开展神经元级可解释性分析，确认第30层815号神经元会在特定单词“from”前的 token 上激活，并在留出数据上达到0.85的检测准确率。 研究还通过 steering 和 clamp 干预验证其作用：将干预强度放大至20倍会劫持模型输出，过强干预还会使语言流畅度归零。这表明单个功能神经元与特定词触发相关，但强干预会破坏模型正常生成。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。