EMNLP论文解析拒绝steering稀疏电路

马里兰大学Stephen Cheng、Sarah Wiegreffe等人的EMNLP 2026论文以模型拒答为案例发现，steering向量的作用可由全模型计算图中约8%至11%的稀疏子图解释大部分效果；裁掉向量85%至96%的维度后，仍能保留多数拒答效果。 实验显示，steering主要通过OV电路影响注意力机制。论文同时提出多token activation patching框架，用于定位与steering向量相关的电路。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。