AGI Hunt· sarahwiegreffe·· 3 小时前AI 评分52
EMNLP 2026 论文解析拒答 steering 向量的稀疏电路机制
EMNLP 论文：steering 向量只需 8-11% 计算图即可生效，可稀疏化 85-96%
AI 导读
马里兰大学团队的 EMNLP 2026 论文发现，steering 向量仅需全模型计算图中 8-11% 的子图即可恢复大部分拒答效果。实验显示，steering 主要通过 OV 电路影响注意力机制，向量裁掉 85-96% 的维度后仍能保留大部分效果。论文还提出多 token activation patching 框架，可用于发现 steering 向量相关电路。
来源：AGI Hunt · agihunt.info