论证权重自编辑可缩小模型解释能力差

研究者 menhguin 论证，模型通过自编辑权重，可让解释模型与目标模型在同一组参数上经历相同的前向传播，从而理论上大幅缩小双方的能力差距，并将混淆变量空间降至最低。 其依据是，解释模型若能查看完整的前向与反向传播并研究优化器，就可直接利用目标模型自身解释其行为；menhguin 还认为，范围窄且具体的行为更可能是可通过权重编辑开启或关闭的“彩票”。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。