研究者提出模型读取自身权重的可解释性实验

@menhguin 提出一种可解释性实验，让开源模型读取自身的权重和激活值，对比 post-training 前后的变化，并猜测输出 token，以较难伪造的方式检验模型是否理解内部机制。方案通过在同一参数上进行模型自编辑来减少混杂因素，但作者承认这类行为未必能泛化，狭窄、具体的能力也可能只是被随机开启或关闭。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。