论文质疑线性探针能否证明线性表示

Klindt等作者在论文《Is a Linear Probe Evidence of a Linear Representation?》中指出，线性探针测试过于宽松：即使是足够丰富的特征映射，包括随机映射，也能实现线性读出并取得高准确率，因此高线性探针准确率不足以证明模型内部存在线性表示。 作者提出三种非对称诊断，以帮助区分模型真实编码的可线性读出信息与探针本身制造出的读出能力。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。