跳到正文
AGI Hunt· soniajoseph_·· 3 小时前AI 评分51

论文警示线性探针准确率高不等于模型存在线性表示

新论文警示:线性探针准确率高不等于模型真有线性表示

AI 导读

论文《Is a Linear Probe Evidence of a Linear Representation?》质疑机械可解释性中的标准判断,指出足够丰富的特征映射(包括随机映射)也能实现线性读出,因此高线性探针准确率不足以证明模型存在线性表示。

来源:AGI Hunt · agihunt.info