Nightingale反驳SAE质疑实验设置

Celene Nightingale 在 LessWrong 发表《Sanity Checks for Sanity Checks for Sparse Autoencoders》，反驳 Korznikov 等人关于稀疏自编码器（SAE）的质疑，称其合成玩具实验刻意设置了真实场景中不存在的、针对 SAE 的不利条件。 Korznikov 等人此前声称，在已知真实特征且超参数完全对齐的玩具设置中，SAE 只能恢复 9% 的真实特征，因而认为 SAE 即使在简单条件下也无法有效恢复特征。Nightingale 逐一论证该设置并非对 SAE 宽松，认为 9% 的恢复率不能证明 SAE 无法恢复真实特征。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。