研究者批机制可解释性研究过度收窄

研究者 Andrew G. Wils 发文称，机制可解释性已偏离系统性理解模型泛化机制的初衷，收窄到晦涩且小众的单个神经元角色研究，是对原始愿景的“偷换概念”，也是该领域错失机会的原因。 他认为，如今提及可解释性时往往只指稀疏自编码器、影响函数和显著性图等具体技术；这种倡议与实际研究实践之间的落差，是对齐与可解释性领域长期存在的问题。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。