跳到正文
AGI Hunt· burny_tech·· 2 小时前AI 评分33

leogao 反驳“可解释性已解决”:激活样本漂亮不等于解释正确

leogao 撰文反驳「可解释性已解决」:激活样本漂亮不等于解释正确

AI 导读

leogao 反驳以神经元激活样本论证可解释性已解决的观点,认为样本匹配不等于真实触发机制得到解释。禁用小激活神经元会显著降低模型性能,确认解释正确还需用 rubric 模拟替换神经元激活并检验模型损害。

来源:AGI Hunt · agihunt.info