跳到正文
AGI Hunt· burny_tech·· 33 分钟前AI 评分44

用模拟分数检验神经元解释:不能模拟就不算真理解

AI 导读

作者主张,判断是否真正理解某个神经元,不能只看激活样例是否“看起来不错”,而要检验用模拟值替换其激活后模型性能是否显著下降。作者认为,simulation KL 等指标虽不完美,却比相关性分析和因果干预更能暴露解释中的失败;检验还需明确评分标准(rubric)。

来源:AGI Hunt · agihunt.info