跳到正文
AGI Hunt· kchonyc·· 1 小时前AI 评分49

论文《The Dead Salmons of AI Interpretability》警告 AI 可解释性存在“死鲑鱼”假发现问题

新论文警告 AI 可解释性的「死鲑鱼」假发现问题

AI 导读

arXiv 论文《The Dead Salmons of AI Interpretability》警告,AI 可解释性领域大量方法在随机初始化网络上也能产出看似合理的解释,形成“死鲑鱼”式伪发现。论文主张将解释视为从计算轨迹推断的统计模型参数,通过对照明确的替代计算假设检验并量化不确定性。作者认为,可辨识性等理论问题可能造成假发现、泛化差与高方差。

来源:AGI Hunt · agihunt.info