AGI Hunt· burny_tech·· 1 小时前AI 评分27
机制可解释性(mech interp)圈争论:“不是因果的”不应成为万能否决词
mech interp 圈争论:「不是因果的」不该是万能否决词
AI 导读
研究者 liusida2007 发文《Not Everything in Mech Interp Has to Be Causal》,反对以“不是因果的”统一否定机制可解释性研究。因果证据只适用于声称某 feature 导致模型行为的工作,描述性发现与因果实验还可相互启发;评价研究应看其主张及证据是否匹配。
来源:AGI Hunt · agihunt.info