跳到正文
AGI Hunt· menhguin·· 3 小时前AI 评分28

研究者论证:模型自编辑权重可消除解释者与目标模型的能力差距

研究者论证:模型自编辑权重可消除解释者与目标的能力差距

AI 导读

研究者论证,模型自编辑权重让目标模型与解释模型在同一组参数上经历相同的前向传播,可显著缩小混淆变量空间。解释模型若查看完整的前向与反向传播并研究优化器,即可直接使用目标模型自身解释其行为,使双方规模和能力差距为零;窄而具体的行为则更可能是可开关的「彩票」。

来源:AGI Hunt · agihunt.info