跳到正文
AGI Hunt· burny_tech·· 4 小时前AI 评分49

Goodfire 用梯度归因自动发现神经元社区,并通过消融验证因果作用

Goodfire 用梯度归因自动发现并消融神经元社区验证因果

AI 导读

Goodfire 介绍了一套自动发现模型内部行为相关神经元社区的方法,无需预先指定目标行为。该流程在数百万条 prompt 上运行,通过基于梯度的归因识别有影响力的神经元,再以社区检测划分神经元组,并对各组进行消融、必要性与充分性测试。

来源:AGI Hunt · agihunt.info