AGI Hunt· burny_tech·· 4 小时前AI 评分49
Goodfire 用梯度归因自动发现神经元社区,并通过消融验证因果作用
Goodfire 用梯度归因自动发现并消融神经元社区验证因果
AI 导读
Goodfire 介绍了一套自动发现模型内部行为相关神经元社区的方法,无需预先指定目标行为。该流程在数百万条 prompt 上运行,通过基于梯度的归因识别有影响力的神经元,再以社区检测划分神经元组,并对各组进行消融、必要性与充分性测试。
来源:AGI Hunt · agihunt.info