跳到正文
AGI Hunt· CatAstro_Piyush·· 5 小时前AI 评分45

ACE 解释 grokking:同一 AI 训练三次行为相同、电路不同

同一 AI 训三次行为相同电路不同,ACE 解释 grokking

AI 导读

研究者提出机制可解释性方法 ACE,通过提取不同训练所得「接线」间的共享结构,解释 grokking 的突现泛化现象。ACE 还将亮相 NeurIPS 2026,并可利用这些共享表征引导最高 32B 规模的 LLM 行为。

来源:AGI Hunt · agihunt.info