AGI Hunt· CatAstro_Piyush·· 5 小时前AI 评分45
ACE 解释 grokking:同一 AI 训练三次行为相同、电路不同
同一 AI 训三次行为相同电路不同,ACE 解释 grokking
AI 导读
研究者提出机制可解释性方法 ACE,通过提取不同训练所得「接线」间的共享结构,解释 grokking 的突现泛化现象。ACE 还将亮相 NeurIPS 2026,并可利用这些共享表征引导最高 32B 规模的 LLM 行为。
来源:AGI Hunt · agihunt.info