跳到正文
AGI Hunt· burny_tech·· 45 分钟前AI 评分37

《Grokking From Abstraction to Intelligence》用奇异学习理论解释 Grokking 与泛化坍缩

新论文用奇异学习理论解释 Grokking:泛化是冗余流形的物理坍缩

AI 导读

arXiv 论文《Grokking From Abstraction to Intelligence》提出,Grokking 源于模型内部结构的自发简化,并受简约性原则支配。研究结合因果、谱与算法复杂度度量及奇异学习理论,发现从记忆到泛化对应冗余流形的物理坍缩与深层信息压缩。该论文共 22 页,正在投 ICML 2026。

来源:AGI Hunt · agihunt.info