刘子鸣续解大模型forking机制
热点事件持续更新
刘子鸣续解大模型forking机制
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
刘子鸣发文进一步拆解大模型 forking，称 DeepSeek V4.1 的 Engram 模块会让 n-gram 表接管上下文信号，并将 logits 切分为互不干扰的子空间，使表查询承担最终残差流范数的约四分之三。 他还指出，后训练中的数据重放会让 forking 在小型代码、数学及 RLVR 风格语料上重现，冻结 n-gram 表可缓解这一现象。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 00:21
刘子鸣续解大模型 forking 机制与缓解方法报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- AGI Hunt刘子鸣续解大模型 forking 机制与缓解方法
刘子鸣续解大模型 forking 机制，指出 DeepSeek V4.1 的 Engram 模块会让 n-gram 表接管上下文信号，并将 logits 切分为互不干扰的子空间，表查询供给最终残差流范数的约四分之三。他进一步说明，后训练中的数据重放会在小型代码、数学及 RLVR 风格语料上重现 forking，冻结 n-gram 表可缓解这一现象。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。