小米MiMo下一代或转向HySparse2稀疏架构
热点事件持续更新
小米MiMo下一代或转向HySparse2稀疏架构
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
SemiAnalysis透露，小米MiMo下一代模型将采用HySparse2因果编码器-解码器架构，提示词输入仅经过49层中的25层因果编码器；相关图示基于80B-A3B研究配置，并非已发布模型的最终规格。 据其披露，在100万token上下文下，相较MiMo-V2，HySparse2可将prefill计算量减少5倍、KV缓存缩小4.5倍，目标是降低长上下文处理和缓存占用成本。
AI 根据报道生成 · 1 小时前更新
最新进展11月8日 14:37
小米 MiMo 下一代转向 HySparse2，因果编码器-解码器 prefill 计算省 5 倍报道时间线
沿着报道，了解事件的不同侧面。
11月8日
- AGI Hunt小米 MiMo 下一代转向 HySparse2，因果编码器-解码器 prefill 计算省 5 倍
小米 MiMo 下一代模型将转向 HySparse2 因果编码器-解码器架构，prompt 仅经过 49 层中的 25 层因果编码器。在 1M 上下文下，相比 MiMo-V2，prefill 计算量减少 5 倍，KV 缓存缩小 4.5 倍；图示采用 80B-A3B 研究配置。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。