Inco AI发布Splash 1.4.0与DFlash 2
先了解这件事
Inco AI 发布 Splash 1.4.0,并以 Apache-2.0 许可开源用于投机解码的 DFlash 2 草稿模型。项目方称,在 64GB M5 Pro 上运行官方 FP8 版 Qwen3.8-Flash-Next 时,解码速度最高达 120 tok/s,32K 上下文预填充速度为 1.3K tok/s,较 Strata 快逾30%;相关验证采用 TP1 配置,版本还提供 SGLang 部署命令、target-feature capture 补丁及 speculative 参数。 随后,Inside-Pen-8395 通过 Splash 1.4.0 自研 fork、Qwen3.8-Flash-Next 的 ISTA GSQ-RCO Q20 量化版和 DFlash 2,在 24GB MacBook Air M5 上实现 48.8 t/s 的专家流式加载;该方案仅让约28%的专家槽常驻内存,其余按需从 SSD 读取,支持256K上下文。
AI 根据报道生成 · 2 小时前更新
事件进展
2 个进展
- 10月25日 18:55 · 1 篇报道在24GB MacBook Air流式运行量化大模型AGI Hunt:24GB MacBook Air 流式加载 Qwen3.8-Flash-Next 量化模型达 48.8 t/s
- 10月22日 06:35 · 1 篇报道发布Splash 1.4.0与DFlash 2AGI Hunt:Splash 1.4.0 发布,Qwen3.8-Flash-Next 在 M5 Pro 上实现 120 tok/s 解码
报道时间线
沿着报道,了解事件的不同侧面。
- AGI Hunt24GB MacBook Air 流式加载 Qwen3.8-Flash-Next 量化模型达 48.8 t/s
Inside-Pen-8395 在 24GB 内存的 MacBook Air M5 上,通过 Splash 1.4.0、自研 fork、Qwen3.8-Flash-Next 的 ISTA GSQ-RCO Q20 量化版和 Flash-Next-DFlash2 投机解码,实现 48.8 t/s 的专家流式加载。
- AGI HuntSplash 1.4.0 发布,Qwen3.8-Flash-Next 在 M5 Pro 上实现 120 tok/s 解码
Inco AI 发布 Splash 1.4.0,并同步开源用于投机解码的 DFlash 2 草稿模型。Qwen3.8-Flash-Next 在 M5 Pro(64GB)上最高达到 120 tok/s 解码速度,32K 上下文下预填充速度为 1.3K tok/s,比 Strata 快 30% 以上,支持最高 1M 上下文。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。