跳到正文
热点事件持续更新

Inco AI发布Splash 1.4.0与DFlash 2

2 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Inco AI 发布 Splash 1.4.0,并以 Apache-2.0 许可开源用于投机解码的 DFlash 2 草稿模型。项目方称,在 64GB M5 Pro 上运行官方 FP8 版 Qwen3.8-Flash-Next 时,解码速度最高达 120 tok/s,32K 上下文预填充速度为 1.3K tok/s,较 Strata 快逾30%;相关验证采用 TP1 配置,版本还提供 SGLang 部署命令、target-feature capture 补丁及 speculative 参数。 随后,Inside-Pen-8395 通过 Splash 1.4.0 自研 fork、Qwen3.8-Flash-Next 的 ISTA GSQ-RCO Q20 量化版和 DFlash 2,在 24GB MacBook Air M5 上实现 48.8 t/s 的专家流式加载;该方案仅让约28%的专家槽常驻内存,其余按需从 SSD 读取,支持256K上下文。

AI 根据报道生成 · 2 小时前更新

事件进展

2 个进展

  1. 10月25日 18:55 · 1 篇报道
    在24GB MacBook Air流式运行量化大模型
    AGI Hunt:24GB MacBook Air 流式加载 Qwen3.8-Flash-Next 量化模型达 48.8 t/s
  2. 10月22日 06:35 · 1 篇报道
    发布Splash 1.4.0与DFlash 2
    AGI Hunt:Splash 1.4.0 发布,Qwen3.8-Flash-Next 在 M5 Pro 上实现 120 tok/s 解码

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    24GB MacBook Air 流式加载 Qwen3.8-Flash-Next 量化模型达 48.8 t/s

    Inside-Pen-8395 在 24GB 内存的 MacBook Air M5 上,通过 Splash 1.4.0、自研 fork、Qwen3.8-Flash-Next 的 ISTA GSQ-RCO Q20 量化版和 Flash-Next-DFlash2 投机解码,实现 48.8 t/s 的专家流式加载。

10月22日
  1. AGI Hunt
    Splash 1.4.0 发布,Qwen3.8-Flash-Next 在 M5 Pro 上实现 120 tok/s 解码

    Inco AI 发布 Splash 1.4.0,并同步开源用于投机解码的 DFlash 2 草稿模型。Qwen3.8-Flash-Next 在 M5 Pro(64GB)上最高达到 120 tok/s 解码速度,32K 上下文下预填充速度为 1.3K tok/s,比 Strata 快 30% 以上,支持最高 1M 上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。