AGI Hunt· Inside-Pen-8395·· 3 小时前AI 评分68
24GB MacBook Air 流式加载 Qwen3.8-Flash-Next 量化模型达 48.8 t/s
24GB MacBook Air 跑 Q2 量化大模型：SSD 流式专家达 49 t/s
AI 导读
Inside-Pen-8395 在 24GB 内存的 MacBook Air M5 上，通过 Splash 1.4.0、自研 fork、Qwen3.8-Flash-Next 的 ISTA GSQ-RCO Q20 量化版和 Flash-Next-DFlash2 投机解码，实现 48.8 t/s 的专家流式加载。
来源：AGI Hunt · agihunt.info