8GB显存运行Qwen3.8的调优实测

Reddit 用户 Accurate-Door3692 分享了在配备 AMD Navi 33、8GB 显存和 32GB 内存的 Valve Steam Machine 上运行 Qwen3.8-Flash-Next Gyro S 量化模型的实测结果：128K 上下文下，prefill 约 235 t/s，解码约 15–18 t/s。 据该用户称，设置 `--set resident-budget-gib=64` 是唯一有效调优，可使解码速度提升约 20%；手动启用 MTP 投机解码没有增益，反而令 prefill 下降约 10%，且 `--mtp on` 会静默失效，需要手动构建 draft 层。该配置会令可用内存降至约 3.5–4GB，测试中曾发生一次重启。

AI 根据报道生成 · 11 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。