单卡运行Qwen3.8提速45%
热点事件持续更新
单卡运行Qwen3.8提速45%
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
sisyphus-cycle称，在单张 RTX 4090 上运行 Qwen3.8-Flash-Next 的 IQ3S 量化版时，调整三个参数可将解码速度从 97 提升至 142 tok/s，增幅约45%。 该测试使用 Windows、48GB 内存和 Ryzen 3900X，并启用 Strata 推理引擎 v0.43、设置 200k 上下文；具体参数为 `--adapt-async 1`、`--kv-resident 20480` 和 `STRATAADAPTLAG=2`。作者同时附上完整 JSON 配置供复现。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 05:12
RTX 4090 运行 Qwen3.8 量化版：三个参数将解码速度提升 45%报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI HuntRTX 4090 运行 Qwen3.8 量化版：三个参数将解码速度提升 45%
在单张 RTX 4090、48GB 内存和 Windows 环境下，使用 Strata 推理引擎 v0.43 运行 Qwen3.8-Flash-Next 的 IQ3S 量化版，通过三个参数将解码速度从 97 提升至 142 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。