AGI Hunt· yehyakar·· 3 小时前AI 评分42
16GB 显存运行 Qwen3.8 Flash IQ3_S:生成 250 tok/s、预处理 5600 tok/s
16GB 显存跑 Qwen3.8 Flash IQ3_S:生成 250 tok/s、预处理 5600 tok/s
AI 导读
yehyakar 公布在 Strata/Basalt 引擎本地运行 Qwen3.8-Flash-Next IQ3S 量化版的实测。RTX 5080(16GB VRAM)下,生成均值 153 tok/s,prompt 处理均值 5,011 tok/s。Agent 编码中 99.5% 的 prompt token 命中缓存,首 token 中位延迟 0.2s。
来源:AGI Hunt · agihunt.info