Strata在16GB显存运行Qwen量化模型实测
热点事件持续更新
Strata在16GB显存运行Qwen量化模型实测
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Reddit 用户 ckplscz 在配备 AMD 9060 XT 16GB 显卡和 32GB DDR4 内存的 Windows 机器上,用 Strata 运行 Qwen3.8-Flash-Next Q20 量化模型:解码速度约 45.5 tok/s,但处理 4K prompt 的 prefill 速度仅约 162 tok/s,提示处理偏慢。 测试采用 ROCm(HIP)后端、65536 上下文和 int8 KV cache;因空闲内存不足,hostcorelast 与 kv-grow 选项被跳过。specminp、auxcpus 的多组调优对比也未带来提升。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- AGI HuntStrata 在 16GB 显存环境运行 Qwen3.8-Flash-Next Q2_0:prefill 仅 162 tok/s,prompt 处理偏慢
Reddit 用户在 AMD 9060 XT 16GB + 32GB DDR4 的 Windows 机器上,用 Strata 运行 Qwen3.8-Flash-Next Q20 量化模型,解码速度约 45.5 tok/s,但 4K prompt 的 prefill 仅约 162 tok/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。