三张AMD显卡实测Qwen 180B推理
热点事件持续更新
三张AMD显卡实测Qwen 180B推理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Reddit 用户 IVequalsW 用三张 AMD 显卡和 llama.cpp Vulkan 后端运行 Qwen Flash Next 的 180B Q4 量化版，在 262K 上下文下测得 19–21 tokens/s。其测试环境包括两张 RX 6800 16GB 和一张 RX 580 2048sp，并通过 `--moe-cache-mib 16384` 限制 MoE expert 缓存。 用户称，显式设置 `-c/--ctx-size` 后速度会降至约 8 tokens/s，即使将上下文设为 100K 也无改善；不设置该参数时反而最快。这一结果属于该用户基于自身设备和配置发布的实测。
AI 根据报道生成 · 2 小时前更新
最新进展11月1日 09:39
三张 AMD 显卡运行 Qwen 180B：llama.cpp Vulkan Q4 推理速度达 19-21 t/s报道时间线
沿着报道，了解事件的不同侧面。
11月1日
- AGI Hunt三张 AMD 显卡运行 Qwen 180B：llama.cpp Vulkan Q4 推理速度达 19-21 t/s
Reddit 用户用三张 AMD 显卡和 llama.cpp Vulkan 后端运行 Qwen Flash Next 的 180B Q4 量化版，在 262K 上下文下测得 19-21 t/s。测试显示，显式设置 `-c/--ctx-size` 后速度降至 8 t/s，即使上下文设为 100K 也无改善；未设置该参数反而最快。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。