llama.cpp新版ROCm预填充疑似回退
热点事件持续更新
llama.cpp新版ROCm预填充疑似回退
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一名 RX 9070XT 用户报告,llama.cpp 新版 ROCm 构建在 Qwen3.5 27B IQ3S 量化下的预填充速度明显下降:Lemonade B1356 的 pp512、pp1024、pp2048 约为 1049、1185、1214 t/s,B1357 则降至约 460、484、495 t/s。 该用户自行编译 B1356 ROCm 后也复现了变慢,因此怀疑问题来自新版代码引入的 ROCm 回归,而非 Lemonade 构建差异;目前尚无开发者定位或修复结论。
AI 根据报道生成 · 2 小时前更新
最新进展10月31日 10:09
llama.cpp 新版 ROCm 预填充速度腰斩,RX 9070XT 用户报告 regression报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- AGI Huntllama.cpp 新版 ROCm 预填充速度腰斩,RX 9070XT 用户报告 regression
一位 RX 9070XT 用户报告 llama.cpp 新版 ROCm 构建出现预填充性能回退。Qwen3.5 27B IQ3S 量化下,Lemonade B1356 Fast ROCm 的 pp512/pp1024/pp2048 速度约为 1049/1185/1214 t/s,B1357 降至约 460/484/495 t/s;用户自行编译 B1356 ROCm 后也复现变慢。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。