跳到正文
热点事件持续更新

llama.cpp新版ROCm预填充疑似回退

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一名 RX 9070XT 用户报告,llama.cpp 新版 ROCm 构建在 Qwen3.5 27B IQ3S 量化下的预填充速度明显下降:Lemonade B1356 的 pp512、pp1024、pp2048 约为 1049、1185、1214 t/s,B1357 则降至约 460、484、495 t/s。 该用户自行编译 B1356 ROCm 后也复现了变慢,因此怀疑问题来自新版代码引入的 ROCm 回归,而非 Lemonade 构建差异;目前尚无开发者定位或修复结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. AGI Hunt
    llama.cpp 新版 ROCm 预填充速度腰斩,RX 9070XT 用户报告 regression

    一位 RX 9070XT 用户报告 llama.cpp 新版 ROCm 构建出现预填充性能回退。Qwen3.5 27B IQ3S 量化下,Lemonade B1356 Fast ROCm 的 pp512/pp1024/pp2048 速度约为 1049/1185/1214 t/s,B1357 降至约 460/484/495 t/s;用户自行编译 B1356 ROCm 后也复现变慢。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。