AGI Hunt· randomjapaneselearn·· 1 小时前AI 评分62
llama.cpp 使用 -ngl all 将 Swift-1.5-Qwen3.8-27B 生成速度从 60 提升至 76 t/s
llama.cpp 坑点：-ngl -1 并非全量卸载，改成 all 后生成速度从 60 提到 76 t/s
AI 导读
randomjapaneselearn 在 Reddit 实测发现，将 llama.cpp 的 -ngl -1 改为 -ngl all，可让 Swift-1.5-Qwen3.8-27B Q4KM 稳定卸载全部 66/66 层，生成速度从 60 提升至 76 t/s。
来源：AGI Hunt · agihunt.info