llama.cpp评审QSA显存优化PR
热点事件持续更新
llama.cpp评审QSA显存优化PR
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
sanmai向llama.cpp提交PR #30965,拟在qwen4exp分支中改用不构建kq_mask的方式生成QSA selection,并称这可为Qwen Flash Next节省数GB显存。该改动目前仍在评审阶段,尚未说明已合并或完成验证。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月24日
- AGI Huntllama.cpp 新 PR 去掉 kq_mask 构建 QSA selection,为 Qwen Flash Next 省下数 GB 显存
llama.cpp PR #30965 在 qwen4exp 分支中不使用 kq_mask 构建 QSA selection,据称可为 Qwen Flash Next 节省数 GB 显存。该 PR 由 sanmai 提交,拥有 9 条评论和 8 个 review,改动为 +28/-14、9 个 commit,目前仍在评审阶段。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。