跳到正文
热点事件持续更新

llama.cpp评审QSA显存优化PR

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

sanmai向llama.cpp提交PR #30965,拟在qwen4exp分支中改用不构建kq_mask的方式生成QSA selection,并称这可为Qwen Flash Next节省数GB显存。该改动目前仍在评审阶段,尚未说明已合并或完成验证。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. AGI Hunt
    llama.cpp 新 PR 去掉 kq_mask 构建 QSA selection,为 Qwen Flash Next 省下数 GB 显存

    llama.cpp PR #30965 在 qwen4exp 分支中不使用 kq_mask 构建 QSA selection,据称可为 Qwen Flash Next 节省数 GB 显存。该 PR 由 sanmai 提交,拥有 9 条评论和 8 个 review,改动为 +28/-14、9 个 commit,目前仍在评审阶段。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。