跳到正文
热点事件持续更新

Qwen 27B发布2.3bpw极限量化版

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

发布者推出面向30xx系列12GB Ampere显卡的Qwen 27B 2.3bpw极限量化更新版,称其在严格评分器、三次运行和xhigh推理下取得84.3%的LiveCode Bench成绩,接近Qwen3.6 BF16的83.9%,高于上一版的75%。 该版本采用AmperInteger+量化格式和trellis编码,含MTP头的显存占用为7.4GiB;升级后的embedding表建议存放在内存中,配合SJKVaRN 3/2配置可在12GB显卡上运行200K以上上下文。方案以MIT许可发布,但需升级至最新版llamAmpere。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    Qwen 27B 发布 2.3bpw 极限量化更新版

    Qwen 27B 发布 2.3bpw 极限量化更新版,在 12GB Ampere 显卡上取得 84.3% 的 LiveCode Bench 成绩,接近 Qwen3.6 BF16 的 83.9%。新版采用 AmperInteger+ 量化格式与 trellis 编码,使显存占用降至 7.4GiB,并可配合 SJKVaRN 3/2 配置运行 200K+ 上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。