跳到正文
AGI Hunt· Brief-Tap-6616·· 2 小时前AI 评分67

Qwen 27B 发布 2.3bpw 极限量化更新版

2.3bpw 极限量化更新:27B 模型在 12GB 卡上追平 Qwen3.6 BF16

AI 导读

Qwen 27B 发布 2.3bpw 极限量化更新版,在 12GB Ampere 显卡上取得 84.3% 的 LiveCode Bench 成绩,接近 Qwen3.6 BF16 的 83.9%。新版采用 AmperInteger+ 量化格式与 trellis 编码,使显存占用降至 7.4GiB,并可配合 SJKVaRN 3/2 配置运行 200K+ 上下文。

来源:AGI Hunt · agihunt.info