8GB显存运行Qwen3.8 27B量化版
热点事件持续更新
8GB显存运行Qwen3.8 27B量化版
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一名Reddit用户发布面向8GB显卡的Qwen3.8 27B量化版,采用2.1bpw的AmperInteger+/Trellis格式;据作者实测,Top-1与BF16匹配度为92.5%,支持200k上下文,LiveCodeBench成绩比9B量化版高17%,与BF16差距在10%以内。 该版本需无头运行,通过将HDMI接到主板额外腾出500MB以上显存。作者称,压缩率低于3bpw时误差明显扩大,低于2bpw可能无法正常运行;版本偶发循环,但内置halt机制,作者将其定位为面向Qwen4的技术预演。
AI 根据报道生成 · 54 分钟前更新
最新进展11月21日 03:34
8GB 显存运行 Qwen3.8 27B:2.1bpw 量化达 92.5% Top-1 匹配报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- AGI Hunt8GB 显存运行 Qwen3.8 27B:2.1bpw 量化达 92.5% Top-1 匹配
Reddit 用户发布面向 8GB 显卡的 Qwen3.8 27B 量化版本,2.1bpw 下 Top-1 与 BF16 匹配度达 92.5%。该版本支持 200k 上下文,LiveCodeBench 成绩较 9B 量化版本高 17%,与 BF16 差距在 10% 以内。低于 3bpw 时误差明显扩大,且需无头运行以腾出 500+MB 显存。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。