AGI Hunt· zyxciss·· 3 小时前AI 评分64
Betelgeuse 让 RTX 3060 与 16GB 内存运行 68GB Qwen MoE
RTX 3060+16GB 内存跑出 22 tok/s:Betelgeuse 全精度运行 68GB Qwen MoE
AI 导读
Betelgeuse 让 68GB 的 Qwen 3.8 Flash Next GSQ-RCO-IQ2XS 量化版在 RTX 3060 12GB 与 16GB DDR4 游戏 PC 上持续达到 22 tok/s,峰值 48 tok/s。
来源:AGI Hunt · agihunt.info