AGI Hunt· casper_hansen_·· 2 小时前AI 评分56
约 2500 美元本地装机实测:Qwen3.8 27B 跑出约 150 tokens/s
2500 美元本地装机实测:27B 模型跑出 150 tokens/s
AI 导读
casper_hansen_ 分享了约 2500 美元本地推理配置的实测速度,Qwen3.8 27B(3.5bpw)约 150 tokens/s。DeepSeek V4.1 Flash 1017(2.25bpw)约 15 tokens/s,GLM 5.3 Flash(3.05bpw)约 10 tokens/s。
来源:AGI Hunt · agihunt.info