AGI Hunt· QuixiAI·· 3 小时前AI 评分46
Lucebox 自研推理引擎:Qwen 3.8 27B 解码达 95.4 tok/s,超 llama.cpp 约 47%
AI 导读
Lucebox 团队为搭载 RTX 495 + R9700 的自家推理机打造专用推理引擎,随设备出货并承诺新模型 day-0 支持与每周优化。单用户解码测试中,Qwen 3.8 27B 达 95.4 tok/s,Qwen 3.8 Flash-Next 达 81.5 tok/s;在 120K prompt 下,后者 prefill 达 1,621 tok/s。
来源:AGI Hunt · agihunt.info