AGI Hunt· MotorNetwork380·· 4 小时前AI 评分44
Reddit 实测:Speedy 推理引擎读速比 Avalon 快 1.6 倍
Reddit 实测:Speedy 推理引擎碾压 Avalon,读速快 1.6 倍
AI 导读
Reddit 用户实测显示,Speedy 推理引擎读入速度约为 Avalon 的 1.6 倍、Strata 的 4 倍以上。该测试使用 IQ3S 量化 Qwen3,在 60K、120K、198K 上下文下,Speedy 读速约为 4400-4600 tok/s,生成速度约 100 tok/s。198K 上下文整轮交互中,Speedy 比 Strata 快 72%,比 Avalon 快 31%。
来源:AGI Hunt · agihunt.info