AGI Hunt· m4rkGS·· 2 小时前AI 评分63
开源推理引擎 Kapitsa 新增 Hy4-flash 支持,M5 Max 解码达 36.4 t/s
开源推理引擎 Kapitsa 在 M5 Max 跑 Hy4-flash:36 t/s 解码、32K 上下文 33 秒
AI 导读
开源推理引擎 Kapitsa 新增 Hy4-flash 支持,在 MacBook Pro M5 Max(40 核 GPU、128GB)上实测解码速度达 36.4 t/s,32K 上下文下为 34.6 t/s。
来源:AGI Hunt · agihunt.info