AGI Hunt· DotaMate·· 3 小时前AI 评分68
开源推理引擎 Kapitsa 0.2.26 发布并公布 M5 Max 多模型跑分
开源推理引擎 Kapitsa 跑分 M5 Max:35B 达 346 tok/s,180B 上 48GB Mac 跑 61 tok/s
AI 导读
开源 Apple Silicon 推理引擎 Kapitsa 发布 0.2.26，公布 M5 Max 上六款模型的推理性能。
来源：AGI Hunt · agihunt.info
开源推理引擎 Kapitsa 0.2.26 发布并公布 M5 Max 多模型跑分