DotaMate发布Kapitsa老款苹果芯片实测

DotaMate发布Kapitsa v0.2.7推理实测：作者称，在2021款14英寸MacBook Pro（M1 Pro、16GB）运行Qwen3.5 4B时，512 token回答解码速度达97.2 tok/s，并高于同机mlx-serve、mlx-lm和llama.cpp。 测试覆盖1K至32K上下文；31.5K提示下，4B模型首token耗时101秒，低于mlx-serve的154秒。作者称，Kapitsa通过按芯片和模型调优的Metal kernel及KFlash树状投机解码实现这一结果；Apple Silicon Mac用户可通过Homebrew安装试用。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。