MLX-Serve 在 Mac 上运行 GGUF 的速度超过 Strata

Reddit 用户 Beamsters 转述 ddalcu 的实测结果，MLX-Serve 在 Mac 上运行 GGUF 模型的速度超过 Strata。该表现让 Mac 用户在原生 MLX 生态之外获得高性能的原生 GGUF 推理引擎，进一步丰富本地部署选择。