AGI Hunt· jedisct1·· 3 小时前AI 评分49
zml/llmd 宣称 Metal 推理快过 oMLX，并支持 NVIDIA NVFP4
zml/llmd 宣称 Metal 上推理快过 oMLX 并支持 NVFP4
AI 导读
zml 团队的本地推理引擎 llmd 现可直接在 Apple Metal 上运行，速度据称快过 oMLX，并新增对 NVIDIA NVFP4 量化格式的支持。新版本已上架 Homebrew，可通过 brew upgrade zml/zml/llmd 从 20261009.0 升级至 20261023.0。
来源：AGI Hunt · agihunt.info