跳到正文
热点事件持续更新

llmd 新增 Metal 推理与 NVFP4 支持

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

zml 团队发布 llmd 新版本,使该本地推理引擎可直接在 Apple Metal 上运行,并支持 NVIDIA NVFP4 量化格式;团队称其 Metal 推理速度快于 oMLX,但报道未提供独立验证数据。 新版本已上架 Homebrew,用户可通过 `brew upgrade zml/zml/llmd` 将版本从 20261009.0 升级至 20261023.0。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. AGI Hunt
    zml/llmd 宣称 Metal 推理快过 oMLX,并支持 NVIDIA NVFP4

    zml 团队的本地推理引擎 llmd 现可直接在 Apple Metal 上运行,速度据称快过 oMLX,并新增对 NVIDIA NVFP4 量化格式的支持。新版本已上架 Homebrew,可通过 brew upgrade zml/zml/llmd 从 20261009.0 升级至 20261023.0。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。