llmd 新增 Metal 推理与 NVFP4 支持
热点事件持续更新
llmd 新增 Metal 推理与 NVFP4 支持
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
zml 团队发布 llmd 新版本,使该本地推理引擎可直接在 Apple Metal 上运行,并支持 NVIDIA NVFP4 量化格式;团队称其 Metal 推理速度快于 oMLX,但报道未提供独立验证数据。 新版本已上架 Homebrew,用户可通过 `brew upgrade zml/zml/llmd` 将版本从 20261009.0 升级至 20261023.0。
AI 根据报道生成 · 2 小时前更新
最新进展10月24日 19:35
zml/llmd 宣称 Metal 推理快过 oMLX,并支持 NVIDIA NVFP4报道时间线
沿着报道,了解事件的不同侧面。
10月24日
- AGI Huntzml/llmd 宣称 Metal 推理快过 oMLX,并支持 NVIDIA NVFP4
zml 团队的本地推理引擎 llmd 现可直接在 Apple Metal 上运行,速度据称快过 oMLX,并新增对 NVIDIA NVFP4 量化格式的支持。新版本已上架 Homebrew,可通过 brew upgrade zml/zml/llmd 从 20261009.0 升级至 20261023.0。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。