跳到正文
雷达侦探精选· ggml-org·· 15 小时前精选AI 评分84

llama.cpp v1.0.0 发布,清理公开 API 并扩展多模态与服务能力

v1.0.0

AI 导读

llama.cpp v1.0.0 发布,移除 35 个弃用函数并将 NextN/推测 API 提升至 llama.h,同时更新 ggml 至 v1.0.0。新版本加入 OCP FP8 KV cache、可配置 CPU 占比的 MoE 专家缓存、外部 PLE 分片加载,以及 Kimi-K3.1-Pro、 Ripple、xing4_0 等架构和视觉模型支持。

推荐理由

v1.0.0 将公开 API 清理、新模型支持、多模态扩展与服务端改动集中在一次发布中,迁移成本和新能力边界都较易核对。

来源:雷达侦探精选 · github.com