跳到正文
热点事件持续更新

Locals开源本地LLM推理引擎

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

machinestein 开源了专为 Apple Silicon 打造的本地 LLM 推理引擎 Locals,官方称运行本地模型最高可快 3 倍;项目已发布至 GitHub。 Locals 可作为 Ollama、MLX-LM 和 llama.cpp 的即插即用替代,并支持接入编码 Agent 工具链,以及 DeltaNet、语法约束解码、工具调用和结构化输出等能力。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. AGI Hunt
    开源引擎 Locals 让 Apple Silicon 本地 LLM 提速最高 3 倍

    machinestein 开源了专为 Apple Silicon 打造的本地 LLM 推理引擎 Locals,官方称运行本地模型最高可快 3 倍。Locals 可替代 Ollama、MLX-LM 和 llama.cpp,支持编码 Agent 工具链接入,并为 DeltaNet、语法约束解码、工具调用及结构化输出提供算法,项目已在 GitHub 开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。