开源引擎 Locals 让 Apple Silicon 本地 LLM 提速最高 3 倍

machinestein 开源了专为 Apple Silicon 打造的本地 LLM 推理引擎 Locals，官方称运行本地模型最高可快 3 倍。Locals 可替代 Ollama、MLX-LM 和 llama.cpp，支持编码 Agent 工具链接入，并为 DeltaNet、语法约束解码、工具调用及结构化输出提供算法，项目已在 GitHub 开源。