llmman 开源统一本地模型运行工具

开发者 Weskambale 开源发布 llmman，使 Claude Code、Codex、OpenCode 等十多个智能体能够调用本地模型。运行指定命令后，工具可自动下载与 GPU 匹配的 llama.cpp、启动服务并加载模型。 llmman 还支持切换托管商、兼容多种协议、拉取 OCI 镜像、通过 cosign 校验签名，以及把多台机器聚合为统一路由。其目标是让不同智能体使用同一套本地模型运行基础设施，但目前模型兼容性、硬件要求及各项功能的实际表现仍取决于具体部署环境。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。