跳到正文
AGI Hunt· weskambale·· 2 小时前精选AI 评分77

开源工具 llmman 发布,支持 Claude Code 等智能体运行本地模型

开源工具 llmman 一条命令让 Claude Code 等agent跑任意本地模型

AI 导读

开源工具 llmman 允许 Claude Code、Codex、OpenCode 等十多个智能体运行任意本地模型。执行 `llmman launch claude --model qwen3.8` 可自动下载匹配 GPU 的 llama.cpp、启动服务并加载模型;还支持托管商切换、多协议兼容、OCI 镜像拉取、cosign 签名校验和多机器聚合路由。

推荐理由

llmman 将模型下载、服务启动、路由切换和密钥传递整合为一条命令,为多智能体接入不同模型提供统一方式。

来源:AGI Hunt · agihunt.info