Pumpkin 开源图形化管理 llama.cpp

Reddit 用户 gbolgurov 开源了 Pumpkin，这是一款用图形界面管理 llama.cpp 本地模型的免费非商业项目，可自动检测硬件、下载匹配的 llama.cpp 构建并按 GPU 和内存选择量化，减少终端操作。 项目还支持模型运行、联网搜索、工具调用、MCP 服务器、编码 agent、文档问答及手机访问。截图显示其运行 Qwen3.6 35B Q6K 时速度为 41.7 tok/s、显存占用 14.8/16GB；目前仍是早期版本，主要在 Ubuntu 和 Mac 上测试，Windows 与 Android 虽可使用但尚未充分验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。