Olla v0.1.0 统一多后端模型服务

开源 LLM 代理 Olla 发布 v0.1.0，通过模型感知路由、负载均衡、故障转移和粘性会话，统一管理 Ollama、vLLM、SGLang、llama.cpp、LM Studio、MLX 等多种推理运行时。 本次版本新增 Hugging Face TEI 支持，重构控制面板，并改进重试机制、非幂等请求处理以及视觉与工具调用能力检测。Olla 可通过单个 Go 二进制或 Docker 部署，无需数据库或 Kubernetes，主要面向 homelab 和本地、私有化部署场景。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。