跳到正文
AGI Hunt· egfwivbwwruigwrhfbsr·· 1 小时前AI 评分72

Valet 开源本地 LLM 家庭服务器管理工具,接入 185+ 服务

开源 Valet:本地 LLM 管理家庭服务器,接入 185+ 服务

AI 导读

Valet 开源用于管理家庭服务器的本地 LLM 聊天面板,支持接入 185+ 服务和自定义插件,数据保留在本地且无需账号或遥测。其聊天 Agent 可在用户批准后修改面板配置,在 5090 上运行 Qwen 3.8 27B 时约达 230 tok/s,响应时间为 2–5 秒,自建小评测集通过率约 90%。

来源:AGI Hunt · agihunt.info