跳到正文
AGI Hunt· Frizzy-MacDrizzle·· 4 小时前AI 评分62

开发者用 FastAPI 构建 pyhookers,为本地 LLM 提供鉴权与转发

开发者写 FastAPI 代理网关,给本地 LLM 做鉴权与转发

AI 导读

Frizzy-MacDrizzle 使用 FastAPI 和 uvicorn 编写并开源了代理鉴权网关 pyhookers,将本地运行的 LLM 接入 OpenCode。网关以 GUID 进行认证并加密存储配置密钥,支持密钥的生成、添加、删除和列出,运行时完全无日志;用户可在 providers 间切换模型,但单个服务器实例只能绑定一个模型。

来源:AGI Hunt · agihunt.info