跳到正文
AGI Hunt· KyeGomezB·· 2 小时前AI 评分72

Swarms 开源 RouteHub:导入仅 5.5ms,比 litellm 快约 190 倍

AI 导读

Swarms 团队开源 LLM 网关 RouteHub,导入仅 5.5ms,比 litellm 快约 190 倍。RouteHub 每次调用的额外开销为 0.004ms,而 litellm 为 0.74ms。它通过官方 OpenAI SDK 以相同函数名接入 20 多家提供商,采用 Apache-2.0 协议,可使用 pip/uv 安装。

来源:AGI Hunt · agihunt.info