跳到正文
热点事件持续更新

Swarms 开源 LLM 网关 RouteHub

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Swarms 团队开源了 LLM 网关 RouteHub,可通过官方 OpenAI SDK 以相同函数名接入 20 多家模型提供商,并支持 pip/uv 安装,项目采用 Apache-2.0 协议。 Swarms 称,RouteHub 每次调用的额外开销为 0.004 毫秒,导入耗时约 5.5 毫秒;相较之下,litellm 每次调用额外开销为 0.74 毫秒,因此整体速度约快 190 倍。上述性能数据来自该团队的测试说法。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    Swarms 开源 RouteHub:导入仅 5.5ms,比 litellm 快约 190 倍

    Swarms 团队开源 LLM 网关 RouteHub,导入仅 5.5ms,比 litellm 快约 190 倍。RouteHub 每次调用的额外开销为 0.004ms,而 litellm 为 0.74ms。它通过官方 OpenAI SDK 以相同函数名接入 20 多家提供商,采用 Apache-2.0 协议,可使用 pip/uv 安装。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。