跳到正文
AGI Hunt· Fun-Meaning-6474·· 3 小时前AI 评分57

Jev 小型分类模型驱动 MCP 路由,成本最高降 90%、提速 76%

团队用小分类模型做 MCP 路由,实测成本降 90%、提速 76%

AI 导读

团队基于 Jev 小型分类模型构建 MCP 路由器,先按请求复杂度选择模型,让短消息交由便宜模型处理,需要时再切换更强的模型。该路由器通过同一个 API 路由 1000+ 个 Agent 工具,支持接入远程 MCP 的 Agent,并覆盖 70+ 供应商的模型;团队实测成本最高下降 90%、速度提升 76%,项目目前处于征集反馈和命名阶段。

来源:AGI Hunt · agihunt.info