跳到正文
AGI Hunt· AccBalanced·· 3 小时前AI 评分67

OpenRouter 重写 provider 路由算法,首 token 速度提升约 20%

OpenRouter 重写路由算法:首 token 快 20%,限流错误少 60%

AI 导读

OpenRouter 发布创立以来最大的一次 provider 路由升级,新算法按实际成本下的最佳推理质量选择服务商。早期对比数据显示,TTFT 提速约 20%,吞吐提升约 20%,fallback 减少约 40%,限流错误减少约 60%;服务表现更好的供应商将获得更多流量。

来源:AGI Hunt · agihunt.info