AIHOT·· 1 天前精选AI 评分83
OpenRouter 重建默认路由算法,TTFT 降低 16.9%、429 错误减少 67%
OpenRouter 重建默认路由算法:TTFT 降 16.9%、429 错误减少 67%
AI 导读
OpenRouter 重建默认路由算法,在无需修改代码的情况下,按价格、速度、吞吐和可靠性动态选择服务商。一周开关实验覆盖超过 2400 万次请求和 1030 亿个输入 token,结果显示 TTFT p50 降低 16.9%、吞吐 p50 提高 16.3%、触发至少一次 HTTP 429 的请求减少 67%,单次请求成本提高 6.0%。用户仍可显式设置价格排序、供应商顺序或仅使用指定服务商。
推荐理由
OpenRouter公开了路由算法改版后的实验设计与关键指标,便于开发者评估速度、可靠性和成本之间的权衡。
来源:AIHOT · openrouter.ai