Vercel决策模型请求量大且成本低

Vercel 11月AI Gateway生产指数报告称，10月分类、打分和选项判断等决策类模型承担了网关26%的请求量，却仅占估算支出的0.53%，单次请求平均成本约为语言模型的1/70。约1/3的付费团队使用过决策模型，在月处理超过100亿token的大团队中，这一比例为十分之七。 报告建议将决策任务与内容生成任务分开处理，但数据仅覆盖Vercel网关流量，不代表全市场；支出按牌价估算，且缺少针对具体工作负载的独立准确率对比。

AI 根据报道生成 · 12 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。