跳到正文
AGI Hunt· lyraxana·· 3 小时前AI 评分30

曝 Google 开发 Smart AI Routing:简单请求走小模型以降低成本与延迟

曝 Google 开发 Smart AI Routing:简单请求走小模型省钱提速

AI 导读

Google 正据第三方爆料开发基于 Jev 的“Smart AI Routing”,按请求复杂度将任务分配给不同规模模型。简单请求走更快、更便宜的小模型,复杂请求交由更重的模型,以在准确率基本不变的前提下降低延迟和成本;该消息尚未获 Google 官方证实。

来源:AGI Hunt · agihunt.info