LLM 路由如何为每个请求选择模型与工具

Turing Post 讲解了 LLM 路由的核心思路，路由器可以由规则、分类器、小神经网络或另一个语言模型实现。常见策略包括按任务类型分流、依据历史运行数据预测候选模型表现，以及在预测质量与成本之间取舍。模型路由不能只选择“最可能的第一名”，还需比较不同模型偶尔失败与持续稳定之间的整体差异。