Liquid Inference 推理平台以缓存感知的报价排序提升路由效率

Liquid Inference 推理平台日均服务 100 亿 token，周增速为 200%，其路由算法按预期实际费用对报价排序。在 47 万次计费任务中，88.7% 的输入 token 通过缓存读取，以减少多轮对话和 agent 场景中的重复 prefill。