SHADOWPREFILL 论文：为 Agent 逐步模型路由预热下一个模型

SHADOWPREFILL 论文聚焦 Agent 场景下 LLM 服务的逐步模型路由，通过保持下一个模型处于预热状态，处理路由切换时的预热问题。其目标是降低推理服务延迟，但正文未提供具体性能数据或实验结果。