sujeedev 发布 5 分钟可视化讲解 LLM API 调用全链路：从网关到 GPU

sujeedev 发布一段约 5 分钟的 LLM API 调用全流程可视化讲解，追踪请求从客户端经网关、分词器、路由器、队列到 GPU，再通过 prefill + decode 和流式响应返回结果。视频还介绍 KV caching / Prompt caching、缓存感知路由、Continuous batching、Prefill/decode 分离部署与投机解码。