瑛太 Huang 发布新视频《How LLM Serving Actually Works》拆解 LLM Serving 技术

AI 研究者瑛太 Huang 发布新视频《How LLM Serving Actually Works》，系统讲解 LLM 推理服务背后的关键技术，覆盖让 serving 更快、更便宜、更可扩展的各类优化手段。视频面向想理解调用 API 之后到底发生了什么的开发者，适合用于学习推理服务栈的原理。