推理工程：AI 最被低估的核心技能，一文讲透 Prefill 与 Decode

推理工程正成为 AI 被低估的核心技能，文章拆解 Prefill 与 Decode 的负载与优化。FlashAttention、PagedAttention、Continuous batching 与量化可缓解显存、带宽和调度压力。生产系统须关注 TTFT、ITL/TPOT、KV 占用、尾延迟与吞吐，而非只看 tokens/s。