从 CPU 到 GPU 到推理服务：一个故事讲透 LLM 推理基础设施全链路

一篇故事化科普长文从模型权重文件出发，逐步讲清 LLM 推理基础设施从 CPU、GPU、VRAM 到多卡多机服务化的完整链路。70B 模型约占 140GB，16GB VRAM 无法容纳，因此需要将模型分布到多卡或多机并对外提供推理服务。