用煮奶茶解释 KV Cache：为何第 500 个 token 不重算前 499 个

KV Cache 让模型生成第 500 个 token 时，无需重算前 499 个 token，原理如同持续温着茶底、接到新订单后只需倒入并加糖。其代价是 KV 缓存会随对话变长不断膨胀，因此长上下文推理会占用更多显存。