Agent 循环中的 LLM Prefix Caching 省钱方法

长文系统讲解 Agent 循环中的 LLM 前缀缓存省钱方法，通过保持提示词前缀一致提高缓存命中率。在 Nebius 上，DeepSeek V4.1 Flash 1017 的未缓存输入为 $0.30/1M tokens，缓存命中仅 $0.006/1M，即目录价的 2%。文章还说明缓存属于 best-effort，并给出读取缓存指标、排查代码及制定预算的方法。