Agent循环利用前缀缓存降本

两篇文章分析称，在 Agent 每轮重复发送系统提示、工具定义和完整对话历史的场景中，启用 LLM 前缀缓存可让命中部分按正常输入价格约 2% 计费，最高节省 50 倍成本。 这一效果取决于输入前缀相同且能够命中缓存；报道未表明所有请求或所有缓存操作都按该费率收费。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。