跳到正文
AGI Hunt· useralltime_835·· 1 小时前AI 评分67

多步 Agent 通过裁剪上下文与缓存降低 token 账单

历史重发致 token 爆炸:裁剪上下文加缓存省一半账单

AI 导读

多步 Agent 通过裁剪上下文、摘要压缩早期轮次并缓存 system prompt,将每任务 15 次工具调用的账单降低一半以上。案例中的三步 Agent 因每步重发全部历史而持续增加 token 消耗,调整后质量未出现下降。

来源:AGI Hunt · agihunt.info