开发者修复本地Agent缓存失效问题

一位开发者排查本地 Agent 性能瓶颈后确认，自建 harness 每轮重写压缩后的历史，导致 KV 缓存反复失效；改为缓存压缩结果、以追加方式维护历史，并仅在上下文真正溢出时重新压缩。 离线重放中，历史重写次数从15次降至5次，重读文本减少61%；同一任务前后各运行3次，prefill耗时由327秒降至196秒，总时长由721秒降至541秒，完成质量不变。开发者称，一次1274秒的运行中有552秒、即43%的时间耗费在历史被改动的调用上。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。