长会话变慢源于上下文管理而非模型推理

一名 Reddit 作者认为，编码 Agent 在长会话中出现的行为退化，主要来自上下文管理策略，而不是模型推理速度本身。其观察是：对话历史不断增长、工具输出大量灌入上下文窗口，会与上下文压缩、细节丢失叠加成一条退化路径，模型因此反复读取已给过的信息，消耗更多 token 并拖长完成回合。 较早卸载（更早移除）上下文的 Agent 表面上表现稳定，但作者也指出压缩本身会带来遗忘风险，因此两条路径各有代价。他主张用「最终产出质量 × 总 token 消耗」作为评估指标，而不是只看单次响应速度或单看上下文裁剪方式。 这一结论来自该作者的实测观察与主张，属个人经验性说法，尚未给出对照实验数据，也未说明适用的模型、Agent 框架与任务范围。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。