Agent延迟主因或在模型外编排

一位企业级 AI Agent 工程师通过延迟追踪发现，Agent 变慢时，模型本身往往不是主要原因，时间主要消耗在工具调用、检索重排、任务规划及重试等待等编排环节。 他建议逐步追踪各环节耗时，设置延迟预算并流式输出最终答案；对分类和路由任务，则可交给更小的模型处理。

AI 根据报道生成 · 24 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。