AGI Hunt· rseroter·· 1 小时前AI 评分52
Google 解释如何按 Agent 会话规划 GKE 节点池
Google:Agent 是会话不是请求,GKE 节点池要按会话来规划
AI 导读
Google 开发者博客解释了为何共享 GKE 集群中的编码 agent 不能按 Web 请求方式规划容量,应以持续保留状态的会话为单位。文中提到,典型多提示词会话中 agent 约 80% 的时间在等待用户,单轮工作平均约 6.5 分钟;Agent Substrate 可通过挂起 worker、保存快照并让 warm worker 承载多个会话来优化节点成本。
来源:AGI Hunt · agihunt.info