跳到正文
AGI Hunt· AIFlow_ML·· 4 小时前AI 评分36

AWS 8 万 Agent 基准实测:闲置 Agent 仅占约 100KB 内存

8 万 Agent 压测实测:闲置 Agent 仅占约 100KB 内存

AI 导读

AWS 发布的基准在单颗 AMD EPYC 9R14 单线程上模拟 8 万个 Agent,每个执行 20 轮对话,共产生 320 万次模型调用,实测每个闲置 Agent 约占 100KB 内存。其关键架构是工具调用立即返回、结果异步推回 Agent 队列,使 100ms 查询与运行 3 天的 CI 任务可无缝共存。

来源:AGI Hunt · agihunt.info