AGI Hunt· swarmagent·· 3 小时前AI 评分63
Swarm 用三项保存优化将 200 个并发 LLM agent 完成时间从 42 秒降至 23 秒
200 个并发 LLM agent 跑在 1GB 内存、$6/月的 VM 上：瓶颈是自家的保存锁
AI 导读
Swarm 团队在两台 1GB 内存的 Google e2-micro VM 上测试 200 个并发 LLM agent，并通过缩小锁范围、提前释放锁和缓存会话缩短保存耗时。
来源：AGI Hunt · agihunt.info