AGI Hunt· kevinnbass·· 3 小时前AI 评分55
Kevin Bass 用 3 台电脑撑起 36 个编程 Agent,主张本地推理用 CPU 而非 GPU
3 台电脑跑满 CPU 撑 36 个编程 Agent,他说本地推理该用 CPU 别追 GPU
AI 导读
Kevin Bass 晒出用 3 台电脑搭成的迷你集群,共 120+ 线程,负载维持在 38%-70%,同时运行 36 个交互会话、24 条 Codex lane 和多路 Claude 任务。他的观点是本地负载更该增加 CPU 数量而非追求 GPU,并通过负载分配、内存门控和磁盘水位监控做配套管理,还计划再买 6 台机器。
来源:AGI Hunt · agihunt.info