跳到正文
AGI Hunt· AI Engineer·· 3 小时前AI 评分57

imec 实测编码 agent 自建 GPU 的成本与盈亏平衡

imec 实测:自建 GPU 跑编码 agent 何时不亏,并发比准确率更关键

AI 导读

imec 团队通过数千次 benchmark 评估编码 agent 从 API 转向自有 GPU 的真实成本。测试基于 SWE-Bench Pro,结果显示并发数对经济性的影响大于模型准确率,小系统需要约 89% 的 GPU 利用率,而 8x B200 大机器约需 15%;选择合适的 harness 还可在同等结果下将 GPU 时间减少一半。

来源:AGI Hunt · agihunt.info