CMU与USC发布ServerBench评测编码代理推理系统

CMU与USC团队发布ServerBench基准，评测编码Agent从零设计专用LLM推理服务系统的效果与性价比；在11个Agent模型、3种部署配置共33次运行中，22次产出通过独立验证的系统，13次超过最强基线。 评测使用带会话依赖回放的真实编码会话。Claude Sonnet 5.5为Gemma E4B搭建的系统在1块L40上达到vLLM参考实现4.87倍的每美元价值；在Qwen3.5 9B、2块L40配置下达到2.7倍，每次成本约97美元，GPT 6.1 Sol则以更低成本取得约1.8倍增益。代码与博客已开源。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。