AGI Hunt· james_y_zou·· 2 小时前AI 评分58
单节点 8×B200 承载 3000 个 DeepSeek 智能体,容量提升 19 倍
单节点 8×B200 跑 3000 个 DeepSeek 智能体,容量提升 19 倍
AI 导读
James Zou 转发的这项工作优化了 agent swarm 推理引擎,在单个 8×B200 节点上服务超过 3,000 个 DeepSeek-V4.1-Flash 智能体,相比官方 serving 方案 agent 容量提升 19 倍。该应用演示中,agent swarm 在 EinsteinArena 的两个优化问题上发现了新的顶级解决方案。
来源:AGI Hunt · agihunt.info