玩家公开8张3090本地推理集群实测

Reddit 用户 dazzou5ouh 公布了一套由 8 张 RTX 3090 组成的本地 AI 推理工作站配置，并用 vLLM、opencode 运行量化版 Qwen；其实测显示，单 Agent 约为 60 tok/s，10 个 Agent 并行时聚合峰值达到 370 tok/s。 该用户称，显卡购于涨价前，单卡约 600—700 英镑；系统通过功耗墙设为 270W 的改版 NVIDIA 驱动开启 P2P，同时存在待机功耗约 300W 的问题。

AI 根据报道生成 · 28 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。