GPU选型主导开源模型托管盈亏

Yingjun Wu以DeepSeek V4.1 Flash为例测算开源模型托管经济性，认为GPU租赁价格和型号对盈亏的影响大于推理引擎选择。H200 8卡即使满载收入仅每卡1.6美元，盈亏平衡利用率也需244%，无法覆盖租金；B300 8卡约35%利用率可保本。 在GB300 NVL72上，标准配置满载收入每卡18.1美元，需84%利用率保本；使用NVIDIA Dynamo后收入增至32美元，48%利用率保本，经vLLM机架级调优可达64.7美元，24%利用率保本，70%负载时毛利率为66%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。