买卡、租卡还是调用 API？GPU 利用率决定每 GPU 小时真实成本

推理算力选型最终取决于自身利用率下的有效 $/GPU-hour，API 适合低流量或波动场景，租 GPU 适合中等需求，机器长期高负载时买断可能更划算。模型 API 按 token 付费，离线批处理使用 OpenAI Batch API 可省 50%；H200 按需租赁约为 $2–10+/GPU 小时，专业云通常为 $4–6，AWS/Azure 成本更高。