8卡H200自托管与API成本打平点测算

一位GPU系统从业者测算，自托管8卡H200与API的成本打平点约为每月48亿tokens。以每月消耗50亿tokens计，自托管可能更具成本优势；这一结论基于特定硬件、定价和成本假设。 该测算假设8卡节点购置成本约32.9万美元，按48个月摊销，并计入每月约800美元电费和25%的运维开销，月固定成本约9600美元；API价格则按每百万tokens 2美元计算。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。