跳到正文
AGI Hunt· AccBalanced·· 3 小时前AI 评分46

GPU 回本吞吐要求大涨,推理服务商利润被挤压

AI 导读

SiliconData 的「compute crunch spread(紧缩利差)」指标显示,自 5 月以来,GPU 达到按需租金盈亏平衡线所需的最小 token 吞吐量上涨 25% 至 83%。依靠开源权重模型推理收入回收 GPU 租金成本的门槛大幅抬高,推理服务商的利润空间受到挤压。

来源:AGI Hunt · agihunt.info