跳到正文
AGI Hunt· teortaxesTex·· 3 小时前AI 评分50

OpenRouter 日处理 5.2T token,大 V 追问 GPU 到底去了哪

OpenRouter 日处理 5.2T token,大 V 追问 GPU 到底去了哪

AI 导读

OpenRouter 昨日服务了 5.2T tokens,开发者 shoucccc 仅用 64 块 B300 和 64 块 M890P 就处理约 1.8T tokens,并质疑“GPU 都去哪了”。据其估算,DeepSeek 每天处理 155T tokens,约需 2600 块 GB200,由此追问头部推理平台囤积的大量 GPU 实际消耗在哪些 token 上。

来源:AGI Hunt · agihunt.info