跳到正文
AGI Hunt· bookwormengr·· 1 小时前AI 评分43

vLLM 称 Rubin 助吞吐提升 90 倍,AI 供需估值分析遭批

vLLM 称 Rubin 助吞吐提升 90 倍,分析师算供需全抽象化被批

AI 导读

vLLM 博客称,借助 Rubin 硬件与一系列优化,吞吐量较此前最高可提升 90 倍以上,高交互速率下约有 9000% 提升,低交互速率下也有 3-4 倍提升。作者批评以“AI 供给 vs 需求”评估估值的分析师过于抽象,忽略架构与软件优化在单代硬件内的潜力,并诉诸杰文斯悖论。

来源:AGI Hunt · agihunt.info