AGI Hunt· scaling01·· 2 小时前AI 评分52
Epoch AI 发布推理性能指数 IPI,GB300 推理优势被估为 H100 的 25 倍
Epoch AI 推出推理性能指数:GB300 对 H100 推理优势达 25 倍
AI 导读
Epoch AI 发布推理性能指数 IPI,称仅用 FLOP/s 会严重低估新芯片的推理能力。按 GB300=1 计算,AMD MI455X 以 2.89 居首,Nvidia VR200 为 2.18,H100 为 0.04,最新芯片推理容量最高可达 H100 的 72 倍。该指数同时纳入显存带宽与芯片间通信,可用于横向比较芯片,并估算数据中心乃至全球的总推理容量。
来源:AGI Hunt · agihunt.info