跳到正文
热点事件持续更新

Epoch AI发布芯片推理性能指数

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Epoch AI发布推理性能指数(IPI),认为仅用FLOP/s会严重低估新芯片的推理能力,并估计GB300相对H100的优势被低估约10倍。按GB300=1计算,AMD MI455X指数为2.89、英伟达VR200为2.18,H100仅0.04;其估算称,最新芯片的推理容量最高可达H100的72倍。 IPI同时纳入显存带宽和芯片间通信,可用于横向比较芯片,并估算数据中心乃至全球的总推理容量。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    Epoch AI 发布推理性能指数 IPI,GB300 推理优势被估为 H100 的 25 倍

    Epoch AI 发布推理性能指数 IPI,称仅用 FLOP/s 会严重低估新芯片的推理能力。按 GB300=1 计算,AMD MI455X 以 2.89 居首,Nvidia VR200 为 2.18,H100 为 0.04,最新芯片推理容量最高可达 H100 的 72 倍。该指数同时纳入显存带宽与芯片间通信,可用于横向比较芯片,并估算数据中心乃至全球的总推理容量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。