跳到正文
热点事件持续更新

Standard Kernel披露Gaudi2优化性能

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Standard Kernel披露,其用AI自动生成的内核软件优化Intel Gaudi2后,解码吞吐达到475 tokens/s,公司称为NVIDIA H100的1.60倍;cached prefill吞吐为5,409 tokens/s,约为H100的1.08倍。 该数据来自公司披露。Standard Kernel认为,芯片性能和经济性不仅取决于硬件,软件栈同样关键,并正在构建用AI编写内核软件的产品。

AI 根据报道生成 · 48 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Standard Kernel 用 AI 优化 Intel Gaudi2 内核,解码速度达 H100 的 1.6 倍

    Standard Kernel 披露,经 AI 自动生成软件优化后,Intel Gaudi2 的解码吞吐达到 475 tokens/s,为 NVIDIA H100 的 1.60 倍。其 cached prefill 吞吐为 5,409 tokens/s,是 H100 的 1.08 倍。公司认为芯片性能与经济性不只取决于硬件,软件栈同样关键,并正构建用 AI 编写内核软件的产品。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。