Standard Kernel披露Gaudi2优化性能
热点事件持续更新
Standard Kernel披露Gaudi2优化性能
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Standard Kernel披露,其用AI自动生成的内核软件优化Intel Gaudi2后,解码吞吐达到475 tokens/s,公司称为NVIDIA H100的1.60倍;cached prefill吞吐为5,409 tokens/s,约为H100的1.08倍。 该数据来自公司披露。Standard Kernel认为,芯片性能和经济性不仅取决于硬件,软件栈同样关键,并正在构建用AI编写内核软件的产品。
AI 根据报道生成 · 48 分钟前更新
最新进展11月19日 01:36
Standard Kernel 用 AI 优化 Intel Gaudi2 内核,解码速度达 H100 的 1.6 倍报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI HuntStandard Kernel 用 AI 优化 Intel Gaudi2 内核,解码速度达 H100 的 1.6 倍
Standard Kernel 披露,经 AI 自动生成软件优化后,Intel Gaudi2 的解码吞吐达到 475 tokens/s,为 NVIDIA H100 的 1.60 倍。其 cached prefill 吞吐为 5,409 tokens/s,是 H100 的 1.08 倍。公司认为芯片性能与经济性不只取决于硬件,软件栈同样关键,并正构建用 AI 编写内核软件的产品。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。