跳到正文
热点事件持续更新

Jasper Zhang 提出盘活闲置GPU

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Hyperbolic 创始人 Jasper Zhang 团队在首届 SGLang Summit 提出,AI 推理优化不能只提升单块 GPU 的效率,还应通过算力网格利用闲置 GPU。团队称,闲置 GPU 即使经过优化也不会产出 token,流动的算力网络则可让 GPU 获得有效使用。 Hyperbolic 的目标是建立全球统一、具有生产力且算力可流动的网络;目前这是该团队提出的方案,并非已经建成的全球算力网络。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    Hyperbolic 创始人谈 SGLang 推理优化:算力优化之外还要盘活闲置 GPU

    Hyperbolic 创始人 Jasper Zhang 团队在首届 SGLang Summit 提出,推理优化除提升每块 GPU 效率外,还需通过算力网格盘活闲置 GPU。团队指出,闲置 GPU 即使优化再多也不会产出 token,而算力网格可确保 GPU 小时被有效使用;Hyperbolic 的目标是建立全球统一、有生产力、可流动的算力网络。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。