跳到正文
热点事件持续更新

Altman称本地推理是浪费算力,应优先提升云端利用率

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Sam Altman表示,在DRAM供应紧张的情况下,把算力分散到用户设备做本地推理是糟糕的分配方案:家用设备每天只有约5%的时间处于使用状态,大量囤积存储会闲置算力。他主张优先提升数据中心(云端)的利用率,认为数据中心仍不可替代。 他还提出,认为“开源模型已经解决本地推理问题”的直觉是错误的。他的主张针对全球算力在云端与终端之间的整体分配,并非否定所有本地推理场景。

AI 根据报道生成 · 38 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    Sam Altman:全民本地推理是糟糕的算力分配方案

    Sam Altman 表示,“开源模型让本地推理问题已解决”的直觉是错误的。在 DRAM 供给紧缺且设备一天仅使用约 5% 的情况下,人人囤积本地设备会造成算力资源闲置;相较之下,云上推理凭借更高利用率,才是更合理的方案,数据中心仍不可替代。

  2. AGI Hunt
    Sam Altman:本地推理是对稀缺算力的糟糕分配,云上利用率才是正解

    Sam Altman 认为,在算力供给紧缺时,应优先提升数据中心侧的算力利用率,而不是把算力分散到终端进行本地推理。让家庭设备各自囤积全球供应有限的 DRAM、每天仅使用 5% 的时间,从全局资源分配看并不合理。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。