Altman称本地推理是浪费算力,应优先提升云端利用率
热点事件持续更新
Altman称本地推理是浪费算力,应优先提升云端利用率
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Sam Altman表示,在DRAM供应紧张的情况下,把算力分散到用户设备做本地推理是糟糕的分配方案:家用设备每天只有约5%的时间处于使用状态,大量囤积存储会闲置算力。他主张优先提升数据中心(云端)的利用率,认为数据中心仍不可替代。 他还提出,认为“开源模型已经解决本地推理问题”的直觉是错误的。他的主张针对全球算力在云端与终端之间的整体分配,并非否定所有本地推理场景。
AI 根据报道生成 · 38 分钟前更新
最新进展10月30日 00:40
Sam Altman:全民本地推理是糟糕的算力分配方案报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- AGI HuntSam Altman:全民本地推理是糟糕的算力分配方案
Sam Altman 表示,“开源模型让本地推理问题已解决”的直觉是错误的。在 DRAM 供给紧缺且设备一天仅使用约 5% 的情况下,人人囤积本地设备会造成算力资源闲置;相较之下,云上推理凭借更高利用率,才是更合理的方案,数据中心仍不可替代。
- AGI HuntSam Altman:本地推理是对稀缺算力的糟糕分配,云上利用率才是正解
Sam Altman 认为,在算力供给紧缺时,应优先提升数据中心侧的算力利用率,而不是把算力分散到终端进行本地推理。让家庭设备各自囤积全球供应有限的 DRAM、每天仅使用 5% 的时间,从全局资源分配看并不合理。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。