跳到正文
AGI Hunt· Hesamation·· 2 小时前AI 评分40

Sam Altman:全民本地推理是糟糕的算力分配方案

Altman:全民本地推理是糟糕的算力分配方案

AI 导读

Sam Altman 表示,“开源模型让本地推理问题已解决”的直觉是错误的。在 DRAM 供给紧缺且设备一天仅使用约 5% 的情况下,人人囤积本地设备会造成算力资源闲置;相较之下,云上推理凭借更高利用率,才是更合理的方案,数据中心仍不可替代。

来源:AGI Hunt · agihunt.info