跳到正文
热点事件持续更新

AI推理后端数据推高存储成本

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

AI推理不仅产生用户可见的响应,还会在后端持续生成并留存日志、缓存上下文、渲染结果和备份,使存储成为随推理规模增长的成本。WD内部测量显示,一段8秒、720p的AI视频用户文件为3.97MB,相关后端数据超过500MB,约为前者的130倍。 WD赞助的IDC调查覆盖763名IT和业务决策者,近95%的受访者称,过去12个月生成式AI使用导致其数据量增加。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. MIT Technology Review AI
    AI推理的隐性存储成本:模型响应后留下什么

    WD出资制作的分析指出,AI推理会持续生成并留存日志、缓存上下文、渲染结果和备份等后端数据,使存储成为常被忽略且随推理规模增长的成本。WD内部测量显示,8秒的720p AI视频用户文件为3.97MB,后端关联数据超过500MB,是输出文件的130倍;WD赞助的IDC调查覆盖763名IT和业务决策者,近95%受访者称过去12个月生成式AI导致数据量增加。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。