MIT Technology Review AI· Tim Rausch·· 5 小时前AI 评分63
AI推理的隐性存储成本:模型响应后留下什么
AI’s hidden storage bill: What inference leaves behind
AI 导读
WD出资制作的分析指出,AI推理会持续生成并留存日志、缓存上下文、渲染结果和备份等后端数据,使存储成为常被忽略且随推理规模增长的成本。WD内部测量显示,8秒的720p AI视频用户文件为3.97MB,后端关联数据超过500MB,是输出文件的130倍;WD赞助的IDC调查覆盖763名IT和业务决策者,近95%受访者称过去12个月生成式AI导致数据量增加。
来源:MIT Technology Review AI · technologyreview.com