MIT Technology Review · AI· Tim Rausch·· 11 小时前AI 评分30
AI 的隐性存储账单:推理之后留下了什么
AI’s hidden storage bill: What inference leaves behind
AI 导读
AI 推理每次响应都会在后台留下大量数据,WD 实测一段 8 秒、用户端仅 3.97MB 的 720p 视频,后端关联数据超 500MB,放大约 130 倍。WD 委托 IDC 调查 763 名 IT 与业务决策者,近 95% 称过去 12 个月生成式 AI 带来数据量增长,约 61% 增幅达 25% 以上。
来源:MIT Technology Review · AI · technologyreview.com