资讯
公开 · 已发布
Tomasz Tunguz 称 AI 基础设施瓶颈正从 GPU 转向存储
风险投资家 Tomasz Tunguz 表示，AI 基础设施的瓶颈正从 GPU 转向内存、CPU 和存储。他指出，2023 年初的 GPU 冲击导致 H100 的租金超过每小时 $9，并使服务器出货量减少了 22%，随后制造商将产能转向 HBM，导致企业级 SSD 价格在一个季度内上涨了 80%，DRAM 价格上涨了 60% 以上。
发布时间：
更新时间：
发生了什么
风险投资家 Tomasz Tunguz 表示，AI 基础设施的瓶颈正从 GPU 转向内存、CPU 和存储。他指出，2023 年初的 GPU 冲击导致 H100 的租金超过每小时 $9，并使服务器出货量减少了 22%，随后制造商将产能转向 HBM，导致企业级 SSD 价格在一个季度内上涨了 80%，DRAM 价格上涨了 60% 以上。
已确认
全球影响 / 市场背景
更高的存储和内存价格会增加 AI 公司的支出，减少可用于其他项目的现金。服务器制造商的销量可能减少，而芯片制造商的收入可能增加。投资者可能会看到科技公司的收益受到这些成本增加的压力。
分析师推断
AI 的构建依赖于许多组件，而不仅仅是 GPU，因此任何瓶颈都可能减缓增长并增加成本。购买服务器的公司可能会推迟其资本支出计划，将投资者的注意力转移到内存和存储供应商身上。
分析师推断
下一步关注
- Tunguz 描述了一种接力赛模式，其中每个限制因素都会使供应链的某些部分冻结数年，并锁定更高的成本基础，这意味着价格可能长期保持高位。 已确认
- 关注 SSD 和 DRAM 价格是否会持续上涨，因为过去的上涨表明服务器成本持续承压，硬件公司的每笔销售利润可能降低。 提议
- 如果成本限制持续存在，服务器出货量可能会下降，损害硬件收入，而 AI 开发商可能会寻求更便宜的存储或计算选项来抵消费用。 分析师推断