AI产业遭遇内存瓶颈 谷歌拆解旧服务器回收DDR4救急

📋总体概括

谷歌供应链基础设施高级总监尼基尔·切里安在行业峰会透露，DRAM供应持续紧张下，AI产业的瓶颈已从算力不足转为内存受限，高性能内存占AI服务器BOM成本约75%。为解燃眉之急，谷歌开始拆解退役服务器回收可用DDR4内存，并设计转接卡让DDR4接入新一代AI服务器，部分场景甚至以DDR4替代原定DDR5。同时谷歌在硬件上为TPUv8i配备288GB HBM3e和分层存储体系，软件端通过KV缓存压缩等手段降低内存开销。