天价内存把大厂逼成垃圾佬！拆退役服务器抠DDR4用

📋总体概括

谷歌供应链高级总监Nikhil Cherian披露，AI行业已从算力受限转向内存受限，高性能内存约占单台AI服务器物料成本的75%。为突破瓶颈，谷歌建立内部回收供应链，专门设计转接器，把退役服务器拆解出的DDR4模组重新用于新一代AI服务器，部分场景被迫从DDR5降级。软件端则通过优化底层函数库、模型架构和KV Cache压缩降低内存消耗，并推出TPU8t与TPU8i两款自研芯片，其中TPU8i配备288GB HBM3e、8.6TB/s带宽及384MB片上SRAM。