华为已为KV Cache单独做存储，专用SSD规格却还没定下来

📋总体概括

大模型推理产生的KV Cache数据量激增，正催生一个独立的存储品类。华为在全联接大会上推出OceanStor M900，英伟达也推出了CMX Context Memory Storage，两大巨头同时下场，印证了KV Cache专用存储已成行业共识。不过由于该场景需求较新，专用SSD的规格标准尚未确定，产品形态与技术路线仍在探索之中，存储厂商与AI基础设施厂商正围绕这一新兴市场展开布局。