资讯🔥8.0
内存还凭啥大涨价 DS V4.1 Flash优化之神:HBM、SSD用量暴跌75%以上
📋总体概括
DeepSeek发布V4.1 Flash大模型,采用Causal-Encoder-Decoder全新架构,拥有5520亿主干参数并外挂1960亿参数Engram条件记忆模块,规模较V4 Flash提升一倍多。通过KV Cache主缓存改用FP4并跨层复用,每Token全局KV缓存降至890字节,仅为前代1/4,SSD/内存中缓存约降至1/8,大幅削减HBM与SSD用量。速度达前代3-4倍,API缓存命中价降60%,综合使用成本约减半。
⚡关键信息
- ▸V4.1 Flash采用Causal-Encoder-Decoder新架构,5520亿主干参数外挂1960亿Engram条件记忆,规模较V4 Flash翻倍
- ▸每Token全局KV缓存仅890字节,约为V4 Flash的1/4,SSD或内存中的长期缓存进一步降到约1/8
- ▸KV Cache主缓存改为FP4精度并跨层复用,HBM内存与SSD用量仅为此前的1/4到1/8
- ▸速度达500-600 Token/s,是V4 Flash的3-4倍,高负载下也约翻倍
- ▸API缓存命中价格下跌60%,综合使用成本大约减半
🔥犀利点评
在内存、SSD借AI之名狂涨5-10倍的当口,DeepSeek用一场架构层面的降维打击告诉世界:算力焦虑很大程度是自己卷出来的。KV缓存压到890字节、外挂条件记忆代替堆参数,这才是工程实力的体现。真正该慌的是靠囤HBM抬价的存储厂商——当推理成本被优化到只需1/8,凭稀缺叙事撑起的涨价终会露出原形。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →