产业观察🔥8.0
DeepSeek把核心商业秘密也开源了:每张卡每小时能赚38美元
📋总体概括
DeepSeek发布DeepSeek V4.1 Flash大规模推理部署实践文章,开源了云服务推理框架DeepInfer,公开其核心商业机密。该框架兼容多厂商计算芯片,用8卡机器做Prefill、64~128卡超节点做Decode,支持KVCache保留72小时以上以减少重复计算。基于该框架,其单一集群服务吞吐达155万亿Tokens/天,整体收入为每卡每小时38美元(按谷价)。此举延续了DeepSeek开源AI基建技术、回馈社区的风格,但未公布集群总数与显卡数量,真实总营收仍无法估算。
⚡关键信息
- ▸DeepSeek开源大规模云服务推理框架DeepInfer,并公布V4.1 Flash部署实践细节
- ▸架构设计为8卡机器做Prefill,64~128卡超节点做Decode,按两阶段负载特征调度
- ▸支持KVCache保留72小时以上,缓存命中时可减少重复Prefill计算
- ▸单一集群服务吞吐达155万亿Tokens/天,整体收入为每卡每小时38美元(按谷价)
- ▸框架兼容多厂商计算芯片,但未公布集群总数与显卡数量,无法估算总营收
🔥犀利点评
把推理框架这种真正压箱底的赚钱机器开源,DeepSeek又一次打破了AI行业的常规打法。每卡每小时38美元按谷价计费,等于直接把行业推理成本的天花板和自己的账本摊在桌面上,这对靠API差价吃饭的对手是降维打击。不过只给单集群数据不报总规模,多少有些留了一手,开源的是能力,藏住的才是底牌。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →