DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标实现大模型普惠

⚡关键信息

• ▸DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，此前已开源大模型、TileLang 编译工具及推理算子库。
• ▸DeepInfer 支持分布式推理、推测解码、SWA Bounded Replay、结构化输出，兼容英伟达与华为昇腾双平台。
• ▸同步开源 deepseek-recipe 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，保证社区与官方部署体验一致。
• ▸DeepSeek 已基于 DeepInfer 实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务，未来新模型推理代码持续更新。
• ▸开源目标为优化大规模推理吞吐与延迟，降低算力成本与能源消耗，实现大模型普惠。