罗福莉官宣小米 MiMo-V3 采用全新架构，核心 HySparse 2 今日发布

📋总体概括

9月23日，小米MiMo大模型负责人罗福莉官宣MiMo-V3将采用全新架构，核心组件HySparse 2同日发布。新架构面向智能体推理场景优化：在1M Token长度下，预填充计算量降低5.02倍，KV缓存缩小4.5倍，同时长上下文检索的MRCRv2和RULER-v2评分更高、AgentPPL和LongPPL更低。技术路线包括遵循YOCO思路的KV桥接、稀疏层复用全注意力层KV缓存的KV重用，以及用Token级选择替代块级选择等改进，直指智能体工作负载下预填充成本、缓存大小与检索准确率同时卡脖子的痛点。