产业观察🔥9.0
面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度
📋总体概括
面壁智能于10月13日发布新一代端侧多模态大模型MiniCPM-V 4.7,提供35B-A3B和1B两种规格,其中35B-A3B是该系列首个MoE模型。基于LES前瞻专家调度推理加速技术,该模型在iPhone 17 Pro Max上以仅3GB内存实现13+ token/s解码速度,号称首个支持端侧无损流畅运行的开源MoE模型。新模型支持iOS、安卓、鸿蒙三大系统,适配Intel、AMD、Arm、瑞芯微、后摩等芯片平台,并同步开源SRFT微调方案,官方称其综合得分超越Qwen3.6 35B-A3B。
⚡关键信息
- ▸MiniCPM-V 4.7提供35B-A3B和1B两种规格,35B-A3B是MiniCPM-V系列首个MoE模型
- ▸基于LES前瞻专家调度技术,在iPhone 17 Pro Max上仅用3GB内存实现13+ token/s解码速度
- ▸同时支持iOS、安卓、鸿蒙,适配Intel、AMD、Arm、瑞芯微、后摩等芯片平台
- ▸同步开源SRFT微调方案,帮助开发者低成本扩展能力并减少遗忘
- ▸官方称35B-A3B以更短推理时间在综合得分上超过Qwen3.6 35B-A3B,1B版显著领先Qwen3.5 0.8B
🔥犀利点评
3GB内存跑出13+ token/s,MoE端侧化确实摸到了实用门槛,面壁在端侧这条赛道上的卡位越来越像「移动端算力套利者」。但要泼冷水:跑分对比对象是Qwen,基准由谁定、何时测都得打个问号;真正的考验是有没有开发者真拿它出货量产产品,而不是发布会PPT上的benchmark。芯片平台铺得越广,适配维护成本也越重,开源只是第一张门票。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 IT之家 阅读全文 →