资讯🔥8.0

OpenBMB Releases MiniCPM5-2B: A 2.52B Dense Model Averaging 53.9 Across 34 Benchmarks and Built to Run On Device

marktechpost.com·2026/9/7 19:18:07🔗 原文

📋总体概括

OpenBMB发布端侧稠密语言模型MiniCPM5-2B,参数量约25.2亿,原生支持131072 token上下文。在其模型卡34项基准测试中平均得53.9分,超过Qwen3.5-4B的51.1分,优势集中在工具调用、编程代理与长上下文检索。后训练阶段使用400B token深度思考SFT,结合强化学习教师与把16个专家模型合并为单一权重的on-policy蒸馏。权重以Apache 2.0开源,同时放出预训练、SFT、RL数据集及Base/Midtrain/SFT中间检查点。GGUF版本最小1.56GB,标准LlamaForCausalLM架构可直接在vLLM、SGLang、llama.cp

关键信息

  • MiniCPM5-2B为2,516,756,480参数的稠密因果语言模型,原生上下文长度达131072 token。
  • 34项基准平均53.9分,领先Qwen3.5-4B的51.1分,最强项为工具使用、编程代理与长上下文检索。
  • 后训练用400B token深度思考SFT,配合RL教师和将16个专家模型合并为单一检查点的on-policy蒸馏。
  • 以Apache 2.0开源权重,并同步发布预训练、SFT、RL数据集及Base、Midtrain、SFT-only中间检查点。
  • GGUF量化从1.56GB起,标准LlamaForCausalLM架构可在vLLM、SGLang、llama.cpp、Ollama、MLX直接加载。

🔥犀利点评

端侧模型的竞争已经从卷参数变成卷交付完整度。MiniCPM5-2B最狠的不是53.9的平均分——34项基准的自家模型卡排名本就有选择性嫌疑——而是把数据集、中间检查点、蒸馏全链路一起开源,这才是真正降低复现门槛的动作。用2.5B参数在长上下文和工具调用上压过4B级对手,说明训练数据与蒸馏质量正在替代参数规模成为决定性变量。唯一要警惕的是:没有第三方评测验证前,这些分数看看就好。

本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文