电脑硬件
JetBrains 发布 Mellum 2.1:面向编程智能体的 12B MoE 开源模型
原标题: JetBrains 发布 Mellum 2.1:面向编程智能体的 12B MoE 开源模型
📋总体概括
JetBrains 发布 Mellum 2.1,一个采用 Apache 2.0 开源协议的 12B 参数 MoE 思维模型,激活参数仅 2.5B。通过在真实代码仓库中执行强化学习训练,其在 SWE-bench Verified 基准上的得分从 2.0 跃升至 47.0。这款面向编程智能体的小激活模型展示了 MoE 架构配合真实场景 RL 训练在代码智能体领域的显著成效,为开源编程模型提供了轻量高效的选项。
⚡关键信息
- ▸JetBrains 发布 Mellum 2.1,采用 Apache 2.0 协议完全开源
- ▸模型总参数 12B,MoE 架构下激活参数仅 2.5B,定位为思维推理模型
- ▸训练方式为在真实代码仓库中进行强化学习
- ▸SWE-bench Verified 得分从 2.0 大幅提升至 47.0
- ▸模型明确面向编程智能体场景设计
🔥犀利点评
从 2.0 到 47.0,这个跨度说明基座本身几乎不会做智能体任务,真正值钱的是那套真实仓库里的 RL 流程,而不是 12B 的参数量。2.5B 激活的 MoE 思路没错,轻量可私有部署对 IDE 厂商是刚需,但 SWE-bench 单一分数救不了口碑,能不能扛住真实工程的长尾脏活,还得看开发者上手后的实测。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文 →