产业观察
什么是Decision 3.0?vLLM Semantic Router推出全新开源决策模型
原标题: 什么是Decision 3.0?vLLM Semantic Router推出全新开源决策模型
📋总体概括
vLLM Semantic Router发布Decision 3.0,推出5个Apache-2.0开源许可的多模态决策模型,参数规模覆盖0.8B至27B。这批模型针对文本和图像,可直接输出选择题、是非判断与评分结果,一次调用即完成,无需生成自然语言文本。其意义在于把LLM从「生成文本」转向「输出决策」,为路由、分类、审核等场景提供低成本、低延迟的开源替代方案,丰富了开源多模态模型生态。
⚡关键信息
- ▸vLLM Semantic Router正式发布Decision 3.0系列决策模型
- ▸共5个模型,采用Apache-2.0许可,参数规模从0.8B到27B
- ▸模型为多模态,可同时处理文本和图像输入
- ▸支持三类任务:选择题、是非判断和评分
- ▸一次调用直接输出决策结果,无需生成文本
🔥犀利点评
把大模型从「会说话」逼成「只做判断」,这个方向其实很清醒——90%的工程场景要的不是作文,是一个确定的选项。小到0.8B就能干活,配合Apache-2.0开源,摆明了要抢分类器和传统NLP流水线的饭碗。但决策类模型的价值全在准确率和延迟上,官方没给基准数据之前,先别急着上生产。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 marktechpost.com 阅读全文 →