vLLM Semantic Router 开源多模态决策模型 Decision 3.0
继大语言模型之后，用于"理解输入、做判断"的决策模型正成为业界关注的新方向。近日，vLLM Semantic Router 正式开源了 Decision 3.0 系列多模态决策模型，共推出 6 款不同参数规模的版本，覆盖从 0.6B 到 27B 的轻量与旗舰配置，并以 Qwen 系列作为基座打造。
核心亮点：双榜登顶
在权威的 Jev Decision Index 全球测评中，Decision 3.0 旗舰模型 d3 表现亮眼：
- 文本决策榜：64.7 分，位列第一；
- 视觉决策榜：71.6 分，同样拿下榜首。
这意味着该模型不仅在纯文本判断场景中具备领先实力，也能在图像等多模态输入下保持稳定表现。
模型家族一览
Decision 3.0 系列共有 6 款型号，参数规模从 0.6B 到 27B 不等，开发者可根据实际业务对效果与成本的权衡灵活选择：
- 轻量档位（0.6B～数 B）：适合资源受限的边缘或本地推理场景；
- 中量档位（10B 左右）：兼顾效果与部署成本，适合中等规模生产环境；
- 旗舰档位（27B）：面向对准确率要求最高的复杂决策任务。
输出方式与典型应用场景
与常规生成式模型不同，Decision 3.0 专为"决策"而设计，调用后可直接返回判断结果及对应概率，无需复杂后处理，便于嵌入既有系统。该模型支持本地部署，常见应用方向包括：
- 客服分流：识别用户问题类型，决定路由给人工还是不同机器人；
- 内容审核：判断文本或图片是否违规，并输出违规置信度；
- 风险识别：在金融、账号安全等场景中给出风险等级评估；
- 意图分类：作为对话系统前置模块，提升下游模型理解效率。
开源与本地部署价值
对于关注数据安全与合规的企业而言，Decision 3.0 系列的开源属性与本地化部署能力尤为重要。开发者可在自有环境中运行模型，避免将敏感业务数据外传到远程推理服务，同时基于开源权重进行二次微调，以贴合特定业务场景。
随着多模态决策模型在多个榜单中开始超越传统分类方案，这类"看懂输入、做出判断"的工具型模型有望在企业 AI 基础设施中扮演更核心的角色。