Microsoft Decision-1 将 Qwen 变为 AI Agents 的快速控制层

Microsoft 于 10 月 9 日推出 Microsoft Decision-1，将 Alibaba 的 Qwen3.5-9B 转变为专门用于快速、结构化决策的模型。它不再生成回答，而是在预定义选项中作出选择，并赋予可供软件立即执行的概率。

正是这一更聚焦的定位带来了真正的张力。Microsoft 推出的并非又一个聊天机器人或推理助手，而是一个控制层：它可以路由请求、评估 AI 回答、确定事件优先级、验证数据，并决定一个 agent 是否继续执行。

Qwen 这一基础同产品类别本身一样重要。尽管 Microsoft 正在投资自研 MAI 模型，并维持与 OpenAI 的重要合作关系，其首个版本仍依赖 Alibaba 开发的开放模型。Microsoft 表示，后续版本将采用其他基础模型，包括来自 MAI 和 OpenAI 的模型。

该模型现已通过 Microsoft Foundry 和 OpenRouter 以公开预览形式提供。Microsoft 报告称，它在一项广泛的内部评估中取得领先成绩；但在将关键决策委托给它之前，开发者仍需进行与实际工作负载相匹配的测试。

Microsoft Decision-1 为选择而生，而非写作

Microsoft Decision-1 将快速的运营决策，与生成及推理开放式文本所需的高成本工作分离开来。

传统大型语言模型接收提示词后，会生成一连串 token。这种灵活性使其能够起草邮件、解释概念、编写代码和分析模糊材料。但当应用只需要一个有限范围内的答案时，它也会带来延迟和不确定性。

Microsoft Decision-1 面向的正是这一有限场景。开发者提供一些上下文和一组固定选项，例如批准、拒绝或升级处理。模型会为这些选项评分，并返回包含置信度信息的结构化结果。

Microsoft 的发布详情将路由、分类、优先级排序、验证和工作流控制列为其主要工作负载。支持的问题类型包括是非决策、评级、多项选择和基于量规的评估。

这种结构可以简化应用代码。客服系统无需解析一段文字，即可将消息分类为账单、技术或账户相关问题。一个 agent 可以选择继续、重试、调用另一项工具，或请求人工审核。

同样的方法也适用于模型路由。应用可以将基础分类任务发送给较小模型，同时将复杂请求留给推理模型处理。决策层由此成为连接用户、模型、工具和业务流程的流量控制器。

Microsoft 将其称为单次决策评分。模型无需先生成冗长的推理轨迹，便可得出选择。这种设计减少了连续生成的 token 数量，并使响应时间更可预测。

概率是该接口的核心部分。模型可以将某个选项识别为最可能的结果，同时表明自身置信度较低。应用开发者随后可以设置自动执行、审核或升级处理的阈值。

这一差异十分重要，因为仅有分类标签会掩盖不确定性。仅以微弱优势偏向某一选项的结果，不应触发与压倒性高置信度结果相同的自动化操作。Microsoft 希望概率输出成为工作流逻辑的一部分。

该模型并非对生成式 AI 的通用替代方案。它无法仅因快速返回决策，就将模糊请求变成一份深思熟虑的报告。开发者必须定义选项、提供相关上下文，并确定评分结果返回后应采取何种行动。

该模型也无法取代常规的软件规则。当正确结果可由可信数据直接推导时，确定性条件仍然更合适。当语言、噪声证据或变化的上下文使固定规则难以维护时，决策模型才会变得有用。

这让 Microsoft Decision-1 处于传统分类器和通用语言模型之间。它拥有现代基础模型的语言理解能力，但输出受到约束，以满足运营场景的需求。

这一转变听起来并不显眼，却改变了开发者在 AI 系统内部划分工作的方式。生成成为其中一个组件，而结构化判断成为另一个组件。

Microsoft 为何基于 Qwen3.5 构建其决策模型

Microsoft 对 Qwen3.5-9B 的选择表明，基础模型正在成为专用 AI 产品中可替换的组件。

Microsoft 表示，它通过对 Qwen3.5-9B 进行后训练，打造了首个 Microsoft Decision-1 版本。后训练是在基础模型完成广泛的初始训练后，使其适应特定行为的过程。

最终产品并非只是换了名称的 Qwen endpoint。Microsoft 针对预定义选项的选择和评分进行了优化，而非保留原始通用模型的全部能力。

Qwen3.5-9B 提供了一个相对紧凑的起点，其中已编码了语言和推理能力。Microsoft 可以将额外训练重点放在概率校准、响应一致性、安全行为和结构化决策任务上。

Alibaba 将更广泛的 Qwen3.5 系列介绍为原生多模态模型家族，旨在支持推理、编程、agent 任务和高效推理。9B 模型为 Microsoft 提供了一个足够小的基础，适用于更大工作流中的高频决策。

这一选择也反映了开放模型开发如何改变竞争边界。一家云计算和商业公司的模型，可以成为另一家公司分发产品的基础。价值可以从预训练转向后训练、评估、托管、集成和应用设计。

Microsoft 并未将 Qwen 描述为永久依赖。该公司表示，计划将决策模型重新建立在 MAI 和 OpenAI 的基础模型上。这种表述使其架构看起来是有意保持可移植性的。

可移植的决策层赋予 Microsoft 灵活性。它可以测试不同的基础模型，同时保持面向开发者的任务稳定：提交上下文、定义选项、接收评分并应用策略。

这种方法还可以降低 Microsoft 模型目录内部的切换成本。如果服务保持一致的 schema、校准、延迟和评估工具，开发者或许不会太在意究竟是哪种基础模型生成了评分。

然而，更换基础模型并非中性的实现细节。每个基础模型都可能以不同方式理解指令、分配不同的概率分布，并对陌生输入作出不同反应。未来的重新建立将需要谨慎的回归测试。

这一策略给基础模型提供商带来压力。专门的后训练可以将一个可互换的开放模型，转化为拥有自身 API、基准测试和分发渠道的品牌产品。

它也给 Microsoft 带来压力。该公司必须证明，其额外训练和部署层的贡献不只是围绕 Qwen 包装的一段提示词。校准、对格式变化的韧性，以及在未知工作负载上的表现，将决定这种差异化能否成立。

因此，Qwen 的关联并非脚注。它证明了一个更模块化的市场正在形成：公司通过模型、任务专用训练、评估系统和云端交付来组装产品。

Microsoft 的首个版本依赖这种模块化。其长期计划将检验决策行为能否在底层基础发生变化后得以延续。

速度是实现机制，但目标是连续工作

主要优势并非单个答案能快速到达，而是重复决策为 agent 的完整工作流增加的延迟更少。

AI agents 很少只作出一次选择。它们会选择工具、验证其参数、评估结果、判断是否需要下一步，并检查某项操作是否需要批准。

延迟会在这些步骤中不断累积。Microsoft 举了一个简单例子：在 20 次连续决策中的每一次增加 100 毫秒，便会为完整工作流增加两秒。

Microsoft 报告称，Microsoft Decision-1 在其 36 项基准测试比较中取得了最高准确率。该评估包含近 15 万道来自公开和私有基准测试的问题，Microsoft 表示这些问题在训练期间保持盲测。

该公司还表示，在其比较中，该模型的速度是排名第二的 H2O-Lightning-4B v1.1 的 2.5 倍。其报告的中位延迟速度约为 GPT-6 Sol 的 35 倍。

这些是 Microsoft 的测量结果，并非涵盖所有部署环境的独立结论。网络位置、服务商基础设施、批量大小、输入长度和工作负载设计，都会改变观测到的延迟。

不过，这一机制是可信的。输出有限评分的模型，可以避免生成式回答所需的长输出序列。当软件需要作出数十个小型判断时，这种差异会变得显著。

Microsoft 描述了几项内部测试。据报道，Xbox Research 使用该模型，将超过 10,000 条反馈归入研究人员定义的主题。源材料包括调查问卷、Steam 评论和社交媒体帖子。

据 Microsoft 称，该测试在质量上可与 GPT-6 Sol 竞争，同时运行速度超过其 14 倍。该公司还报告，其 Copilot 团队发现，该模型可实现与 GPT-5.6 Luna 相当的质量，但延迟低得多。

在事件响应测试中，Microsoft 表示，该模型有助于从日志、工单、电话、消息和其他运营材料中选择相关知识。这是一种自然的决策工作负载，因为系统通常需要在人工调查前对信息进行排序或路由。

Microsoft Discovery 在自适应科学工作流中测试了该模型。一个 agent 评估实验，根据量规对结果评分，并修订其计划。Microsoft 报告称，相比其基于 LLM 的替代方案，该模型的评分更一致，重新规划速度也更快。

这些示例共享一种模式。该模型并不生成最终产物，而是在选择、标记、检查或指挥系统的另一部分。

这种分工可以帮助团队控制推理预算，而无需削弱每一个环节。更大的推理模型可以处理困难部分，而决策模型则处理频繁、受约束的选择。

它还可以提升可观测性。带有命名选项和概率评分的结构化决策，比非结构化段落更易于记录。团队可以将评分与最终结果进行比较，并随时间检测性能变化。

对于知识密集型工作流，这一控制层可以决定应搜索哪个知识库、哪个结果应被优先处理，或何时检索证据不足。它补充了维护良好的 AI 知识库，而非取代检索或来源验证。

当应用提出的问题框定不佳时，速度优势便会减弱。如果开发者提供重叠选项或不完整的上下文，快速回答只会加速一个有缺陷的工作流。

因此，Microsoft Decision-1 将部分工程工作前移。团队必须定义有意义的选项、设定升级阈值，并收集能够揭示模型置信度是否合理的结果。

基准测试无法制定你的自动化政策

Microsoft 在基准测试中的领先表现，是测试该模型的理由，而不是允许它在缺乏控制措施的情况下做出高影响力决策的许可。

Microsoft 表示，其评估涵盖路由、排序、长上下文输入、多语言任务、推理、安全性以及分布外示例。这种广度比单一分类分数更有价值。

该公司还通过以八种方式扰动请求来测试稳健性。Microsoft 报告称，平均而言，1.3% 的扰动导致决策发生变化。

该公司表示，当选项描述被改写，或选项被颠倒或打乱时，模型没有出现决策翻转。这一结果回应了语言模型分类中的一个常见弱点：无害的呈现方式变化也可能改变答案。

概率校准是另一项重要测试。校准良好的模型，其置信度应与其在代表性案例中的实际准确率相匹配。被赋予约 90% 置信度的预测，应该十次中约有九次正确。

这一特性使应用能够使用置信度阈值。高置信度决策可以继续执行，不确定案例可以交由更大的模型处理，而敏感案例则可以始终要求人工批准。

不过，校准不会自动从基准测试迁移到一家公司的数据上。在通用分类任务上接受测试的模型，遇到专业术语、异常客户行为或不断变化的欺诈模式时，可能会变得过度自信。

公开的 JevBench 测试 展示了这一问题的另一维度。它们测试概率决策在问题被改写、否定、重新分组、翻译，或以变化后的选项集呈现时，是否仍保持一致。

这些测试衡量的是一致性，而不是每项决策是否都正确。模型可以始终稳定地犯错。它也可能在带标签示例上得分良好，却在应用选项结构稍作变化后产生不稳定的概率。

Microsoft 的核心比较结合了公开和私有基准。私有测试可以减少直接训练数据污染，但外部人士无法完整审查或复现评估的每一个部分。

开发者在接受基准测试主张前应提出几个问题：竞争模型是否经过了最佳配置？它们是否获得了等价的提示词？延迟测量是否通过可比的基础设施收集？结果重复测试了多少次？

工作负载设计同样重要。内容路由基准无法证明模型在医疗优先级排序、财务审批、访问控制或人事决策中的可靠性。

Microsoft 表示，它使用覆盖有害内容、越狱尝试和提示词注入的 11 项基准，对 5,250 个请求进行了安全测试。该公司称，模型在保留实用性的同时拒绝了有害行为。

这是有用的证据，但它并不能界定何为安全部署。控制代理的模型可能会将一次分类错误放大到后续行动中。其输出可能将数据路由至错误工具、批准不安全操作，或阻止一项合理任务。

置信度分数也可能诱使开发者产生虚假的精确感。只有当团队了解概率在自身数据上的表现时，它才有用。0.92 的结果并不意味着具有普遍保证。

生产测试应包括历史案例、困难的边缘案例、对抗性指令、选项顺序变化以及陌生输入。团队应将模型与简单规则和传统分类器比较，而不应只与更大的 LLM 比较。

他们还应衡量每种错误类型的成本。错误升级会浪费员工时间，而错误批准可能引发安全或合规事件。总体准确率可能掩盖这种不对称性。

Microsoft Decision-1 执行的是有边界的选择，但其后果仍可能没有边界。必须由部署政策而非模型来决定何时可以接受自动化。

真正的竞争是专用模型与通用 LLM 之争

Microsoft 押注于这样一种理念：当不再由一个昂贵模型处理每一个步骤时，AI 系统会运行得更好。

许多早期 AI 应用几乎将每项任务都发送给同一个通用模型。该模型负责分类请求、检索信息、选择工具、起草回答、检查输出，并决定是否继续。

这种架构在原型开发阶段很方便。但当应用规模扩大，并反复处理数千项简单决策时，它就会变得低效。

Microsoft Decision-1 推崇一种模块化替代方案。生成模型负责内容创建，推理模型负责复杂规划，检索系统提供证据，决策模型控制有边界的状态转换。

因此，Microsoft 的主要对手不是 Alibaba 或 Qwen，而是将通用 LLM 用于每一项操作的做法。

专用路线具有明确优势。它可以降低延迟、返回可预测的数据类型、提供置信度分数，并让应用行为更易于监控。

但它也会引入协调成本。开发者必须选择由哪个模型处理每项任务，管理多种故障模式，并在信息于组件间流动时保留上下文。

通用模型有时能够解决固定选项集遗漏的歧义。它可以质疑错误前提、请求更多细节，或提出开发者未曾预料的选项。

有边界的决策模型无法选择不存在的选项。因此，应用需要提供诸如未知、证据不足或人工审查之类的退出路径。

来自更简单技术的竞争同样存在。当团队拥有稳定标签和足够训练数据时，传统机器学习分类器可能更便宜、更易审计。当决策遵循明确政策时，普通规则仍然更可取。

当语言变化使规则变得脆弱、而输出空间仍可控时，新模型便体现出其价值。示例包括路由支持请求、评估生成式回答、确定事件报告优先级，以及检查代理操作是否符合评分标准。

Microsoft 的分发渠道为该模型带来了另一项优势。Foundry 预览版将其置于企业开发者已经在使用的其他模型和服务之中。

OpenRouter 提供了第二条访问路径，也让跨提供商的比较更加容易。开发者可以让同一决策工作负载与多个模型对比，无需重建整个应用。

这种可用性使模型路由本身成为一个产品类别。决策模型可以根据任务类型、延迟要求、风险或预期质量，在生成模型之间作出选择。

这形成了一种不同寻常的递归结构：AI 模型生成输出，而另一个 AI 模型决定应由哪个模型工作、结果是否可接受，以及下一步将发生什么。

这种架构可以运作，但需要明确的权责边界。低风险分类器可以自动行动。评估法律、财务、安全或安保后果的模型，则应面对更严格的阈值和人工监督。

Microsoft 的决策模型并未终结专用与通用之争。它为开发者提供了一种在自身系统中衡量这种权衡的具体方式。

如果专用模型在减少累积延迟的同时保持质量，模块化代理架构将更具可信度。若集成和错误处理抵消了这些收益，团队将回归到数量更少、能力更强的模型。

Microsoft Decision-1 发布后值得关注什么

三个信号将表明 Microsoft 创造的是一个持久的模型类别，还是仅仅一个有说服力的基准测试结果。

第一个信号是客户工作负载上的表现。团队应使用真实的、接近生产环境的数据，衡量决策准确率、校准度、延迟和升级率。

仅靠采用率无法证明可靠性。高请求量可能反映实验、推广展示，或低风险分类任务。来自持续部署的证据将更重要。

有价值的案例研究应报告该模型相对于现有规则、分类器和通用 LLM 的表现。它们还应披露错误成本，而不只是平均准确率。

强有力的结果应显示，Microsoft Decision-1 能够在数据变化时保持校准度，并缩短端到端工作流时间。频繁的人工覆盖或静默误路由将削弱 Microsoft 的论点。

第二个信号是 Microsoft 承诺摆脱 Qwen3.5-9B。该公司表示，计划将模型重新构建在 MAI 和 OpenAI 基础模型之上。

这一转变将检验产品的决定性行为究竟来自 Microsoft 的后训练方法，还是来自 Qwen 基础模型。开发者应关注延迟、校准度、支持的输入、安全行为和基准测试结果是否发生变化。

Microsoft 还必须说明版本变化将如何影响现有应用。即使获胜选项保持不变，微小的概率变化也可能让案例跨越自动化阈值。

稳定的版本管理和回归工具将至关重要。团队需要一种方式，在替代模型改变生产决策之前对其进行测试。

第三个信号是独立评估。Microsoft 的 36 项基准比较覆盖面很广，但外部研究人员和客户必须复现其中最重要的主张。

独立测试应包括局部错误会不断累积的长期运行代理任务。模型可能快速做出每一次选择，却会因许多步骤中的小错误不断叠加而降低最终任务完成率。

评估者还应测试陌生领域、对抗性的选项描述、缺失选项以及相互矛盾的上下文。这些条件比干净的多项选择题更接近生产环境。

开发者可以从 Microsoft 的部署指南开始，但实施应从影子测试着手。在团队将模型决策与人工或系统结果进行比较的同时，模型可以为真实案例评分而不控制最终结果。

Qwen 基础使此次发布在战略上值得关注，但更大的故事关乎架构。Microsoft 正在要求开发者停止将生成视为每项 AI 任务的默认解决方案。

这一论点值得认真测试。快速、结构化的评分可以让代理更具响应性，也更易于观察。它也可能创建一个自动化控制点，其置信度看起来比实际更值得信赖。

下一步应当务实：在现有工作流中识别一个频繁出现且有边界的决策，并将其与当前方法进行测试。衡量最终结果、置信度校准、延迟、人工覆盖和错误严重程度。

如果 Microsoft 的决策模型在这些条件下胜出，它就拥有超越基准图表的价值。若未能胜出，规则、分类器或通用 LLM 仍将是更好的选择。