Microsoft-Decision-1 以更快的 AI 决策替代开放式推理
微软于 10 月 9 日推出 Microsoft-Decision-1，称这款专用 AI 模型可将结构化决策速度提升至 GPT-6 Sol 的 35 倍。此次发布挑战了 AI 开发中的一个常见假设：并非每一个智能环节都需要大型语言模型。
该模型不撰写报告、不进行对话，也不处理开放式问题的推理。它会在预定义选项中做出选择，并为每个选项分配概率。微软认为，这种更窄的能力范围适用于请求路由、内容分类、回答评分以及 AI agents 控制。
这使 Microsoft-Decision-1 所挑战的是通用模型路线，而非某个特定竞争对手。开发者经常使用同一个大模型完成起草、评估、工具选择和工作流控制。微软认为，当应用只需要快速且结构化的选择时，其中许多调用都是成本高昂的绕行。
支撑这一论点的数据主要来自微软。其基准测试套件包含公开和私有测试，而内部案例研究尚未获得广泛的独立复现。因此，这次发布与其说是尘埃落定的胜利，不如说是对重构 agentic 软件的一项严肃提议。
Microsoft-Decision-1 提供一种更聚焦的 AI 决策方式
Microsoft-Decision-1 用带概率评分的选项取代生成式回答，软件可以立即使用这些结果。
微软将该模型描述为一个决策评分系统。开发者提供情境、问题以及固定的一组可能答案。模型不会生成新文本，而是返回每个答案经过校准的概率。
这一差异决定了模型能做什么，以及不能做什么。例如，客户支持系统可以询问一条消息涉及账单、技术支持还是账户访问。Microsoft-Decision-1 可以对这些选项排序，并为下游逻辑提供置信度信号。
同样的结构也可用于控制 AI agent。可选项可以是继续、重试、停止、调用另一模型或请求人工审核。应用可以接受高置信度选择，同时将不确定的结果升级处理。
微软表示，它通过对 Qwen3.5-9B 进行后训练，构建了用于单次决策评分的模型。后训练是在初始的广泛训练完成后，为特定行为调整现有基础模型的过程。
底层模型拥有 90 亿参数，但微软并未将其定位为更小的聊天机器人。它的目标是以尽可能少的中间处理，将受约束的问题转化为可直接供应用使用的结果。
公开预览版可通过 Microsoft Foundry 和 OpenRouter 使用。Foundry model listing 将其描述为适用于分类、路由、评估和工作流控制的组件。
支持的回答格式包括是或否决策、多项选择题、评分以及基于量规的评级。量规是一套用于评估输出或拟议行动的既定标准。
这一范围使 Microsoft-Decision-1 与推理模型存在根本差异。它不应在没有预定义选项的情况下调查模糊问题、创造可能策略，或解释复杂结论。
微软自身的指南指出，该模型面向简单、可重复且对时间敏感的决策。需要延展推理或生成能力的任务，应继续使用能力更全面的模型。
这条边界是产品的核心。微软并非声称一个模型可以取代所有大型语言模型调用，而是主张开发者应先判断是否确实需要生成能力。
其结果类似于位于传统分类器和通用语言模型之间的专用工具。它能够理解自然语言上下文，但输出仍足够受限，适合进入应用逻辑。
这种组合之所以重要，是因为软件并不总能基于自由形式的散文安全地采取行动。结构化概率更容易验证、与阈值比较，并导入确定性规则。
因此，Microsoft-Decision-1 改变了工作单元。应用不再要求模型描述应该发生什么，而是要求它在开发者已批准的行动中做出选择。
为什么快速决策对 AI Agents 很重要
该模型最有力的论点来自架构：agents 每完成一项大型任务，都需要做出许多小型决策。
一个响应请求的 agent 可能需要选择工具、挑选相关记录、检查输出，并决定是否需要下一步。每一项选择都会增加一次模型调用。
当这些决策按顺序发生时，延迟会不断累积。微软指出，若在 20 个相互依赖的选择中每次增加 100 毫秒，整个工作流就会增加两秒。
这种延迟影响的不只是用户感受。缓慢的决策会持续占用计算资源、推迟依赖任务，并减少系统能够完成的作业数量。
随着 agents 获得更长的工作流，这一问题变得更加明显。聊天机器人可能在一次模型调用后生成一个回答；而运营型 agent 在产出结果前，可能要做出数十次路由、验证和重试决策。
在每个步骤中使用大型推理模型提供了灵活性，但也迫使系统反复调用许多步骤并不需要的能力。
支持路由器无需在选择队列前先写一篇文章。安全关卡在其获批结果只有允许、拦截或升级时，也不需要开放式创造力。
Microsoft-Decision-1 正是为解决这种错配而设计。模型处理受约束的决策，而生成式模型仍可用于需要写作、综合或更深入分析的步骤。
Microsoft Foundry guidance 将此呈现为模块化设计。生成、推理和决策成为同一应用中的独立组件。
模型路由提供了一个清晰示例。决策模型可以检查传入请求，并根据任务类型、质量需求和延迟要求选择合适的系统。
这种选择可能将简单的提取任务发送给较小模型。复杂的研究请求可以交给推理模型，而敏感案例可能需要人工批准。
决策模型并不完成这些任务。它负责控制任务流向，就像理解请求但不亲自完成每项工作的调度员。
验证是另一项重要用例。生成式模型可以起草回答，随后 Microsoft-Decision-1 可以依据预定义量规对其评分。
如果结果达到阈值，工作流将继续。较低的分数则可能触发修改、调用另一模型或人工审核。
这种模式为 AI agents 创建了潜在的控制层。但它也将责任集中在开发者设计的阈值、答案选项和量规上。
快速模型无法选择从未提供的选项。它也无法纠正一个获批选项遗漏最安全回应的工作流。
因此，此次发布将部分关注点从模型智能转向系统设计。在自动化变得可信之前，开发者必须定义状态、升级规则、置信度阈值和评估标准。
这项工作不如对话演示显眼，却也是许多生产系统成败所在。
Microsoft-Decision-1 如何宣称具备速度优势
微软的基准测试结果显示了显著的效率提升，但这些仍是供应商报告的数据，且测试套件部分为私有。
微软表示，它在包含近 15 万道问题的 36 个基准测试中评估了 Microsoft-Decision-1。这些测试涵盖路由、排序、长上下文、多语言输入、推理、安全性和陌生分布。
该公司称，这些基准测试与训练数据保持隔离。这意味着被评估的问题并未被刻意纳入模型的后训练数据。
据微软称，其模型在所比较的系统中获得了最高的总体准确率，并在公司的评估中录得最低的中位延迟。
微软报告称，Microsoft-Decision-1 的速度是延迟排名第二的 Quyet-1.0-Large 的 4.5 倍。据称，它比 GPT-6 Sol 快 35 倍。
这些比较需要谨慎解读。微软针对固定选项工作负载优化了 Decision-1，而 GPT-6 Sol 是一款能力超出这一狭窄测试范围的更广泛模型。
在分类竞赛中获胜，并不能证明 Microsoft-Decision-1 是更好的通用 AI 系统。它表明，当任务与专门化能力相匹配时，专用模型可以超越通用模型。
微软还通过以八种方式扰动等效请求来测试稳健性。这些变化包括重新排序选项、重命名键、改写描述以及无害的格式噪声。
该公司报告平均决策翻转率为 1.3%。它表示，当选项描述被改写，或选项被反转、打乱时，选择结果并未翻转。
一致性很重要，因为结构化系统通常依赖稳定的分类。当路由器仅因选项以不同顺序出现便改变答案时，可能引发不可预测的故障。
微软还在 11 项安全基准上评估了 5,250 个请求。据称，测试集包括有害内容、越狱尝试和提示注入。
该公司表示，模型在拒绝有害行为的同时保留了有用的回答。不过，微软尚未公开足够细节，使读者能够独立评估每一项安全结果。
technical launch post 提供了总体方法论和被比较模型的列表，但未公布每一个私有提示、标签、运行时配置或原始结果。
这限制了可复现性。硬件、批处理、输入长度、部署设置和网络条件都会对延迟测量产生实质影响。
准确率也可能取决于基准测试类别的加权方式。强劲的平均表现可能掩盖某个较小但重要任务类别中的弱项。
公开与私有测试的混合又带来了另一项复杂性。私有测试因其内容在训练期间不可获得，能够减少污染；但这也使外部研究人员无法完整复现评估。
微软在解释如何选择若干竞争决策模型时，引用了公开的 JevBench leaderboard。随后，它在更广泛的内部测试套件上评估了这些系统。
这一过程比测试单一、精心挑选的竞争对手更具参考价值。但微软仍掌控着工作负载选择、测量和报告。
对开发者而言，务实的回应既不应一概否定，也不应不加质疑地接受。Microsoft-Decision-1 值得测试，因为其架构理念可信，且所宣称的优势幅度很大。
决定性的基准测试应来自每个应用的真实流量。团队需要具有代表性的输入、预期标签、模糊案例以及现实的并发条件。
它们应衡量端到端完成时间，而不是某一次孤立响应。如果额外的重试或人工审核抵消了收益，更快的决策价值有限。
质量还需要针对具体任务进行加权。错误路由一项低优先级支持请求，与批准金融操作或控制实体设备，后果并不相同。
Microsoft 的亮眼数据提出了一个很有前景的假设。生产环境评估必须确定：当上下文、流量和故障成本反映真实运营情况时，这一优势是否依然存在。
内部测试展现机遇，也暴露证据缺口
Microsoft 的内部部署让这一模型变得具体可感，但这些案例也凸显出，大量证据仍来自 Microsoft 自身。
Xbox Research 使用 Microsoft-Decision-1 处理了超过 10,000 条开放式反馈。这些材料来自问卷、Steam 评价以及 X 上的帖子。
研究人员此前已确定用于分类的主题。模型的任务是将每条评论归入这些固定类别，而不是发现一套新的分类体系。
Microsoft 表示，该模型的质量可与 GPT-6 Sol 媲美，同时运行速度快了 14 倍以上。该公司还报告了显著的成本差异，不过理解这一架构成果并不需要商业层面的具体数字。
这一用例与该模型高度契合。输入包含多样化的自然语言，而所需输出属于一组由研究人员定义的稳定标签。
Copilot 团队测试了 Microsoft-Decision-1 用于评估聊天和智能体响应。Microsoft 表示，其质量可与 GPT-5.6 Luna 媲美，同时运行速度快 100 倍。
同样，该模型并不生成原始回复。它负责判断另一个系统的输出是否满足既定标准。
Microsoft 的事件响应团队评估了该模型从日志、工单、通话、消息及其他来源中检索相关知识的能力。该公司称，其表现优于且快于一款未具名的大语言模型。
这一描述缺少外部比较所需的多项细节。Microsoft 未说明竞争模型、评估数据集、错误分布或运营阈值。
Microsoft Discovery 提供了最有意思的智能体案例。其科学工作流会评估实验、给结果评分、修订方法，并重复这一过程。
Microsoft 表示，Decision-1 产生的评分一致性比基于 LLM 的方法高 46 倍。决策步骤运行速度快 3 倍，而自适应重新规划的完成速度接近快 4 倍。
这一结果显示，一个小型优化如何影响更长的工作流。更快的评分至关重要，因为后续每一步规划都要等待这一评估。
不过，一致性本身并不能证明正确性。模型可能反复给出同样错误的决定。
关键问题在于，稳定的评分是否与专家判断一致，并改善最终实验结果。Microsoft 尚未发布足够的外部证据来回答这一问题。
对概率校准也应保持类似谨慎。Microsoft 表示，应用可以利用置信度估计来决定何时行动或暂缓。
当被赋予 90% 置信度的预测约有 90% 是正确的时，该概率便是经过校准的。当生产数据与评估数据不同时，校准效果可能会恶化。
语言、客户行为、政策变化和新的攻击模式，都可能改变输入分布。测试期间有效的阈值，数月后可能变得不可靠。
对于高影响决策，人工审核仍然不可或缺。开发者应将置信度视为路由信号，而非保证。
模型的固定选项格式还带来另一种风险。分类系统会继承其标签中隐含的假设。
一个只有三个类别的支持系统，会将每一项被接受的请求归入其中一个类别，除非开发者提供“未知”或升级处理选项。高置信度无法弥补标签集本身的缺陷。
提示注入同样仍然值得关注。攻击者可能会在模型需要分类的内容中嵌入指令。
Microsoft 报告称已针对注入尝试进行了安全测试，但没有任何基准测试能覆盖所有生产环境情境。系统仍需要输入隔离、受限权限、监控和确定性的策略检查。
这些限制并不会否定这一产品。它们澄清了该产品的适当角色。
Microsoft-Decision-1 最适合被视为分层系统中的一个组件。它可以建议一项结构化操作，同时由应用代码执行权限控制，并由人工监督影响重大的例外情况。
Microsoft 的模型战略正变得更加模块化
Microsoft-Decision-1 表明，下一轮 AI 竞争将围绕完整的模型组合展开，而不只是最大的旗舰系统。
在第一波生成式 AI 浪潮中，Microsoft 与 OpenAI 的模型紧密关联。此后，该公司在继续通过 Foundry 分发多家提供商模型的同时，扩展了自己的 MAI 模型家族。
Decision-1 为这一战略增添了又一层。它目前基于 Qwen3.5-9B 构建，而 Microsoft 表示，未来版本将使用 Microsoft AI 和 OpenAI 的基础模型。
这一计划使决策架构比当前的基础模型更为重要。Microsoft 可以保留这一结构化接口，同时替换底层智能能力。
对客户而言，这可能减少模型变更带来的干扰。即使 Microsoft 在底层更新系统，应用仍可继续请求带概率评分的选项。
这也让 Microsoft 能够将 Foundry 定位为协调层。开发者可以组合不同模型，同时将部署、评估和工作流工具保留在 Microsoft 的平台内。
OpenAI 正通过其 Decisions API 推进相关概念。其他开发者也已发布用于路由和智能体控制的专用决策器。
因此，竞争并不只是 Microsoft 对阵 OpenAI。更重要的较量，是模块化 AI 系统与围绕单一通用模型构建的应用之间的竞争。
单模型方法更容易进行原型开发。开发者编写一个提示词，获得一个回复，再让同一系统处理下一步。
它的弱点会在规模化时显现。通用模型可能为重复性选择引入不必要的延迟、格式不稳定以及更高的运营开销。
模块化系统需要更多工程投入。团队必须确定每个步骤由哪个模型负责、定义接口、监控交接过程，并管理组件之间的故障。
当工作负载稳定且规模较大时，这种复杂性可能带来回报。当需求频繁变化或任务边界仍不清晰时，它也可能成为负担。
Microsoft-Decision-1 强化了模块化的理由，因为它在大型企业平台中提供了标准化决策组件。该模型可以处理路由，而无需迫使每个团队训练自定义分类器。
传统分类器仍是另一类竞争者。在拥有大量标注数据的狭窄任务上，它们可以极快且准确。
当输入包含自然语言且任务定义变化更频繁时，决策模型颇具吸引力。开发者可以描述选项并提供示例，而无需重建整套分类流水线。
正确的比较取决于工作负载。一个稳定的垃圾邮件过滤器或许不需要基于语言的决策模型。而服务于不断演变的产品和政策的支持路由器，则可能从中受益。
Microsoft 的模型也给其他云服务提供商带来战略压力。构建智能体的客户将越来越期待：除了生成式系统外，还要有专用的评估、路由、安全和控制模型。
赢家未必拥有每一个底层模型。它可能是提供最佳框架来选择、观测和治理这些模型的一方。
这正是 Microsoft 的优势所在。Foundry 已经接近企业应用、Azure 基础设施、身份控制和运营数据。
这种近距离并不能保证采用。开发者仍会比较可移植性、透明度、可靠性，以及在不同提供商之间迁移工作流的便利程度。
当应用逻辑依赖某一家提供商的概率或请求格式时，决策层可能成为锁定来源。团队应保留评估数据集，并尽可能保持路由规则的可移植性。
他们还应记录每项决策存在的原因、允许哪些选项，以及何时必须由人工介入。一份 AI workflow guide 可以帮助团队在自动化掩盖这些信息之前，捕捉这一运营背景。
更广泛的趋势已经清晰。AI 产品正从孤立的聊天体验，转向包含模型、工具、记忆、策略和控制循环的系统。
Microsoft-Decision-1 试图占据其中一个控制循环。它的重要性将取决于开发者是否认为决策是一个值得独立拆分的工作负载。
Microsoft-Decision-1 发布后值得关注的事项
三个信号将决定 Microsoft-Decision-1 会成为基础设施，还是仅停留在一个有趣的优化实验。
第一个信号是独立工作负载测试。开发者需要利用真实的路由、评分和分类任务，复现 Microsoft 在延迟和准确性方面的优势。
一项可信的评估应包括模糊案例、对抗性输入、分布变化和多个置信度阈值。它应报告端到端工作流结果，而不只是模型响应时间。
接近 Microsoft 所称结果的独立测试，将强化专用决策模型的论据。显著的准确率下降或频繁的升级处理，则会削弱这一论据。
第二个信号是 Microsoft 内部的生产环境采用情况。Xbox 反馈分析提供了一项内部测试，但在更大规模上的持续部署将提供更有力的证据。
Copilot 尤其重要。如果 Microsoft 在生产环境中使用 Decision-1 来评估回复、路由模型或控制智能体操作，该模型将面对多样化输入。
届时，Microsoft 应掌握有关漂移、虚假置信度和人工升级处理的运营证据。公开报告这些结果，将比又一次精心策划的演示更有意义。
第三个信号是承诺中的向 MAI 和 OpenAI 模型重新迁移基础。这一转变将检验决策架构能否在不同基础模型之间顺利迁移。
成功的重新迁移应在提升质量的同时，保留结构化接口和低延迟。它还应避免概率行为发生剧烈变化，以至于客户必须重建每一个阈值。
失败将暴露其对当前 Qwen3.5-9B 基础的依赖。成功则会表明 Microsoft 已经创建了一套可复用的后训练和评估系统。
开发者还应关注 Microsoft 如何记录版本变化。即使校准发生很小的变化，也可能改变应用自动采取行动的频率。
一次提升平均准确率的模型更新，仍可能扰乱某一个关键类别。团队需要版本化评估、受控发布，以及恢复早期行为的清晰路径。
该模型在智能体安全中的作用同样值得严格审视。快速评估可以帮助智能体在不安全操作发生前停止、重试或升级处理。
但速度不应成为移除监督的理由。决策模型仍然具有概率性，其置信度反映的是学习到的模式，而非对策略合规性的保证。
高影响应用应将模型评分与确定性控制相结合。访问规则、交易限额、审计日志和人工批准，应始终置于模型的自主裁量之外。
知识工作者即使从未直接调用该模型，也会感受到其影响。更快的路由能力可以改变请求到达工具、专家或自动化操作的速度。
企业采购方应询问决策层在何处运行，以及它会处理哪些数据。他们还应了解不确定的输出将如何处理，以及用户能否对分类结果提出异议。
开发者应从一个边界明确的工作流开始，而不是重新设计整个应用。一个有价值的试点应具备稳定的选项、可衡量的标签，以及实际存在的延迟问题。
支持请求路由、回复质量评估或事件分类都可以提供这样的测试。团队可以将 Microsoft-Decision-1 与当前使用的模型及既有的确定性逻辑进行比较。
最终的问题并不是 Microsoft-Decision-1 能否回答所有请求。它的价值取决于能否以更少的工作、更快的速度和足够可预测的方式，为更广泛的系统提供支持。
Microsoft 已提供证据表明，这一更专注的层级能够在结构化选择任务上胜过通用模型。现在，开发者必须确定，这些结果能否在 Microsoft 的基准测试之外持续成立。
如果能够，AI 架构将会按任务进一步分化。推理模型将处理复杂分析，生成式模型将创作内容，而决策模型将控制下一步发生什么。
这正是 Microsoft-Decision-1 背后的核心主张。下一步是在生产环境中测试一个决策环节，衡量完整工作流，并观察这种专业化是否值得占据一席之地。
