Microsoft MAI-Base-2 以 4-12 倍训练效率主张挑战 DeepSeek
Microsoft MAI-Base-2 已完成预训练,总参数量达 2.8 万亿,每个 token 激活 800 亿参数。Microsoft 表示,在四项留出评测中,其训练方案的 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4.2 至 12.3 倍。
这一比较为 Microsoft 带来了醒目的标题,但并不能证明 MAI-Base-2 是更优秀的成品助手。该模型仍处于后训练阶段,没有公开端点,也缺乏独立基准测试结果。Microsoft 通过拟合的扩展曲线,而非两次等价训练运行,计算得出了这一效率区间。
不过,这一公告仍标志着 Microsoft AI 战略的重要转变。Microsoft 不再只是介绍内部实验,或仅仅封装由其他实验室提供的模型。它正在展示自研前沿模型背后的架构、数据管线和大规模基础设施。
DeepSeek 成为核心参照对象,是因为其开放权重的基础检查点为 Microsoft 提供了可见的外部基准。这一比较也揭示了报道中的主要张力:Microsoft 希望市场现在就评判其训练方案,而开发者尚无法评估最终产品。
Microsoft MAI-Base-2 是一次已完成的训练运行,而非产品发布
Microsoft 已完成一次规模异常庞大的预训练运行,但尚未发布可供客户测试的成品模型。
Microsoft 于 2026 年 10 月 15 日通过一份详细的预训练报告披露了 MAI-Base-2。该公司将其描述为混合专家模型,即 MoE,它会将每个 token 路由至有限数量的专用参数组。
该模型包含 2.8 万亿总参数,每个 token 激活 800 亿参数。这种稀疏设计使 Microsoft 能够在每次前向传播时不调用全部参数的情况下提升整体容量。
Microsoft 在 2026 年 8 月和 9 月期间,使用 16,000 块 Nvidia GB200 GPU 对该模型进行了为期 38 天的训练。其报告的平均模型 FLOPs 利用率为 21%,有效吞吐率为 89%。
模型 FLOPs 利用率衡量理论处理器容量中有多少用于报告的训练计算。有效吞吐率衡量训练实际推进所占的经过时间比例。这些指标描述的是系统效率的不同部分。
Microsoft 以每块 GPU 2.5 petaflops 的密集 BF16 性能为基准,对其利用率数据进行了标准化。它在报告的 FLOPs 计算中排除了优化器和重计算操作。在跨实验室比较利用率指标时,这些选择很重要。
底层硬件属于 Nvidia 的机架级 Blackwell 平台。公开的 GB200 specifications 展示了紧密互连的 GPU 域如何支持大规模训练和推理工作负载。
Microsoft 表示,后训练现已展开。这一后续阶段通常会在基础模型学习到通用统计模式后,塑造其指令遵循、推理行为、安全控制和交互质量。
这一差异避免了对公告的常见误读。Microsoft 尚未推出基于 MAI-Base-2 的聊天机器人、可下载检查点或通用 API。它公布的是这些潜在产品底层基础模型的相关证据。
这一基础还包括原生视觉训练。Microsoft 使用了无编码器的视觉语言架构,这意味着图像信息直接进入模型,而不是由单独预训练的图像编码器担任主要前端。
该公司报告称,其视觉语言语料库包含 4.5 万亿个独特 token。计入重复数据后,视觉材料占该模型 50 万亿 token 训练混合数据的 18%。
Microsoft 表示,与 MAI-Base-1 相比,更广泛的语料库在独特 token 数量上增长了约 36%。其网络数据的知识截止时间为 2026 年 3 月。
这些细节使 MAI-Base-2 不只是一次参数数量公告。Microsoft 正在记录一套完整的训练系统,涵盖数据选择、多模态输入、模型路由、优化和 GPU 利用率。
不过,现有证据止步于预训练边界。开发者仍无法衡量响应质量、延迟、可靠性或部署要求。企业买家也尚无法将其运行表现与现有 Foundry 模型进行比较。
因此,当前事件的界定十分明确:Microsoft 已完成预训练,并披露了这次训练的运行方式。商业化和面向用户的发布仍在后面。
Microsoft MAI-Base-2 的效率主张为何重要
这一效率主张之所以重要,是因为 Microsoft 正在论证,支撑其不断扩大的自研模型计划的是更优的训练方法,而非仅仅是参数数量。
Microsoft 表示,在四项选定评测中,其训练方案达到 DeepSeek-V4-Pro-Base 损失水平所需的训练 FLOPs 少 4.2 至 12.3 倍。FLOPs 衡量浮点运算次数,是计算工作量的常见近似指标。
这一表述比“Microsoft 在 MAI-Base-2 上的投入仅为十二分之一”更为狭窄。该公司承认,其最终模型使用的训练算力大幅高于 DeepSeek 的检查点。
Microsoft 转而提出了一个假设问题:采用 Microsoft 训练方案的模型,需要多少计算量才能达到 DeepSeek 的每字节比特数得分?
每字节比特数,即 BPB,用于衡量模型在不依赖其 tokenizer 的情况下,对留出数据进行预测的效率。BPB 越低,表示模型在受测材料上的预测压缩能力越好。
Microsoft 分别为代码、科学、数学和问答数据拟合了扩展曲线,然后找出每条曲线达到 DeepSeek-V4-Pro-Base 水平时的计算量节点。
由此得出了 4.2 至 12.3 倍的区间。Microsoft 表示,这些匹配节点均落在其观测到的扩展阶梯内,从而降低了远超实测实验范围进行推断的风险。
这种方法比不考虑计算量、仅比较最终损失值提供了更多信息。它试图将训练方案本身的贡献,与单纯构建更大模型所带来的影响区分开来。
不过,这仍然是基于 Microsoft 评估框架构建的模型化估算。它并非在完全相同的硬件、数据、软件和核算规则下,直接复现 DeepSeek 的训练运行。
这些评测衡量的也是基础模型的预测质量,而非直接衡量指令遵循、工具使用、事实可靠性、安全性,或企业应用的实际运行体验。
这一差异对买家至关重要。一种训练方案可能以单位训练算力获得更好的损失表现,却仍可能产出延迟不便或任务表现不稳定的产品。
Microsoft 还报告称,相比 MAI-Base-1,其 FLOPs 效率提升了 6.3 至 12.7 倍。这一内部比较提供了第二个参考点,但仍依赖于 Microsoft 的方法和所选评测。
该公司表示,它将这些效率收益重新投入到更大规模的训练运行中。这一选择揭示了其战略目标:Microsoft 利用效率在既定算力预算内扩展能力,而不只是降低资源总消耗。
这种做法也解释了为何公告聚焦于预训练工程。Microsoft 需要证明,它能持续将基础设施和研究变革转化为更好的扩展表现。
模型规模强化了这一信息。其 2.8 万亿参数中,每个 token 仅激活 800 亿,因此总容量和每 token 计算量遵循不同的增长轨迹。
不过,激活参数数量并不直接等同于推理成本。内存移动、专家通信、批处理、上下文长度、精度和服务软件都会影响实际部署性能。
因此,4.2 至 12.3 倍这一数据具有意义,但也存在边界。它支持 Microsoft 关于训练方案有所改进的主张,却不能定论哪种模型在生产环境中更便宜、更快或更有用。
真正的竞争是 Microsoft 的训练方案对阵 DeepSeek 的开放基准
Microsoft 选择 DeepSeek 作为对手,是因为可访问的基础检查点比其他公司的封闭生产级助手提供了更清晰的参照。
根据其公开的模型材料,DeepSeek-V4-Pro-Base 包含 1.6 万亿总参数,并激活 490 亿参数。其可用性使得架构和评估审查比与无法访问的基础模型进行比较更具可行性。
Microsoft 将 DeepSeek-V4-Pro-Base 称为当前最强的开放权重基础模型。它还表示,在 Microsoft 进行这项比较时,这是唯一已发布、参数超过一万亿的基础检查点。
这并不意味着该比较完全对称。MAI-Base-2 的总参数和激活参数更多,消耗的计算量更大,并使用了 Microsoft 的私有训练语料库。
两种模型也体现出不同的战略定位。DeepSeek 在其条款下公开权重,供研究人员和运营者检查或部署。Microsoft 尚未向 MAI-Base-2 提供同等程度的公开访问。
Microsoft 表示,它最终计划通过 Foundry 向可信合作伙伴授权模型权重。这一路径会将访问置于受管理的商业合作关系中,而非不受限制的开放权重发布。
目前的 Foundry catalog 已展示来自 Microsoft、OpenAI、Anthropic、DeepSeek、Meta、Mistral 及其他提供商的模型。自研前沿模型将为 Microsoft 在这一多元化目录中提供另一项筹码。
因此,与 DeepSeek 的比较服务于两个目的:它为 Microsoft 提供了严苛的技术参照,也支撑了其对自主掌控模型管线的更广泛主张。
Microsoft 已可通过其云平台分发第三方模型。若没有内部前沿模型计划,它所缺少的是对训练数据、架构决策、发布时间和模型专属优化的完全控制。
MAI-Base-2 从基础层面解决了这种依赖。Microsoft 表示,它在内部处理了每一个训练 token,并避免从其他模型进行蒸馏。
这一主张很重要,因为模型蒸馏可以将更强教师模型的行为迁移到更小或更新的系统中。Microsoft 希望其进展被归因于自身的数据和优化管线。
该公司还表示,它依据其负责任 AI 政策筛选了来源,并排除了出现在美国贸易代表办公室“恶名市场”名单上的网站。这些控制措施支持其面向企业客户的数据来源可追溯性主张。
然而,若不披露更完整的语料库,外部人士仍难以审计数据来源。Microsoft 提供的是原则、处理说明和汇总数据,而非训练来源的完整清单。
DeepSeek 也面临自身的验证限制。公开权重允许更广泛的评估,但不会揭示数据集构建或基础设施核算背后的每一项决策。
因此,这场竞争并非一场纯粹的实验室竞赛。它比较的是两个采用不同硬件配置、数据集、架构、披露实践和分发策略的组织。
微软的优势在于一体化基础设施和客户覆盖。DeepSeek 的开放检查点让独立开发者能够立即查看和测试模型。
MAI-Base-2 尚无法宣称拥有这种实际优势。在访问范围扩大之前,微软更有力的证据仍在于训练过程,而非模型在现实世界中的实用性。
微软如何让逐层 MoE 训练更具实用性
微软表示,最大的收益来自将模型架构与基础设施视为同一个优化问题。
由于微软早期的实现带来了过多的实际训练时间开销,MAI-Base-1 较少使用 MoE 层。稀疏计算在理论上看起来很高效,却未必总能转化为更快的训练。
对于 MAI-Base-2,微软在每个 transformer 层中都部署了 MoE 计算。该公司称,在解决路由和内存效率问题后,其 MoE 层利用率从 24% 提升至 35%。
动态专家路由会造成工作负载不均,因为不同 token 会选择不同的专家。少见的峰值可能使某个专家过载,同时让其他地方的容量未被充分利用。
一种简单的解决方法是为每个专家设置固定的 token 上限,并丢弃超出的分配。微软表示,其实验发现,丢弃这些 token 会降低模型质量。
为最严重的不均衡情况分配足够内存可以避免丢弃 token,但在常规训练步骤中会浪费内存。这种浪费可能增加重计算,或限制有用的批处理规模。
微软转而开发了一套具有可预测内存分配的无丢弃系统。该实现旨在适应路由不均衡,而无需为每一种极端情况预留内存。
该公司还降低了与大量小型专家相关的开销。较小的专家组可以提高路由粒度,但也会带来更多通信和内核启动成本。
这些变化与效率论点直接相关。如果通信、内存碎片化或闲置硬件吞噬了理论节省,稀疏架构几乎不会带来实际收益。
微软使用两项相关指标评估这些变化。FLOPs 效率衡量达到目标损失所需的计算工作量。时间效率衡量在实际系统上实现同等改进所需的时间。
一种技术可能改善第一项指标,却损害第二项指标。微软表示,这类不匹配能够指出:在架构收益可以大规模发挥作用之前,基础设施工作应优先投入到哪里。
训练团队还对学习率和权重衰减进行了联合扫描。这些超参数会相互作用,因此独立优化它们,可能选出在大规模运行中表现不佳的组合。
扩展阶梯提供了另一层控制。微软在预测大型模型行为之前,先以不同的模型、数据和来源规模进行了较小实验。
来源扩展尤为重要。在受限数据组合上看似强劲的训练配方,随着来源数量和多样性增加,可能出现正则化不足的问题。
微软表示,纳入这种变化有助于其较小规模实验预测 MAI-Base-2 的最终表现。最终结果被纳入用于与 DeepSeek 对比的已发布曲线拟合中。
该模型还使用了 Muon,这是一种对选定参数应用面向矩阵更新的优化器。优化器决定训练如何根据计算出的误差调整权重。
Muon 已在多个大模型项目中受到关注,因为它可以改善矩阵形参数的收敛。微软表示,其将 Muon 实现工作与激活梯度裁剪结合,以稳定训练过程。
激活梯度裁剪会限制围绕中间激活值出现的异常大梯度信号。微软将该技术描述为使这次超大规模训练保持稳定的系统组成部分。
这些组件没有任何一个是决定性的单一技巧。所报告的提升来自数据、路由、内存、优化和实验预测等环节累积的改进。
这使得竞争对手难以仅根据简短技术描述复制这一成果。由于外部人士无法复现微软完整的技术栈,独立归因也因此变得困难。
因此,最可信的解读是系统性的。微软通过减少算法理论收益与其在数千张 GPU 上实际表现之间的损耗,构建了更高效的训练流水线。
MAI-Base-2 的数据仍未说明什么
微软已经发布了大量工程证据,但核心性能主张仍由公司自行报告,且信息并不完整。
第一个限制涉及评估的所有权。微软委托外部供应商处理部分留出的科学、数学和问答数据集,同时使用自有代码库进行代码评估。
该公司表示,已将所有评估集与训练数据进行了去污染处理。这是一项重要保障,因为数据重叠可能让模型看似更强,却无法衡量真正的泛化能力。
然而,微软尚未发布完整的评估数据、拟合模型或复现包。因此,独立研究人员无法完整重建 4.2 至 12.3 倍的效率区间。
最终的 MAI-Base-2 结果也参与了扩展拟合。微软表示,估算出的匹配点仍处于拟合范围内,这优于远距离外推。
即便如此,该方法估算的是训练配方效率,而非直接衡量一场完全相同的对比。token 选择、精度、FLOPs 统计方式和检查点构建上的差异都会影响该比率。
第二个限制是基准测试范围。留出文本上的 BPB 衡量的是后训练之前的预测质量。它无法回答一个完成后的模型是否能遵循复杂指令,或是否能可靠地使用工具。
损失更低的基础模型可以提供更强的起点。后训练决策仍然能够重塑其可见的优势、弱点和安全行为。
微软早前的推理模型 MAI-Thinking-1 是基于 MAI-Base-1 进行后训练得到的。在读者能够将预训练收益与推理性能联系起来之前,MAI-Base-2 还需要提供自身的下游证据。
第三个限制是产品可用性。尚无公开 API、可下载检查点、延迟性能资料或部署指南,让开发者能够验证这一公告。
微软也尚未说明后训练模型何时会面向客户推出。其向可信 Foundry 合作伙伴许可权重的计划缺乏公开的资格细节。
这一缺口使企业价值仍无法衡量。客户需要了解模型在检索系统、智能体、私有数据、治理控制和持续生产流量下的表现。
第四个限制涉及推理。训练 FLOPs 效率不等于服务效率,因为 MoE 模型必须存储和协调一个远大于实际激活规模的参数池。
路由 800 亿活跃参数仍可能需要大量内存容量和互连带宽。实际成本取决于量化、批处理、上下文长度、硬件以及微软的服务软件。
第五个限制是缺乏广泛的第三方比较。微软报告称,其测试的每个开放权重模型的 BPB 都更高,但这些结果来自微软自身的评估环境。
独立基准可能证实这一排名、缩小差距,或揭示其他模型表现更好的领域。每种结果都会改变读者对这一效率标题的解读。
谨慎的结论并不是这些数字没有价值。微软已披露足够的方法论,使该主张可以被分析,而不只是宣传。
这些数字表明,微软相信其训练配方能够在选定的预训练任务中高效扩展。它们并不能证明 MAI-Base-2 是开发者、企业或终端用户的最佳模型。
三个信号将决定 MAI-Base-2 是否改变市场
下一阶段取决于独立结果、具体的访问条款,以及预训练效率在实际生产工作负载中是否依然成立的证据。
第一个信号是后训练模型的评估包。微软需要发布推理、代码、多模态理解、指令遵循、工具使用、事实准确性和安全性方面的结果。
这些测试应包括可比的公开基准和详细的评估设置。让独立研究者访问,将进一步增强证据,因为他们可以在不同测试框架中复现结果。
强劲的后训练分数将支持微软的论点:更低的预测损失创造了更好的基础。较弱或不均衡的结果则会表明,预训练效率并未自动带来领先的助手。
第二个信号是 Foundry 的实际可用性。微软表示计划向可信合作伙伴许可权重,但开发者仍需要日期、访问规则、部署格式和运行要求。
仅向少数合作伙伴开放的受限预览,只能验证有限的可用性。更广泛的访问、清晰文档和稳定端点,才能将研究公告转变为商业选择。
权重访问将尤其具有揭示意义。它决定合作伙伴能否深度定制部署,还是必须依赖微软控制的服务。
届时,与 DeepSeek 的比较会变得更有意义。DeepSeek 的基础权重已经为外部团队提供了可根据适用条款直接测试、修改和部署的对象。
如果微软提供实用的权重访问,它将在增加云平台治理和集成优势的同时缩小这一差距。如果访问权限仍然狭窄,DeepSeek 将保有显著的开放性优势。
第三个信号是生产效率。微软必须展示,MAI-Base-2 在后训练后能否实现具有竞争力的延迟、吞吐量、可靠性和硬件利用率。
仅靠训练效率无法解决这些问题。MoE 模型可以减少每个 token 的算术计算量,但在推理期间会引入通信、存储和路由限制。
客户工作负载也会在受控基准之外检验模型。长文档、混合图像和文本输入、重复工具调用以及高并发,都可能暴露 BPB 无法预测的瓶颈。
评估该模型的团队应将发布说明、基准定义、内部测试和部署观察记录在可搜索的技术知识库中。这些记录有助于避免标题式比较取代特定工作负载的证据。
MAI-Base-3 的时间安排将提供次要线索。微软表示,下一代模型的工作已经开始,这意味着 MAI-Base-2 也是下一轮扩展周期的平台。
快速迭代将强化微软自研项目的战略意义。它将表明,该公司已经构建了一条可重复的流水线,而非仅完成一次非凡的运行。
目前,微软 MAI-Base-2 最适合被理解为一项可信的工程里程碑,但其产品价值仍未有定论。该公司已记录了一次大规模训练运行及一套具体的效率方法论。
它尚未提供赢得市场所需的访问条件或独立证据。下一个问题很直接:微软是否会让外部开发者测试其扩展曲线所预测的同样优势?



