Palantir推出搭载32颗Nvidia B300 GPU的移动式AI数据中心

TechRadar报道称，Palantir提出了一项鲜明主张：将32颗Nvidia B300加速器装入一个加固集装箱，把先进AI带到任何地点。该系统面向传统云连接缓慢、不可靠、受限或在战略上不可接受的场所。

该集装箱为Armada Galleon，由Nvidia和Dell Technologies提供基础设施支持。Palantir提供数据集成、模型部署、运营工作流和系统管理的软件层。合作伙伴在2026年3月12日举行的Palantir AIPCon 9活动上展示了这一设计。

硬件引人注目，但更大的争议关乎位置与控制权。大多数先进AI运行在通过高速网络连接的超大规模设施中。Palantir及其合作伙伴提出了一种更小型、可移动的替代方案，让敏感工作负载靠近产生数据的人员、传感器和机器。

这使该系统不只是一个紧凑型服务器机房。它检验了组织能否在不牺牲安全性、模型选择权或运营监督的前提下，将大量AI推理移出集中式云端。

该集装箱将32颗B300 GPU部署到边缘

Palantir的设计将数据中心级推理能力带到更接近受争夺或断连的运营环境中；在这些场景下，将每项输入发送至远端云端会成为负担。

根据一段Armada演示，小型Galleon配置包含四套各配备八颗GPU的系统。这意味着总计32颗Nvidia B300 GPU，另配用于管理部署的控制平面服务器。

控制平面是用于配置资源、监测健康状态和调度工作负载的软件与硬件层。它并不亲自执行每一项AI计算，而是确保集群可用，并将任务引导至合适的系统。

每台Nvidia DGX B300搭载八颗Blackwell Ultra GPU，GPU总内存为2.1 TB。Nvidia列出的单台系统稀疏FP4性能为144 petaflops，稀疏FP8性能为72 petaflops。这些低精度格式有助于加速大模型推理与训练。

因此，四套类似系统将提供可观的本地计算资源池。不过，原始规格并不能确定每个模型在实际场景中的表现。软件优化、网络、散热、存储和工作负载设计都会影响有效吞吐量。

合作伙伴描述了三种标准化部署规模：小型、中型和大型。AIPCon演示聚焦于小型Galleon，将一个集装箱大小的结构变成便携式AI设施。

Armada将Galleon称为加固型移动数据中心。它在标准化外壳内整合计算、连接、散热、电力系统和远程管理。该公司将其面向偏远工业、公共部门、电信和国防环境进行推广。

这种整合至关重要，因为GPU本身无法构成可运行的数据中心。Blackwell Ultra处理器发热强烈，需要可靠的电力供应。存储、高速网络、物理安全、更换零件和监控也都必须在部署地点正常运作。

该参考架构试图预先选择并验证这些组件。买方可以从成熟设计开始，而不必独立设计每个机架、线缆、冷却回路和软件依赖项。

Palantir表示，其软件能够在云端、本地部署、机密和边缘环境中管理数据、应用和AI模型。其Apollo平台负责软件交付，Foundry则组织数据和运营逻辑。AIP增加了生成式AI应用、智能体和模型访问能力。

该集装箱将这些软件组件与Nvidia计算能力、Dell服务器基础设施以及Armada的物理平台结合起来。这种分工解释了为何该项目涉及四家公司，而非由一家国防承包商出售封装式设备。

该系统还可运行开放权重模型，其可下载参数允许将模型部署在由运营方控制的基础设施上。开放权重并不总是意味着开源。训练数据、许可条款和源代码仍可能受到限制。

本地运行模型让客户对数据流动和软件可用性拥有更多控制权。但这也将验证、安全、更新和模型行为的更多责任转移给客户。

这正是Google News关注背后的第一层张力。该集装箱承诺摆脱远端基础设施的束缚，但也将复杂的基础设施工作转移至要求严苛的实体环境中。

为何Google News的关注不止于国防领域

该项目对云优先AI形成压力，因为它将连接性视为不确定资源，而非永久基础。

云平台将昂贵的处理器集中在拥有充足电力、散热、网络和技术人员的设施内。这种设计带来规模经济，并支持快速调整容量。当用户与这些设施之间拥有可靠的高带宽连接时，它运行得很好。

远程作业面临不同约束。船舶、矿山、石油平台、灾区或军事阵地可能产生大量传感器数据流，同时却只能获得不稳定的连接。上传原始视频或遥测数据可能耗尽稀缺带宽，并增加决策延迟。

本地推理改变了这一流程。系统可以在信息源头附近分析数据，再将较小的结果发送到其他地方。这些结果可能包括警报、分类、坐标、摘要或精选记录，而非整条原始数据流。

Armada已经描述过这一问题的非军事版本。其远程边缘研究涵盖计算机视觉、语言模型、语音处理以及需要本地计算能力的传感器工作负载。只要延迟或连接性限制云端访问，背后的挑战就同样存在。

一个案例涉及阿拉斯加交通官员使用无人机检查山体滑坡、雪崩和洪水。Armada称，本地基础设施有助于应对受连接受限和附近计算资源不足制约的工作流程。

另一项计划中的部署涉及Aker BP和Deepsea Nordkapp钻井平台。Armada表示，这家能源公司计划测试一台Galleon，用于本地数据处理和AI就绪工作流。任何更大范围的船队部署都取决于初始试验。

这些案例并不能证明B300配置会在战场环境中实现相同表现。它们说明了为何便携式计算在国防之外也具有商业价值。同一架构可以服务于远离成熟数据中心区域运营的组织。

云端仍是该架构的一部分。中央系统可以训练模型、汇总精选信息、分发更新，并协调多个站点。因此，真正的主张是混合AI，而非彻底放弃云端。

这一差别对于通过Google News关注此事的企业买家至关重要。便携式设施能够降低对持续连接的依赖，却无法消除所有中央服务。治理政策、软件发布、设备群监控和跨站点分析仍需要协调。

Palantir的优势在于为这些地点呈现统一的控制模式。据该公司称，其平台架构包含超过300项微服务和资产。AIP、Foundry和Apollo分别承担生成式AI、数据运营和软件交付职责。

这种广度也带来压力。采用完整架构的客户会依赖多个相互关联的软件和硬件层。当工作流、权限、数据模型和运营决策不断累积在单一平台中时，供应商之间的可迁移性可能变得困难。

云服务提供商则面临相反的压力。当连接质量下降或数据主权规则限制数据流动时，它们必须证明自身服务仍然有用。其应对方式可能包括托管式边缘设备、区域基础设施和更强大的混合部署工具。

传统国防系统集成商面临另一项挑战。Palantir正将软件交付、AI模型、运营数据和加速计算打包成可重复部署的一体化系统。这种方式缩短了数字工作流与运行它的物理基础设施之间的距离。

对于需要本地推理的工作负载，这种压力是即时的。对于更广泛的企业基础设施而言，集中式云端在容量、便利性和经济性方面仍占主导，压力则更偏长期。

真正的较量是本地控制与云端规模

Palantir的集装箱无法取代超大规模数据中心；它以云端的规模和人员配置，换取了邻近性、控制权和运营独立性。

云端AI受益于资源池化。数千名客户共享设施、网络容量、工程团队、安全流程和备用硬件。服务提供商可以在服务器间迁移工作负载，并提供专门服务，而无需暴露每项基础设施细节。

远程集装箱的硬件上限固定。一旦其GPU、存储或供电容量被占满，扩展就需要增加更多设备。故障组件的影响可能更大，因为替换库存和技术人员可能远在他处。

不过，集中化也会产生自己的故障模式。受损线缆、被阻断的卫星链路、网络中断、账户限制或政策变化，都可能中断访问。当组织依靠AI做出时间敏感型运营决策时，这些风险会变得更严重。

Palantir的核心论点是，选定的工作负载应继续在本地运行。其软件可将应用交付至隔离或带宽受限的环境，而本地模型无需传输每项输入即可处理敏感信息。

B300加速器让这一论点在高要求推理场景下更具可信度。Nvidia表示，一台DGX B300配备八颗GPU、2.1 TB GPU内存和高速ConnectX-8网络。其B300规格面向大型推理模型和企业AI工作负载。

内存容量尤其重要。大模型需要为参数、中间计算和键值缓存留出空间；键值缓存储存的是生成token时使用的信息。更长的上下文和更多并发用户都会增加这些要求。

一个32-GPU集群可以运行超出单台服务器内存容量的模型。软件必须划分这些模型，并通过高速互连协调计算。分配不佳会让昂贵的处理器等待数据。

Palantir对开放权重模型的支持为这场较量增添了另一层因素。客户可根据自身任务、硬件预算、语言需求和安全政策选择合适的模型。他们无需通过某一家商业模型提供商的公共接口发送数据。

这种选择也有局限。开放权重模型仍可能存在漏洞、有害行为、许可限制或隐藏的性能弱点。运营方必须针对任务特定数据进行评估，并在部署后监控其输出。

模型同样需要更新。新版本可以提高准确性或修复安全缺陷，但要将其部署到隔离环境中，需要受到控制的分发机制。Palantir 的 Apollo 软件旨在管理跨多样化和受限网络的发布。

这类似于将私有云压缩进一个可运输的封装体。运营方获得对硬件和数据的直接控制权。作为交换，运营方也接手了通常由超大规模云服务商承担的责任。

合作伙伴称，其参考架构可通过标准化物料清单和配置来缩短部署时间。Armada 将以周计算的 Galleon 部署周期，与建设耗时可能长得多的传统设施进行对比。

这些比较需要谨慎看待。集装箱与大型永久性数据中心服务于不同的容量与韧性目标。场地准备、许可、电力供应、网络、运输和实体防护仍可能拉长实际工期。

更有力的主张更为有限：在已经具备合适电力和场地支持的前提下，预配置的模块化系统可以比定制化建筑更快到位。当无法接受等待永久设施建设时，其价值便会提升。

这一机制解释了便携式 AI 基础设施受到更广泛关注的原因。它让更多算力靠近数据，而不是将每一份数据都移向遥远的处理器。这种转变能够在维持本地保管权的同时，降低延迟和带宽使用。

它并没有颠覆云计算的经济逻辑。它界定了一类工作负载：对这类任务而言，云计算经济性的重要性低于可用性、主权或响应时间。

开放权重模型带来自由与新的风险

在隔离容器中运行开放权重模型可以提升控制力，但隔离并不保证决策可信，也不保证软件安全。

气隙系统在物理或逻辑上与公共网络隔离。它们减少了若干远程攻击路径，并有助于保护机密或敏感信息。但它们无法消除由软件更新、维护设备、内部人员、传感器或供应链带来的风险。

隔离系统也可能变得更难观察。安全团队不能假设自己能从断开连接的部署中持续获得遥测数据。他们需要本地日志、已签名的软件包、访问控制，以及审查异常情况的流程。

模型行为构成另一项问题。大语言模型可能编造细节、遵从恶意指令，或误读不确定的证据。更多算力并不会自动让这些输出足以可靠地支撑影响重大的决策。

Palantir 将其 Ontology 描述为对组织数据、对象、关系和行动的运营性表达。这一层可以限制 AI 系统能够看到的内容，以及它能够发起哪些获批准的行动。

这些控制仍然是软件规则。其有效性取决于正确配置、准确数据、恰当权限与审慎测试。错误的运营模型可能基于对现实的错误表征，给出看似笃定的建议。

国防场景提高了风险。传感器数据可能不完整、受到对抗、存在延迟，或被蓄意操纵。在常规样本上表现良好的模型，可能会在对手专门设计输入来迷惑它时失效。

因此，人类监督仍然不可或缺。操作人员需要理解建议的来源、不确定性，以及据此行动的后果。他们还需要能够拒绝或升级处理可疑输出。

开放权重模型带来了有用的审查机会，因为组织可以在受控环境中对其进行测试。团队可以比较不同版本、微调选定模型，并让敏感提示词远离公共端点。

不过，仅凭权重并不能揭示完整的开发过程。客户可能无法知晓训练所用的每一个来源，或每一项过滤决策。宽松的部署许可证也不能证明其适用于军事用途。

模型溯源、评估记录和更新历史变得与基准分数同样重要。买方应询问运行的是哪个模型版本、使用哪个数据集进行测试，以及评估期间采用了哪些保障措施。

硬件同样带来物理风险。Nvidia 的文档指出，一台 DGX B300 占用 10 个机架单元，并包含八个高功耗加速器。在尚未计算存储或网络设备之前，四套系统就已需要大量冷却能力和可靠的能源供应。

坚固封装可以保护设备免受环境压力影响，却无法违背散热极限。灰尘、湿度、振动、海拔和环境高温都会降低可靠性。每次部署都需要符合所在地条件的运行限制和维护流程。

电力尤其关键。远程站点可能依赖发电机、微电网、电池或受限的本地供应。如果该集装箱所需基础设施几乎与其替代设施一样难以建立，文章的核心主张就会减弱。

Palantir、Armada、Dell 和 Nvidia 已展示了一套集成参考架构。公开材料尚未提供独立证据，证明其在具有代表性的战时条件下能够持续保持性能。

关于完整部署成本、电力需求、维修物流和模型准确性，公开细节也十分有限。价格数字无法解决这些问题，因为不同站点之间的运行条件差异很大。

Google News 的报道可能让这个集装箱看起来像一款成熟的战场产品。更准确的解读是，这些合作伙伴展示了一条通向便携式主权 AI 的标准化技术路径。

两者的差别很重要。成功的演示证明了在已知条件下的集成能力。运营验证则需要长期使用、故障测试、网络安全评估，以及证明人员能够在压力下维护系统的证据。

Palantir 正将 AI 基础设施变成可复制的产品

这个集装箱之所以重要，是因为 Palantir 正通过一套可复制的架构，将数据、模型、部署软件和物理算力连接起来。

国防技术长期以来常依赖为单一项目开发的定制系统。这些项目可以产生专门能力，但当每套部署都不同时，更新和集成就会变得缓慢。

参考架构采取了另一条路径。它定义了已知组件、受支持配置和运行模式。客户可以调整部署规模，而无需每次都重新设计整个系统。

AIPCon 演示展示了小型、中型和大型配置。小型 Galleon 使用了 32 块 B300 GPU。更大的系统将满足不同的容量需求，尽管公开演示材料并未确认每一项最终规格。

这种方法映照了更广泛的基础设施趋势。Nvidia 发布经过验证的企业架构，服务器厂商集成其加速器，软件公司则针对这些设计认证其技术栈。标准化在设备到达客户之前就减少了一部分集成工作。

Palantir 和 Nvidia 还发布了一套主权 AI 操作系统参考架构。Nvidia 将该设计描述为一条经过测试的路径，用于在 Nvidia 基础设施上运行 Palantir 的软件套件。

主权 AI 指的是对支持 AI 系统的数据、计算资源、模型和政策的控制。该术语适用于国家、受监管行业，以及拥有严格数据位置要求的组织。

这个定义很有吸引力，但并不完整。客户可以控制部署本身，却仍依赖进口芯片、专有软件、专业维护或受限组件。主权存在于多个层面，而非一个二元条件。

Armada 位于物理部署层。其 Galleon 平台为远程使用整合了计算、网络、电力与冷却。该公司称，其更广泛的平台可以管理互联资产和分布式 GPU 集群。

Dell 提供成熟的服务器工程能力与支持服务。Nvidia 提供加速器、网络及相关软件。Palantir 则提供运营数据和应用环境，将硬件转化为可用系统。

这些公司以不同方式从合作中获益。Nvidia 获得了 Blackwell Ultra 硬件的另一个出口。Dell 将企业基础设施延伸至模块化部署。Armada 则获得了知名的软件和硬件合作伙伴。

Palantir 获得了更具战略意义的东西。它无需制造每一个组件，就能塑造完整的运营模式。其软件成为连接本地传感器、AI 模型、人类决策与远程管理的组织纽带。

这一位置也集中了责任。如果模型输出延迟、权限设置错误，或软件更新失败，客户可能难以区分究竟是哪家供应商的问题。集成产品需要同样集成的支持与问责。

该系统最强的应用场景很可能具有三项特征：会产生大量本地数据、需要快速响应，且不能依赖持续的外部连接。

无人机计算机视觉符合这一模式。工业检查、远程设备监控、应急响应、海事态势感知以及部分网络安全任务也是如此。

通用办公助手通常不需要这种架构。它们通常可以容忍远程处理，并能从云端弹性中受益。用坚固化的 B300 集群进行普通文档摘要，会浪费其决定性优势。

知识工作者仍然可以从这一架构中学习。该项目强调，AI 质量取决于数据上下文、权限、模型选择和部署条件。硬件能力只是可运行系统的一部分。

跟踪复杂基础设施决策的团队，同样需要保留关于主张、测试和修订的持久记录。可搜索的 AI 知识库 可以帮助整理这些证据，而不将每一项公告都视为既定事实。

更广泛的趋势是边缘 AI 的工业化。供应商正在用可订购、部署、监控和作为集群更新的标准化系统，取代实验性的组合方案。

Palantir 的集装箱处于这一趋势的高算力端。它将过去与大型设施相关的资源打包进移动形态，再将其连接到运营软件。

由此形成的产品既不是普通的云区域，也不是简单的边缘设备。它是一座小型私有 AI 设施，旨在靠近任务现场运行。

接下来的三个信号将揭示什么

三项检验将决定 Palantir 的集装箱会成为运营基础设施，还是仍停留在令人印象深刻的演示阶段。

第一个信号是采用 32-GPU B300 配置的具名生产部署。客户应披露工作负载、环境、部署周期和运营目标。国防部署最具相关性，但远程工业部署也能提供有价值的可靠性证据。

成功的长期运行将加强 Palantir 关于数据中心级 AI 能够进入严苛地点的主张。若演示仅限于受控活动，则会削弱其近期采用前景。

第二个信号是独立的性能与韧性测试。买方需要涵盖模型吞吐量、延迟、正常运行时间、热性能、功耗、网络丢失以及组件故障后恢复能力的结果。

标准 AI 基准测试只能提供部分答案。该集装箱的目的，是在受限条件下维持有用的运行能力。因此，测试应涵盖间歇性连接、传感器性能下降、带宽受限以及软件分发受扰等情况。

结果还应明确模型及其配置。Nvidia 公布的数据代表了在既定条件下的硬件能力，并不能预测在 Galleon 内运行的每一种 Palantir 工作流或开放权重模型的表现。

即便揭示出局限性，独立验证仍会增强技术论证。若缺少测试细节，买方就只能依赖合作伙伴演示和营销措辞。

第三个信号，是可重复采购和规模化机队运营的证据。一台集装箱可以获得专家的密集关注；而分布式机队则需要标准化培训、备件、安全更新、远程监控，以及明确的支持责任。

Armada 的制造扩张提供了一个指标。该公司宣布计划在亚利桑那州建设一座专用设施，用于生产模块化数据中心，并计划于 2026 年夏季启动持续生产。该公司表示，该设施面积最高可达 40 万平方英尺。

仅凭制造能力并不能证明需求。具名订单、部署数量、续约决定，以及从试点系统扩大部署，将提供更有力的证据。

竞争对手的反应同样重要，但仍只是辅助背景。云服务提供商和国防承包商已经推出边缘和混合系统。关键问题在于，它们能否匹配 Palantir 在模型灵活性、运营软件与便携式 Blackwell Ultra 算力方面的组合。

通过 Google News 看到这则报道的读者，应区分三层证据：硬件确实存在，合作伙伴展示了集成配置，而完整的运营案例仍需要公开验证。

这种区分能避免两个常见误判。该项目并不只是一个装满 GPU 的集装箱；但它也尚未证明，先进的战场 AI 能够在指挥官部署它的任何地点可靠运行。

Palantir 已识别出小型边缘设备与远距离超大规模设施之间真实存在的基础设施缺口。其提出的方案结合了 32 块 B300 GPU、开放权重模型、加固基础设施，以及为受控部署设计的软件。

如今，重点已从规格参数转向实际运营。未来几个月应关注具名客户、独立韧性测试结果和重复订单。

这些信号将表明，Google News 的标题是否标志着 AI 基础设施发生了持久变化。它们也将揭示，便携式主权 AI 能否在不引入一系列新运营风险的前提下，提供有用的自主能力。