CAN 的 AI Workhorse 对安全本地 AI 基础设施进行检验

Contemporary Analysis 推出了 AI Workhorse，但企业 AI 面临一个基本矛盾：采用率不断上升，成本和安全担忧却依然难以控制。

这家位于奥马哈的数据科学咨询公司通常被称为 CAN，其旗下将 Workhorse 打造成一家独立创业公司。Workhorse 组装专用服务器，随后将其部署在 Scott Data Center，供内布拉斯加州的组织使用。

其卖点并不只是本地硬件能够运行 AI 模型。企业已有多种方式租用云计算资源或购买服务器。Workhorse 则主张，专用节点能够提供可预测的容量、清晰可见的数据所在地，以及实操型技术支持。

这使 Workhorse 站到了企业 AI 以云为先主流路线的对立面。云服务无需客户自建基础设施，便可快速访问先进模型。然而，按量计费、治理要求和敏感数据可能让这种便利变得复杂。

Workhorse 进入这场讨论时，只有少数未披露身份的客户。其核心主张尚未获得独立的性能或安全验证。尽管如此，此次发布仍值得关注，因为它将围绕 private AI 的抽象争论转化为一场区域性基础设施测试。

AI Workhorse 将咨询难题转化为硬件

Workhorse 的诞生源于 CAN 的判断：其客户正从 AI 试验阶段转向关注成本、控制权和生产部署。

CAN 首席战略官 Preston Badeer 在其公开亮相于 7 月下旬前数月便启动了这家创业公司。根据最初的 AI Workhorse launch，该公司打造可运行定制 AI 模型的服务器。

这类服务器通常被称为节点。节点是一个独立计算系统，为更大的工作负载提供处理能力、内存、存储和网络容量。

Workhorse 将其节点部署在 Scott Data Center；这是一家位于奥马哈、提供托管和管理式基础设施服务的设施。客户可以通过 CAN 合作，也可以直接与 Workhorse 对接。

这一安排将云端 AI 提供商通常打包在一起的多项工作拆分开来。Workhorse 提供硬件，Scott Data 托管设备，CAN 的数据科学家和工程师则可协助配置模型并将应用投入生产。

这一服务层至关重要，因为拥有一台服务器并不会自动形成有用的 AI 系统。企业必须选择模型、连接数据、控制用户访问、评估输出并监控性能。

该团队表示，可针对每个节点调整模型，也支持客户内部开发的模型。它还将该系统定位为一项选择，服务于无法将某些工作负载部署到共享云基础设施上的安全专业人员。

CAN CEO Nate Watson 对这种物理控制给出了格外具体的描述。他表示，客户可以进入 Scott Data，并准确识别承载其模型的硬件。

这种可见性是销售论点的核心。云客户通常控制账户、权限和配置，却很少能看到处理每项请求的实体机器。

Workhorse 的目标也是重复性工作负载，而非偶尔使用聊天机器人。当应用持续运行、处理敏感记录，或执行一组稳定任务时，专用节点的意义就更大。

潜在应用包括检索内部技术文档、审阅合同、分类服务请求，或协助分析师处理专有数据集。这些是合理的应用场景，并非已披露的 Workhorse 客户部署案例。

Badeer 以安全为由拒绝披露客户身份。他告诉 Silicon Prairie News，Workhorse 已拥有少数客户，并正争取企业组织。

该公司还表示，需求已消化现有库存，并计划增加定制节点。它尚未公布订单数量、交付时间表、硬件配置，或经独立审计的利用率数据。

这些缺失并不否定这一概念。它们划定了发布叙事与经过验证的基础设施业务之间的界限。

为何安全 AI 节点正在获得市场关注

对 private AI 的需求并非仅仅源于担心模型供应商会获取企业数据，而是反映了多个相互交织的控制难题。

员工可能通过将机密信息粘贴到未经批准的工具中而导致信息暴露。获批应用也可能保留超出预期的数据。AI agent 还可能检索获授权的信息，并将其组合成新的敏感输出。

即使底层模型提供商遵守合同，这些风险依然存在。数据安全取决于身份控制、检索权限、日志记录、保留机制、模型行为以及员工实践。

美国国家标准与技术研究院在其 generative AI profile 中，将隐私、信息安全和价值链整合列为需要关注的风险。NIST 建议在系统完整生命周期内管理 AI 风险。

这一更广泛的视角有助于解释本地硬件为何受到关注。private node 可以减少接触数据的外部系统数量，也能让组织直接控制模型文件、日志、存储和网络连接。

然而，物理本地化只是其中一项控制措施。配置不当的 private server 仍可能因被盗凭证、权限过大、恶意提示、未修补的软件或内部人员滥用而暴露风险。

因此，本地基础设施改变了安全问题，而非将其消除。组织需要承担更多配置、更新、访问控制、监控和事件响应责任。

商业秘密方面的担忧进一步提高了风险。Ropes & Gray 的律师近期建议企业优先采用可控制保留、访问、训练和保密条款的环境。其 trade secret guidance 也强调政策、员工培训和定期审计。

这份指引支持 Workhorse 背后的方向，但并不支持其推介的每一部分。将模型保留在一台明确的机器上，并不能阻止获授权员工提取敏感输出。

Agentic systems 带来了另一项挑战。AI agent 是能够规划并执行多项操作的软件，通常会调用企业工具或搜索已连接的数据。

一个 agent 可能读取文档、查询客户记录并起草竞争分析，而无需复制任何单一文件。传统监控未必会将这种综合视为可疑传输。

在 private hardware 上运行 agent 的企业仍需要详细日志和数据级权限。它必须知道 agent 访问了哪些资料库、调用了哪些工具，以及返回了什么内容。

Workhorse 可以为这些措施提供受控基础。客户仍必须通过软件、政策和持续审查来落实它们。

对内布拉斯加州企业而言，邻近性带来了另一重吸引力。团队可以联系当地运营人员、到访设施，并与了解应用场景的顾问协作。

对于没有专门机器学习基础设施团队的中型组织而言，这种关系可能很重要。它们的选择很少是在理想的云端系统与理想的 private system 之间进行。

实际的选择，是现有员工能够运营的服务。CAN 正押注于本地支持能让专用基础设施变得可管理，服务那些原本会避开它的组织。

真正的竞争是专用容量与云端灵活性之争

AI Workhorse 挑战了以云为先的假设，但并未让公有云基础设施过时。

云端 AI 之所以成为默认选择，是因为它降低了试验门槛。开发人员可通过应用程序编程接口访问强大模型，使软件能够向外部服务发送请求。

这种方式免除了硬件采购、安装、散热以及大部分维护工作，也让团队能够切换模型、扩展容量，或迅速结束一项试验。

专用节点则颠倒了这些优劣势。客户获得预留容量和更直接的控制权，但也对特定硬件和运营决策承担更长期的承诺。

决定因素往往是工作负载的稳定性。不可预测的试点项目受益于按需容量，而稳定的生产工作流可能让专用计算更容易预测和治理。

Workhorse 高管认为，基于使用量的 token 支出可能变得无上限。token 是语言模型处理的一个小型文本单位，许多商业服务通过 token 数量计量使用量。

这种担忧不应被视为普遍规律。云端模型价格、缓存选项、批处理和更小模型仍在持续改进。一个经过周密设计的云端应用，成本可能低于一台利用不足的 private server。

Stanford 的 2025 AI Index 发现，在大约 18 个月内，实现与 GPT-3.5 相当性能的推理成本下降了 280 多倍。其 inference cost analysis 还显示，规模小得多的模型已达到曾经与大得多系统相关联的性能水平。

这些趋势有两面性。

模型成本下降强化了云服务，因为客户能够以更低成本购买更好的性能。同样的进步也强化了 private AI，因为更小的模型能够在相对普通的硬件上提供有用结果。

因此，模型优化是 Workhorse 理念的核心。该公司表示，特定的训练和调优方法可以帮助成本更低的模型，在有针对性的任务上实现接近高端替代方案的表现。

这一主张需要谨慎解读。小模型可以在狭窄且设计良好的任务上匹配较大模型，但这并不意味着小模型在大型系统的每项能力上都能与之匹敌。

例如，内部支持助手可能只需检索获批准的文档并生成结构化答案。通用研究 agent 面临的问题范围更广，推理需求也更具变化。

客户在比较模型前必须先定义成功标准。有效衡量指标包括任务准确率、延迟、失败请求、人工审核时间和缺乏依据的回答比例。

若没有这种评估，private model 可能看似经济，却将工作重新转移给员工。它也可能产生错误，直到客户或监管机构发现时仍未被察觉。

云服务提供商仍保有其他优势。它们大力投资于安全工程、可靠性、模型更新和专用芯片，也提供托管身份、监控、数据工具和合规功能。

本地节点提供更大的基础设施控制权，但控制权意味着人力投入。必须有人为操作系统打补丁、更新模型服务软件、测试新版本并管理备份。

Workhorse 试图通过将硬件与 CAN 的工程师团队及 Scott Data 的运营能力相结合来弥合这一差距。因此，该产品更接近托管式私有 AI 服务，而非简单的服务器销售。

这种区别将决定该公司能否竞争。许多组织希望拥有控制权，却不想成为基础设施运营方。只有当其服务能让这种组合令人信服时，Workhorse 才能成功。

Scott Data 为本地 AI 模式提供先发优势

Workhorse 更具可行性，因为它可以利用现有的 Omaha 数据中心，而不必围绕一家未经验证的初创企业新建设施。

Scott Data 自 2002 年起就在 Omaha 运营。该机构称，其设施是一座获得 Tier III 认证的数据中心，具备冗余电力、冷却、安全控制措施，并支持高密度计算。

其 AI 基础设施包括托管、 高性能计算和 GPU 服务。图形处理器（GPU）是专为处理许多 AI 模型所需并行计算而设计的芯片。

Scott Data 表示，其设施占地 110,000 平方英尺，并采用一座 20 兆瓦的中央工厂。它还支持传统空气冷却，同时正为高密度设备准备更先进的液冷方案。

这些数字描述的是 Scott Data 的整体设施，而非为 Workhorse 预留的容量。两家机构均未披露这家初创企业能在该环境内部署多少节点。

不过，这项合作仍消除了一个重大障碍。数据中心需要在供电、冷却、物理安全、网络和备份系统上进行大量投资。

从零开始建设这些系统的初创企业，将面临更大的融资和执行压力。Workhorse 则可以专注于节点设计、模型部署和客户支持。

Scott Data 已参与 Omaha 更广泛的 AI 战略。它曾与 Greater Omaha Chamber 合作，帮助本地企业探索 AI 并获得计算资源。

该数据中心还与 University of Nebraska-Lincoln 合作建设了一处 AI 创客空间。该设施为工程专业学生提供八块 Nvidia H100 GPU，用于构建和测试项目。

这些努力围绕计算、教育和商业采用形成了一条小型区域链路。Workhorse 则新增了一款面向准备超越实验阶段的组织的产品。

这种区域模式也与超大规模数据中心的竞赛形成对比。超大规模设施支撑巨型云平台，并可能消耗大量土地、电力、水资源和专用设备。

Nebraska 已面临未来数据中心和工业需求将如何影响其电网的问题。这些限制使得有针对性地利用现有容量，比将每项 AI 战略都视为建设项目更具吸引力。

在 2025 年的一场区域讨论中，Scott Data CEO Ken Moreano 表示，一些大公司最初会申请数十块 GPU。在审查工作负载后，他说它们有时实际上只需要几块。

这一观察见于一篇关于 Omaha AI 基础设施的分析中，支持较小节点的策略。不过，这仍需逐案验证。

企业在早期规划中往往会高估或低估计算需求。成功的试点项目也可能增长到超出其原始节点容量。

Workhorse 需要提供清晰的扩展路径。客户应了解自己是否可以增加 GPU、连接多个节点、迁移工作负载，或在需求高峰期使用云容量。

正是在这里，混合基础设施可能比绝对的本地与云端二选一更有用。企业可以将敏感的检索与记录保留在受控基础设施上，同时针对获准任务使用外部服务。

Workhorse 无需取代每一种云端工作负载。它需要识别哪些应用场景中，本地控制和稳定容量足以证明专用环境的合理性。

AI Workhorse 尚未证明的内容

Workhorse 对企业关切给出了连贯回应，但公开证据仍过于有限，无法确认其安全性或经济优势。

该公司尚未披露其标准硬件规格。买家无法公开比较处理器类型、内存、存储、网络速度、能耗或预期模型性能。

Workhorse 也尚未发布基准测试结果。没有独立对比显示，其节点在常见企业任务中的表现如何优于或区别于云服务。

安全信息同样有限。Scott Data 描述了物理和运营层面的保护措施，但 Workhorse 尚未发布针对产品的安全架构或外部评估。

重要问题包括加密、租户隔离、管理访问、补丁计划、日志保留、备份程序和事件响应。客户还应了解谁可以访问模型文件和系统提示词。

专用机器并不必然意味着完全隔离的系统。它仍可能连接到共享网络、远程管理工具、软件仓库和客户数据库。

该公司声称客户可以确定其模型的物理所在地，这一点很有价值。但除了位置外，安全团队还需要完整的数据流图。

经济性同样需要真实的利用率数据。专用容量最适合客户使用量足以证明持续运营合理性的情况。

低容量应用在云端可能仍然更便宜。高容量但使用不规律的应用，则可能需要单个节点无法提供的弹性。

模型进步也带来硬件风险。新芯片和更高效的模型，可能会在旧设备达到使用寿命前改变首选基础设施方案。

云端客户通过服务变更即可获得许多升级。私有基础设施客户则需要合同明确升级选项、迁移协助，以及过时组件的责任归属。

客户保密也带来了另一个验证问题。Workhorse 表示，出于安全考虑，它无法点名当前客户。这可以理解，但外部观察者仍需要生产可靠性的证据。

该公司最终可以发布匿名化的工作负载画像。它可以在不披露客户身份的前提下，报告正常运行时间、利用率、任务准确率、部署时间或支持量。

第三方安全审查将增强其说服力。使用明确界定的模型和工作负载进行独立复现的性能测试亦是如此。

非营利组织捐赠计划也需要类似的后续落实。Workhorse 表示，每售出五个商业节点后，将捐赠一个节点，并提供培训和支持。

这种模式将基础设施增长与社区获取能力联系起来。但它也假设非营利组织能够识别合适的使用场景、准备数据、建立治理机制，并支持员工参与。

一台免费服务器无法解决这些组织层面的要求。CAN 和 Omaha Data Science Academy 提供的培训，可能比硬件本身更为重要。

非营利组织通常管理有关捐助者、员工、患者、学生或弱势群体的敏感信息。它们需要与商业客户同等的安全和评估纪律。

捐赠计划最强的版本，应为每个节点配备边界明确的项目、负责的员工、访问政策和可衡量的结果。

在这些结果出现之前，Workhorse 应被视为一项早期托管基础设施实验。它的承诺具有合理性，但仍属于公司自身的说法。

三个信号将显示私有 AI 是否在 Nebraska 行得通

Workhorse 的下一项考验不是能否组装更多服务器，而是客户能否以可衡量的控制力和可预测的投入运行有价值的工作负载。

第一个信号是重复性的生产使用。Workhorse 需要拥有续约、扩充容量或将更多工作流迁移至其节点的客户。

客户数量增长本身说明不了太多。重复使用将表明，专用基础设施解决的是持续性问题，而非满足暂时的好奇心。

最有价值的证据，是将每次部署与明确任务关联起来。这可能包括更快的文档审查、更低的支持积压、提升分析师产出，或减少对外部端点的依赖。

第二个信号是独立的安全性和性能验证。Workhorse 应公开足够的技术细节，让买家能够将其节点与云端和本地部署替代方案进行比较。

这并不要求暴露客户数据或专有配置。它要求清晰的测试条件、模型名称、硬件信息和可重复的测量结果。

安全验证不应只覆盖数据中心建筑本身。它应审查节点配置、身份控制、远程访问、软件更新、日志记录和恢复程序。

可信的审计将增强该公司关于本地基础设施提供更大控制力的主张。严重事件或责任不清则会削弱这一主张。

第三个信号是社区模式发挥作用的证据。获捐节点应带来已部署的非营利组织服务、受训员工和有据可查的保障措施。

这一信号很重要，因为 Workhorse 将自身定位为不只是私有计算供应商。它希望商业需求能够建立共享的区域 AI 能力。

这一愿景契合 Nebraska 现有的本地企业、大学、顾问和非营利基础设施组合。但它也面临一个常见的区域挑战：将可用技术转化为持续的组织能力。

硬件可能闲置。模型可能令用户失望。试点项目也可能在最初的推动者离开后失败。

考虑私有 AI 的组织应从工作流入手，而非从节点入手。它们应识别敏感数据、现有人工投入、预期请求量、准确性要求和可接受的故障模式。

它们应比较至少三种部署模式：托管云 AI、专用私有基础设施和混合设计。每种方案都应接受同样的安全、质量和运营问题检验。

团队还需要可靠的信息层。可搜索的知识库可以帮助在任何模型检索文档之前，先整理已获批准的文档。

AI Workhorse 已使 Nebraska 成为检验私有 AI 主张的一个有用案例。未来几个月应会揭示，本地节点能否带来运营控制，还是仅仅转移了熟悉的复杂性。

对于企业买家而言，正确的下一步很直接：选择一个可重复的工作流，记录其风险边界，并在相互竞争的基础设施方案中衡量它。如果 Workhorse 能在真实生产条件下赢得这项比较，其本地模式的意义将远远超出 Omaha。