CANのAI Workhorse、セキュアなローカルAIインフラを試す

Contemporary Analysisは、企業AIにおける根本的な矛盾を背景にAI Workhorseを立ち上げた。導入は拡大している一方で、コストとセキュリティ上の懸念を抑えることは依然として難しい。

通称CANとして知られるオマハのデータサイエンスコンサルティング企業は、傘下の独立スタートアップとしてWorkhorseを設立した。Workhorseは専用サーバーを組み立て、ネブラスカ州の組織が利用できるようScott Data Centerに設置する。

同社の訴求点は、ローカルのハードウェアでAIモデルを動かせるというだけではない。企業にはすでにクラウドコンピューティングを借りたり、サーバーを購入したりする選択肢が複数ある。Workhorseはむしろ、専用ノードによって予測可能な処理能力、明確なデータ保管場所、実践的な技術サポートを提供できると主張する。

これは、企業AIにおける主流のクラウドファースト路線にWorkhorseが挑むことを意味する。クラウドサービスは、顧客がインフラを所有しなくても高度なモデルへ迅速にアクセスできる。しかし、従量課金、ガバナンス要件、機微なデータは、その利便性を複雑にしうる。

Workhorseは、社名を明かしていない少数の顧客を抱えた段階でこの議論に参入する。同社の中核的な主張は、独立した性能評価やセキュリティ検証をまだ受けていない。それでもこの立ち上げが注目に値するのは、プライベートAIをめぐる抽象的な議論を、地域インフラの実証試験へと変えるからだ。

AI Workhorse、コンサルティング上の課題をハードウェアへ転換

Workhorseが存在するのは、CANが顧客の関心がAIの実験段階から、コスト、管理、プロダクション導入に関する課題へ移ったと見ているためだ。

CANの最高戦略責任者Preston Badeerは、7月下旬に同社の概要が公になった数カ月前に、このスタートアップを立ち上げた。最初のAI Workhorseの発表によると、同社はカスタマイズされたAIモデルを稼働できるサーバーを構築している。

こうしたサーバーは、しばしばノードと呼ばれる。ノードとは、大規模なワークロードに処理能力、メモリ、ストレージ、ネットワーク容量を提供する個別のコンピューティングシステムである。

Workhorseはノードを、コロケーションとマネージドインフラを提供するオマハの施設、Scott Data Centerに設置する。顧客はCANを通じて利用することも、Workhorseと直接契約することもできる。

この仕組みは、クラウドAIプロバイダーが通常まとめて提供する複数の役割を分離する。Workhorseがハードウェアを供給し、Scott Dataが設備をホストする。CANのデータサイエンティストとエンジニアは、モデルの設定やアプリケーションの本番移行を支援できる。

サーバーを所有しただけで、有用なAIシステムが自動的に生まれるわけではないため、このサービス層は重要だ。企業はモデルを選び、自社データを接続し、ユーザーアクセスを制御し、出力を評価し、性能を監視しなければならない。

チームによると、各ノードに合わせてモデルを調整でき、顧客が社内開発したモデルもサポートできるという。また、特定のワークロードを共有クラウドインフラに置けないセキュリティ専門家向けの選択肢としても位置付けている。

CANのCEO、Nate Watsonは、物理的な管理について異例なほど具体的に説明した。顧客はScott Dataに入り、自社モデルを保持する正確なハードウェアを特定できるという。

この可視性は営業上の主張の中心にある。クラウド顧客は通常、アカウント、権限、設定を管理する。しかし、各リクエストを処理する物理マシンを見ることはほとんどない。

Workhorseは、時折のチャットボット利用ではなく、反復的なワークロードも対象にしている。アプリケーションが継続的に稼働し、機微な記録を扱う、または安定した一連の作業を実行する場合、専用ノードの意義はより大きくなる。

想定される例としては、社内技術文書の検索、契約書のレビュー、サービスリクエストの分類、独自データセットを用いたアナリスト支援などがある。これらは妥当な用途例であり、開示されたWorkhorse顧客の導入事例ではない。

Badeerはセキュリティを理由に顧客名の公表を避けた。Silicon Prairie Newsに対し、Workhorseには少数の顧客がおり、エンタープライズ組織の獲得を進めていると語った。

同社はまた、需要が利用可能な在庫を吸収しており、追加のカスタム構築ノードを計画していると述べた。受注数、納入予定、ハードウェア構成、独立監査済みの稼働率データは公表していない。

こうした未公表事項はコンセプトを否定するものではない。一方で、ローンチ時の説明と、実証済みのインフラ事業との境界を示している。

セキュアなAIノードに支持が集まる理由

プライベートAIへの需要は、モデルベンダーが企業データを取得するという単一の不安に基づくものではない。複数の管理上の問題が重なっていることを反映している。

従業員は、承認されていないツールに機密情報を貼り付けることで、情報を漏えいさせる可能性がある。承認済みアプリケーションでも、想定以上のデータを保持する場合がある。AIエージェントは、許可された情報を取得し、それらを組み合わせて新たな機微な出力を生成することもある。

こうしたリスクは、基盤となるモデルプロバイダーが契約を遵守していても存在する。データセキュリティは、アイデンティティ管理、検索権限、ログ、保持、モデルの挙動、従業員の慣行に依存する。

米国国立標準技術研究所は、生成AIプロファイルにおいて、プライバシー、情報セキュリティ、バリューチェーン統合を、注意を要するリスクとして挙げている。NISTは、システムのライフサイクル全体にわたってAIリスクを管理することを推奨している。

このより広い視点は、ローカルハードウェアが関心を集める理由の説明に役立つ。プライベートノードは、データに触れる外部システムの数を減らせる可能性がある。また、組織にモデルファイル、ログ、ストレージ、ネットワーク接続への直接的な管理権限を与えることもできる。

ただし、物理的な所在地は管理手段の一つにすぎない。設定が不適切なプライベートサーバーは、盗まれた認証情報、過剰な権限、悪意あるプロンプト、未更新のソフトウェア、内部者による不正利用に対して脆弱なままでありうる。

したがって、ローカルインフラはセキュリティの問題を解消するのではなく、その性質を変える。組織は設定、更新、アクセス制御、監視、インシデント対応により大きな責任を負う。

営業秘密に関する懸念は、問題の重要性を高める。Ropes & Grayの弁護士は最近、保持、アクセス、学習、機密保持の条件を統制できる管理された環境を選ぶよう企業に助言した。同社の営業秘密に関するガイダンスも、方針、従業員研修、定期監査の重要性を強調している。

このガイダンスはWorkhorseの方向性を支持するが、その訴求内容のすべてを裏付けるものではない。既知のマシン上にモデルを置いても、権限を持つ従業員が機微な出力を持ち出すことまでは防げない。

エージェント型システムは別の課題を生む。AIエージェントは、多くの場合、企業ツールを呼び出したり接続済みデータを検索したりしながら、複数のアクションを計画・実行できるソフトウェアである。

エージェントは、単一のファイルをコピーすることなく文書を読み、顧客記録を照会し、競合分析の草案を作成できる。従来の監視は、こうした統合を疑わしい転送として扱わない可能性がある。

プライベートハードウェア上でエージェントを運用する企業も、詳細なログとデータレベルの権限管理を必要とする。エージェントがどのリポジトリにアクセスし、どのツールを呼び出し、何を返したかを把握しなければならない。

Workhorseは、こうした対策のために管理された基盤を提供できる。顧客は依然として、ソフトウェア、方針、継続的な見直しを通じてそれらを実装する必要がある。

ネブラスカ州の企業にとっては、近さも別の魅力になる。チームは地域の運用担当者に連絡でき、施設を訪問し、アプリケーションを理解するコンサルタントと協働できる。

専任の機械学習インフラチームを持たない中堅組織にとって、この関係は重要になりうる。彼らの選択は、理想的なクラウドシステムと理想的なプライベートシステムの比較であることはほとんどない。

実際の選択は、既存の従業員が運用できるサービスの間で行われる。CANは、地域サポートによって、そうでなければ専用インフラを避ける組織にも扱いやすいものになると見込んでいる。

本当の競争は専用処理能力とクラウドの柔軟性の間にある

AI Workhorseはクラウドファーストという前提に挑戦するが、パブリッククラウドインフラを時代遅れにするものではない。

クラウドAIが標準となったのは、実験への障壁を下げるからだ。開発者は、ソフトウェアが外部サービスへリクエストを送れるようにするアプリケーションプログラミングインターフェースを通じて、高性能なモデルにアクセスできる。

この手法では、ハードウェアの購入、設置、冷却、そして大半の保守作業が不要になる。また、チームはモデルを切り替え、処理能力を拡張し、実験を速やかに終了できる。

専用ノードは、こうした強みと弱みを反転させる。顧客は予約済みの処理能力とより直接的な管理権限を得るが、特定のハードウェアと運用判断に対してより長いコミットメントを負う。

決定要因は、多くの場合ワークロードの安定性だ。予測不能なパイロットではオンデマンドの処理能力が有利になる。安定した本番ワークフローでは、専用コンピューティングの方が予測とガバナンスを行いやすくなる可能性がある。

Workhorseの幹部は、トークンベースの従量費用は際限なく増える可能性があると主張する。トークンは言語モデルが処理する小さなテキスト単位であり、多くの商用サービスはトークン量で利用料を計測する。

この懸念を普遍的なものとして扱うべきではない。クラウドモデルの価格、キャッシュの選択肢、バッチ処理、小規模モデルはいずれも改善を続けている。慎重に設計されたクラウドアプリケーションは、十分に活用されないプライベートサーバーより低コストになりうる。

Stanfordの2025 AI Indexによると、GPT-3.5相当の性能における推論コストは、およそ18カ月の間に280分の1超へ低下した。同レポートの推論コスト分析は、かつてははるかに大規模なシステムに関連付けられていた性能水準に、より小さなモデルが到達していることも示した。

こうした傾向は、二つの方向に作用する。

モデルコストの低下は、顧客がより少ない費用で優れた性能を購入できるため、クラウドサービスを強化する。同じ進歩は、より控えめなハードウェアでも小規模モデルが有用な結果を出せるため、プライベートAIも強化する。

そのため、モデル最適化はWorkhorseの論拠の中心にある。同社は、特定のトレーニングおよびチューニング手法によって、対象業務では低価格のモデルがプレミアムな代替手段と同等の性能を発揮できるとしている。

この主張は慎重に解釈する必要がある。小規模モデルは、狭く適切に設計されたタスクでは大規模モデルに匹敵しうる。しかし、それだけで小規模モデルが大規模システムのあらゆる能力に匹敵することにはならない。

たとえば社内サポートアシスタントは、承認済み文書を検索し、構造化された回答を生成するだけでよい場合がある。汎用的なリサーチエージェントは、より広範な問いと、より変動の大きい推論要件に直面する。

顧客はモデルを比較する前に、成功の定義を定めなければならない。有用な指標には、タスク精度、レイテンシー、失敗したリクエスト、人間によるレビュー時間、根拠のない回答の割合が含まれる。

この評価がなければ、プライベートモデルは経済的に見えながら、実際には従業員へ作業を戻している可能性がある。また、顧客や規制当局が気付くまで見えないままのエラーを生むこともある。

クラウドプロバイダーには、ほかにも優位性がある。セキュリティエンジニアリング、信頼性、モデル更新、専用チップに多額の投資をしている。また、マネージドID管理、監視、データツール、コンプライアンス機能も提供する。

ローカルノードはインフラに対するより大きな管理権限を提供するが、管理には労力が伴う。誰かがオペレーティングシステムにパッチを適用し、モデル提供用ソフトウェアを更新し、新しいバージョンをテストし、バックアップを管理しなければならない。

Workhorseは、ハードウェアにCANのエンジニアリングとScott Dataの運用を組み合わせることで、その隔たりを埋めようとしている。そのため同製品は、単なるサーバー販売というより、マネージド型のプライベートAIサービスに近い。

この違いが、同社が競争できるかどうかを左右する。多くの組織は、インフラ運用者になることなく管理権限を得たいと考えている。Workhorseが成功するのは、そのサービスがこの組み合わせを現実的なものとして示せる場合に限られる。

Scott DataがローカルAIモデルに先行優位をもたらす

Workhorseがより現実的に見えるのは、実績のないスタートアップを中心に新施設を建設するのではなく、既存のOmahaのデータセンターを活用できるためだ。

Scott Dataは2002年からOmahaで事業を展開している。同組織によると、その施設は冗長化された電力、冷却、セキュリティ管理、高密度コンピューティングへの対応を備えたTier III認定データセンターだという。

同社のAI infrastructureには、コロケーション、高性能コンピューティング、GPUサービスが含まれる。Graphics processing units、すなわちGPUは、多くのAIモデルで使われる並列計算を処理するために設計されたチップだ。

Scott Dataによると、同施設は110,000平方フィートをカバーし、20メガワットの中央プラントを使用している。また、従来型の空冷に対応する一方、高密度機器向けにより高度な液冷の選択肢も準備している。

これらの数値はScott Data全体の施設規模を示すものであり、Workhorse向けに確保された容量ではない。この環境内でスタートアップが何台のノードを展開できるかは、いずれの組織も明らかにしていない。

それでも、この提携は大きな障害を取り除く。データセンターには、電力供給、冷却、物理セキュリティ、ネットワーク、バックアップシステムへの多額の投資が必要になる。

こうしたシステムをゼロから構築するスタートアップは、はるかに大きな資金調達と実行の負担に直面する。Workhorseは代わりに、ノード設計、モデル導入、顧客サポートに注力できる。

Scott Dataはすでに、Omaha全体のAI戦略に参画している。Greater Omaha Chamberと協力し、地元企業によるAI活用の検討やコンピューティング資源へのアクセスを支援してきた。

同データセンターは、University of Nebraska-LincolnともAIメイカースペースで提携している。この施設では、工学系の学生がプロジェクトの構築とテストのために8基のNvidia H100 GPUを利用できる。

こうした取り組みは、コンピューティング、教育、企業導入をめぐる小規模な地域パイプラインを生み出している。Workhorseは、実験段階を越える準備ができた組織を対象とする製品を加える。

この地域モデルは、ハイパースケール・データセンターの競争とも対照的だ。ハイパースケール施設は巨大なクラウドプラットフォームを支え、大量の土地、電力、水、専門機器を消費する可能性がある。

Nebraskaではすでに、将来のデータセンター需要と産業需要が電力網にどう影響するかが問われている。こうした制約により、すべてのAI戦略を建設プロジェクトとして扱うよりも、既存容量を的を絞って活用する方が魅力的になる。

2025年の地域討論で、Scott DataのCEOであるKen Moreanoは、一部の大企業が当初は数十基のGPUを求めたと述べた。ワークロードを精査すると、実際には数基しか必要としない場合もあったという。

Omaha AI infrastructureに関する分析で報じられたこの見解は、より小規模なノード戦略を裏付ける。ただし、案件ごとの検証も必要だ。

企業は初期計画の段階で、コンピューティング需要を過大または過小に見積もることが少なくない。成功したパイロットが、元のノード容量を超えて拡大することもある。

Workhorseには明確な拡張経路が必要だ。顧客はGPUを追加できるのか、複数ノードを接続できるのか、ワークロードを移行できるのか、需要急増時にクラウド容量を利用できるのかを理解できるべきである。

ここで、ローカルかクラウドかという絶対的な二者択一よりも、ハイブリッドインフラが有用になる可能性がある。企業は、機密性の高い検索と記録を管理下のインフラに保持しながら、承認済みのタスクには外部サービスを利用できる。

Workhorseは、すべてのクラウドワークロードを置き換える必要はない。ローカルでの管理と安定した容量が専用環境を正当化するアプリケーションを見極める必要がある。

AI Workhorseがまだ証明していないこと

Workhorseはエンタープライズの懸念に対する首尾一貫した回答を示しているが、公開されている証拠は、そのセキュリティ面または経済面での優位性を確認するにはなお限定的すぎる。

同社は標準的なハードウェア仕様を公開していない。購入者は、プロセッサの種類、メモリ、ストレージ、ネットワーク速度、消費電力、想定されるモデル性能を公に比較できない。

Workhorseはベンチマーク結果も公表していない。一般的なエンタープライズタスクにおいて、そのノードがクラウドサービスと比べてどのような性能を示すかを独立して比較したものはない。

セキュリティ情報も同様に限られている。Scott Dataは物理面と運用面の保護策を説明しているが、Workhorseは製品固有のセキュリティアーキテクチャや外部評価を公開していない。

重要な論点には、暗号化、テナント分離、管理者アクセス、パッチ適用スケジュール、ログ保持、バックアップ手順、インシデント対応が含まれる。顧客は、誰がモデルファイルとシステムプロンプトにアクセスできるのかも把握すべきだ。

専用マシンであることは、必ずしも完全に隔離されたシステムであることを意味しない。共有ネットワーク、リモート管理ツール、ソフトウェアリポジトリ、顧客データベースに接続される可能性は依然としてある。

顧客が自社モデルの物理的な所在地を特定できるという同社の主張は有用だ。だがセキュリティチームには、その所在地に加えて完全なデータフロー図が必要になる。

経済性についても、実際の利用率データが必要だ。専用容量は、顧客が継続運用を正当化できるだけ十分に利用する場合に最も効果を発揮する。

低ボリュームのアプリケーションは、クラウドの方が安価なままである可能性がある。高ボリュームでも利用が不規則なアプリケーションには、単一ノードでは提供できない弾力性が必要になる場合がある。

モデルの進歩もハードウェアリスクを生む。新しいチップやより効率的なモデルにより、旧式の機器が耐用年数を終える前に、望ましいインフラが変わる可能性がある。

クラウド顧客は、多くのアップグレードをサービス変更を通じて受けられる。プライベートインフラの顧客には、アップグレードの選択肢、移行支援、旧式化したコンポーネントの責任を説明する契約が必要だ。

顧客の秘密保持は、別の検証上の問題も生む。Workhorseは、セキュリティ上の理由から現在の顧客名を明かせないとしている。それは理解できるが、外部の観察者には本番環境での信頼性を示す証拠がなお必要だ。

同社は将来的に、匿名化したワークロードプロファイルを公開できるかもしれない。顧客の身元を明かすことなく、稼働率、利用率、タスク精度、導入時間、サポート件数を報告できる。

第三者によるセキュリティレビューは、この提案を強化するだろう。明確に定義されたモデルとワークロードを使い、独立して再現された性能テストも同様である。

非営利団体向け寄付プログラムにも、同様の継続的な実行が必要だ。Workhorseは、商用ノードが5台購入されるごとに、トレーニングとサポートを含むノードを1台寄付するとしている。

このモデルは、インフラの成長をコミュニティによる利用機会と結び付ける。一方で、非営利団体が適切なユースケースを特定し、データを準備し、ガバナンスを確立し、職員の参加を支援できることを前提としている。

無料のサーバーだけでは、こうした組織上の要件は解決しない。CANとOmaha Data Science Academyを通じて提供されるトレーニングは、ハードウェアそのものより重要になる可能性がある。

非営利団体は、寄付者、従業員、患者、学生、あるいは脆弱なコミュニティに関する機密情報を扱うことが多い。商用顧客に期待されるのと同じセキュリティと評価の規律が必要だ。

寄付プログラムの最も強力な形は、各ノードに範囲を限定したプロジェクト、責任を持つ担当者、アクセス方針、測定可能な成果を組み合わせるものだろう。

そうした成果が現れるまでは、Workhorseは初期段階のマネージドインフラ実験とみなすべきだ。その約束はもっともらしいが、依然として同社の主張にとどまる。

NebraskaでプライベートAIが機能するかを示す3つのシグナル

Workhorseにとって次の試験は、より多くのサーバーを組み立てられるかではない。顧客が測定可能な管理性と予測可能な労力で価値あるワークロードを実行できるかどうかだ。

最初のシグナルは、本番利用の継続だ。Workhorseには、契約を更新し、容量を拡大し、追加のワークフローをノードへ移す顧客が必要になる。

顧客数の増加だけではほとんど意味を持たない。継続利用は、専用インフラが一時的な好奇心を満たすだけでなく、継続的な問題を解決していることを示す。

最も有用な証拠は、各導入を定義されたタスクに結び付けるものだ。たとえば、文書レビューの高速化、サポートの未処理案件削減、アナリストの処理能力向上、外部エンドポイントへの依存低下などが含まれうる。

2つ目のシグナルは、独立したセキュリティおよび性能の検証だ。Workhorseは、購入者がそのノードをクラウドやオンプレミスの代替手段と比較できるだけの技術的詳細を公開すべきである。

そのために顧客データや独自構成を公開する必要はない。明確なテスト条件、モデル名、ハードウェア情報、再現可能な測定値が必要だ。

セキュリティ検証は、データセンターの建物だけを対象にすべきではない。ノード構成、アイデンティティ管理、リモートアクセス、ソフトウェア更新、ログ記録、復旧手順を検証する必要がある。

信頼できる監査は、ローカルインフラがより高い管理性を提供するという同社の主張を強化するだろう。重大なインシデントや責任分担の不明確さは、それを弱めることになる。

3つ目のシグナルは、コミュニティモデルが機能しているという証拠だ。寄付されたノードは、導入済みの非営利サービス、訓練を受けた従業員、文書化された保護策につながるべきである。

このシグナルが重要なのは、Workhorseが単なるプライベートコンピューティングのベンダー以上の存在として自らを位置付けているためだ。同社は、商業需要を共有の地域AI能力の構築へとつなげたいと考えている。

このビジョンは、地元企業、大学、コンサルタント、非営利インフラというNebraskaの既存の組み合わせに合致する。一方で、利用可能な技術を持続的な組織能力へ転換するという、地域に共通する課題にも直面する。

ハードウェアは遊休状態になりうる。モデルはユーザーを失望させることがある。パイロットプロジェクトは、当初の推進者が離職すれば失敗する可能性がある。

プライベートAIを検討する組織は、ノードではなくワークフローから始めるべきだ。機密データ、現在の作業量、予想リクエスト量、精度要件、許容可能な障害モードを特定する必要がある。

少なくとも3つの導入パターンを比較すべきである。すなわち、マネージドクラウドAI、専用プライベートインフラ、ハイブリッド設計だ。各選択肢には、同じセキュリティ、品質、運用に関する問いを適用すべきだ。

チームには信頼できる情報レイヤーも必要になる。searchable knowledge baseは、モデルが検索する前に承認済み文書を整理する助けとなる。

AI Workhorseは、プライベートAIをめぐる議論にとってNebraskaを有用な検証事例にした。今後数カ月で、ローカルノードが運用上の管理性をもたらすのか、それとも見慣れた複雑さを別の場所へ移すだけなのかが明らかになるはずだ。

エンタープライズの購入者にとって、次に取るべき行動は明確である。反復可能なワークフローを1つ選び、そのリスク境界を文書化し、競合するインフラの選択肢で測定することだ。Workhorseが実際の本番条件下でその比較に勝てるなら、そのローカルモデルはOmahaをはるかに超える意義を持つことになる。