NVIDIA 機密運算擴展至裸機，改變 AI 建構者必須信任的對象

NVIDIA Confidential Computing 正擴展至專用第三方伺服器，讓模型建構者取得更多控制權，同時不免除其對可信軟件的責任。於 2026 年 10 月 21 日公布的 Confidential Bare Metal，針對希望使用外部運算容量、但仍保留對敏感模型及資料控制權的機構。當中的核心張力在於擁有權：租用硬件不應意味著必須讓其營運方存取當中運行的一切。

這改變了 AI 開發者對基礎設施的討論。模型建構者需要評估系統限制誰的存取權、信任誰的軟件，以及由誰決定受保護資訊何時可被存取。Microsoft Azure 已提供機密 GPU 虛擬機器，亦即具備硬件支援保護、由軟件定義的電腦。NVIDIA 的公告增加了另一種部署選擇，而非創造機密 AI。

這項區別不僅關乎基礎設施團隊。企業客戶把內部文件、專有程式碼及業務記錄交託予 AI 服務。保護這些材料免受託管供應商存取，處理的是其中一種風險；要保護它們免受 AI 服務本身存取，則需要另一道邊界、明確政策，以及證明這些政策確實有效的證據。

NVIDIA Confidential Computing 加入裸機途徑

這項公告擴展模型建構者租用受保護基礎設施的方式，同時讓其保留對自身軟件的控制權。

NVIDIA 在其 Confidential Bare Metal 公告中，介紹了專用第三方硬件的部署選項。裸機意指客戶直接使用實體伺服器，而非完全在由供應商管理的虛擬機器內運行。

公司現時提出三種部署選項：Confidential Bare Metal、Confidential Containers 及 Confidential Virtual Machines。容器會把應用程式連同其相依項目一併封裝；Kubernetes 則協調其部署。這些選項讓機構能以不同方式，為工作負載設置安全邊界。

NVIDIA 亦公布支援 Grace Blackwell 及 Rubin 系統，並計劃與其基礎設施軟件基礎 NVIDIA DSX OS 整合。這使公告不只涵蓋單一伺服器配置。不過，平台支援不應被解讀為每個供應商或地點均普遍提供服務。

Cohere 計劃將 Confidential Bare Metal 整合至 Model Vault。NVIDIA 將此界定為把硬件支援保護延伸至 GPU 執行環境。GPU 是用於平行運算的處理器，包括模型訓練及服務提供。公告描述的是預期整合，而非經獨立驗證的部署成果。

真正有用的改變在於營運模式。建構者可在其他地方取得基礎設施，同時繼續承擔處理其知識產權環境的責任。機密運算運用硬件支援保護來保障執行期間的資訊，因此成為容量決策的一部分。

對於評估這項公告的讀者而言，控制權值得有精確定義。對應用程式軟件的控制不同於對硬件維護的控制；對加密金鑰的控制不同於對排程的控制。專用伺服器可以簡化某些關係，但其他關係仍取決於合約及實作方式。

因此，部署類別的重要性不及其實際邊界。帶有相近安全標籤的兩項服務，可能把截然不同的責任分配給客戶。機構在選擇時，需要清楚了解由誰營運每個元件。

因此，這項公告在技術選項以外，也提出了一個採購問題。機構能否取得所需硬件，而毋須接受其認為不可接受的管理存取權？回答這問題，不只在於查看供應商是否宣傳機密運算。

模型建構者亦應區分自主與便利。運行其偏好的軟件堆疊，可以減少對供應商管理配置的依賴；同時，這也提高了建構者自身發行流程、安全審查及事故應變的重要性。

因此，這項價值主張相當具體。此方式適合那些重視軟件擁有權，並願意承擔相關工作的機構。它並不表示每個企業 AI 工作負載都應遷移至裸機。

雲端供應商面對要求更高的容量銷售

供應商除了要說明客戶可租用甚麼硬件，也必須解釋客戶如何驗證基礎設施保護措施。

Google Cloud 在其 裸機 AI 基礎設施 公告中，獨立印證了這項擴展。該公告指出，由 NVIDIA GB300 NVL72 系統驅動的 A4X Max 執行個體，是 Confidential Bare Metal 的部署目的地。

Google 描述了以硬件為根的安全開機及驗證，亦即用於評估平台身分及獲批准狀態的密碼學證據。它亦提及加密記憶體及 NVLink 連線，即 NVIDIA 用於連接 GPU 的技術。這些仍是供應商就所提供架構提出的主張。

Google 的公告把 A4 執行個體現有的機密運算可用性，與裸機選項的推出區分開來。這項區別在評估準備程度時很重要。具名整合比一般合作夥伴聲明提供更有力的證據，但讀者仍需要按產品了解具體的可用性詳情。

供應商承受的壓力源於客戶的議價地位。若模型本身屬於具價值的知識產權，存取條件便成為基礎設施採購的一部分。僅有容量，並不足以決定該容量是否可接受。

對採購團隊而言，這意味著需要採用不同的比較流程。他們應評估供應商提供的證據、客戶對審批決策的權限，以及拒絕不合適配置的程序。市場推廣語言不能取代這些答案。

設想一個假設情況：某模型開發商正把服務擴展至另一個市場。其工程師找到合適的運算叢集，但安全團隊反對主機方的管理存取權。採購決定便取決於該服務能否同時符合兩個團隊的要求。

機密基礎設施可能為此分歧提供解決途徑。然而，買方仍需要就責任分工達成共識。誰批准變更？誰調查故障？誰可以暫停服務，而在復原期間，受保護資訊會如何處理？

這些問題影響地域擴展的實際意義。某個地點可能提供合適硬件，卻未能符合機構的營運要求；反過來說，技術上可接受的保護模式，仍可能需要額外合約審查。

因此，地點與機密性應繼續作為獨立評估準則。前者關乎處理在哪裏進行；後者關乎在系統假設下，哪些方可以存取資訊。買方若同時記錄兩者，而不把其中一者視為另一者的替代，將會受益。

相同的區別亦適用於供應商多元化。更多託管選項為建構者帶來額外選擇，但轉換前需要證據，證明接收環境符合其政策。可攜式應用程式並不必然代表可攜式安全決策。

最有力的供應商回應，會令這些決策更易評估。清晰的配置文件、明確的存取邊界及切實可行的服務承諾，可協助客戶比較方案。否則，供應商名單的擴展仍會讓買方的大部分工作懸而未決。

專用硬件與虛擬機器作出不同承諾

有用的比較應聚焦於責任與保護邊界，而非哪個部署標籤聽起來更強。

Microsoft 現有的 機密 GPU 選項 結合 AMD EPYC 處理器與 NVIDIA H100 GPU。Microsoft 描述了一個可信執行環境，即由硬件保護的執行邊界，涵蓋機密虛擬機器及其所連接的 GPU。

文件亦列出營運限制。機密 GPU 虛擬機器使用專用硬件，而文件所述方案不支援調整規模。客戶仍須負責高可用性及災難復原。這些細節說明，架構比較為何需要營運證據。

相對於這個參考，裸機擴展改變了控制權的分配。選擇專用基礎設施的建構者，應問其偏好的軟件及管理模式，是否值得承擔額外責任。選擇虛擬機器的團隊，則應評估相應的服務限制。

答案不會自動由技術名稱得出。若某受管理環境的要求符合其已記錄的邊界，它可以適合某個機構；更大的軟件自由度，則可能適合另一個擁有維護所需人手及流程的機構。

AWS 透過 隔離運算飛地 提供另一種比較。Nitro Enclaves 建立與父執行個體隔離的受限環境。AWS 文件指出，飛地內沒有持久儲存、互動式存取或外部網絡連線。

AWS 亦支援密碼學驗證，以及與其金鑰管理服務整合。該服務管理加密金鑰，並可評估驗證證據。Nitro Enclaves 說明了一種聚焦的隔離方式；它並非等同 GPU 容量的證據，也不是已公布裸機配置的替代方案。

這些例子建立了比簡單供應商排名更有用的競爭框架。買方是在比較不同的保護單位及不同的營運安排。受限飛地、機密虛擬機器及專用主機，分別回答不同的部署問題。

機構的工作負載應決定哪些差異重要。範圍狹窄的敏感操作，與整個模型服務環境有不同需要；具有嚴格自訂要求的服務，與圍繞受支援管理配置設計的服務，亦有不同需要。

這亦是效能主張需要謹慎看待的原因。單憑不存在虛擬化層，並不足以提供針對特定工作負載的結果。買方應要求其預期配置的測量數據，並說明何謂可接受的行為。

有意義的評估，應包括機構實際的應用程式行為及服務要求。目標是確立受保護部署是否能提供所需服務。有利的架構圖本身，無法回答這個營運問題。

同樣的推理亦適用於工程投入。部署可以符合安全要求，同時需要團隊難以長期承擔的額外工作。這不會令架構失效；而是改變該架構是否適合該組織。

競爭層面的結果是選擇範圍更廣，同時更需要作出精準比較。能清楚記錄限制的供應商，讓買方有具體內容可評估。依賴籠統保密承諾的供應商，則讓最重要的差異仍未釐清。

模型擁有者仍處於信任邊界之內

保護模型免受基礎設施供應商存取，並不會自動保護客戶資料免受模型擁有者存取。

NVIDIA 的開發版本 bare-metal 威脅模型 明確說明了這項分別。威脅模型界定了安全設計所依據的對手、假設及限制。

文件指出，Confidential Bare Metal 信任模型擁有者的特權軟件及管理員。它不會將終端用戶資料與該擁有者或其獲批准軟件隔離。在交接及驗證後，基礎設施擁有者位於運行時邊界之外。

文件亦指出，保護措施取決於實際平台及設定。其 Grace Blackwell 基線不提供加密的 CPU 至 GPU 晶片對晶片連線，亦不提供硬件 PCIe 加密。PCIe 用於連接系統元件。NVLink 加密並不代表為所有其他通訊路徑建立保護。

這些是已記錄的限制，並非已遭利用的部署證據。它們亦防止人們作出籠統推論，認為每條傳送敏感資料的路徑都獲得相同保護。相關問題是完整部署是否處理了該組織的特定風險暴露。

對企業客戶而言，這項信任分別改變了應如何理解供應商的私隱聲稱。「我們的託管供應商無法存取此工作負載」所回答的問題，比「我們的服務無法存取你的資料」更狹窄。

這些陳述應在安全審查中分開列示。服務可以針對基礎設施存取提供有意義的保護，同時仍透過其自身軟件保留存取權。買方需要知道自己接受的是哪一項主張。

設想一個說明性的企業助理，會搜尋內部技術文件。其客戶希望獲得有用答案，同時不向不必要的各方暴露機密資料。基礎設施保護處理了該目標的一部分。服務本身的存取規則仍然同樣重要。

因此，客戶應詢問誰可以擷取文件、檢查請求、審閱生成答案，或更改處理它們的軟件。這些屬於應用程式及營運政策問題。硬件保密聲稱不會以暗示方式解決這些問題。

對正籌辦此類審查的團隊而言，可搜尋知識庫 可讓架構決策及供應商證據保持易於存取。這些文件有助審查；但不會提供正在評估的保護措施。

這項分別對公開訊息亦很重要。模型建構者應說明其架構排除的具體一方。關於全面私隱的籠統陳述，會引導客戶假定系統仍然信任的參與者也被排除在外。

審慎的買方可以接受符合其需要的有限主張。問題在於買方與供應商為相同字詞賦予不同含義。明確邊界能在部署前令這種分歧變得可見。

這正是 NVIDIA Confidential Computing 擴展 bare-metal 的主要取捨。建構者獲得一條邁向基礎設施獨立性的途徑，同時繼續承擔軟件信任決策。該架構改變責任所在；客戶仍需理解由此形成的安排。

成功的啟動檢查並不能判定運行時安全

證明工作負載以獲批准狀態啟動後，仍有另一個問題：其後會發生甚麼事。

MITRE 在其持續遠端驗證框架中處理了這個更廣泛的問題。該框架於 2026 年 7 月 16 日發布，指出僅驗證啟動狀態不足以保障雲端及 AI 工作負載。

MITRE 指出，即使工作負載以受信任狀態開始，運行時受入侵仍是一項關注。其建議架構把驗證延伸至運行時完整性、行為保證、傳輸綁定及 AI 工作負載檢查。這是與實作無關的框架，而非對 NVIDIA 公告作出的結論。

這個獨立觀點為部署敘事帶來有用的檢驗。買方需要理解執行前收集的證據，以及運作期間採用的控制措施。將兩者視為獨立審查問題，有助揭示遺漏的假設。

例如，企業可能批准某個特定軟件版本，但其後授權更新。重要問題是該變更如何納入批准程序。組織需要一項政策，說明誰可以批准，以及他們審閱哪些證據。

另一個相關問題涉及例外情況。當預期元件無法使用時，生產團隊有時需要恢復服務。買方應詢問緊急程序如何與承諾的保護措施互動，而非假設日常運作涵蓋所有復原路徑。

這些是評估問題，並非對已部署系統的指控。其目的是將架構承諾轉化為營運承諾。供應商的回答應描述客戶可審查的可觀察行為。

回答的質素亦取決於誰控制驗收。如果客戶無法判斷證據是否符合自身政策，該證據在實務上的價值有限。驗證與授權之間需要明確關係。

當責任跨越多個組織時，這種關係尤其重要。模型建構者、基礎設施營運商、企業客戶及驗證服務各自可能有不同優先次序。審查應識別哪一方負責解決分歧，以及哪一方承擔由此產生的服務風險。

對 AI 代理而言，保密性及授權亦應分開討論。代理是使用模型選擇行動並與工具互動的軟件。保護其執行環境，並不能決定特定行動是否恰當。

因此，審查代理的企業除了資料存取外，亦應詢問獲允許的行動。它可以更改哪些系統？哪些請求需要人工審閱？哪些記錄支援其後調查？這些問題關乎應用程式的行為及權限。

同樣的分隔亦有助知識工作者理解安全聲稱。服務可以改善對託管存取的保護，同時未必回答有關保留、分享或自動化行動的所有疑慮。理解邊界有助更準確地衡量這項改善的價值。

實際含義是分層採購決策。基礎設施證據支持其中一部分理據。軟件管治、存取政策及營運程序支持其他部分。買方應根據其要求評估完整服務。

關注可用性、生產證據及跨供應商驗證

下一批訊號應顯示，已公布的架構是否成為客戶可以評估及營運的服務。

第一個訊號是特定產品的可用性。在接下來數月，留意供應商是否公布支援地點、配置、存取條件及服務承諾。這將強化擴展帶來實際基礎設施選擇的論據。

具名平台並不能回答所有部署問題。買方需要知道所需配置是否適用於其工作負載，以及其營運條款是否合適。清晰文件會令討論超越公告措辭。

相應的警號將是持續的模糊不清。如果潛在客戶無法識別合資格服務，或無法取得其配置要求，這項實際擴展便仍難以評估。這將削弱關於短期部署彈性的結論。

第二個訊號是來自模型建構者及企業客戶的生產證據。有用的證據會說明已部署配置、預期保護邊界，以及營運所需工作。缺乏這些細節的行銷背書，能回答的買方問題較少。

效能報告應採用客戶實際會運行的受保護部署。買方亦應留意有關維護、軟件變更及復原的說明。這些細節有助確定該架構是否適合日常服務交付。

有用的證據毋須披露敏感的內部設計。對責任、支援行為及已觀察限制作出清楚交代，已可支援評估。誠實說明限制，比沒有根據地聲稱普遍適用更能增強信心。

第三個訊號是跨供應商驗證。留意建構者在不同託管環境之間遷移工作負載時，能否套用易於理解的批准政策。這將強化保密性支持基礎設施選擇，而非建立另一種孤立部署安排的論點。

跨供應商驗證並不需要假裝每個平台都相同。它要求將差異清楚呈現，讓組織可判斷是否可以接受。支援這項決策的文件將是有意義的進展。

較弱的結果會令每次轉換都依賴不透明證據及未解釋的例外情況。建構者或會獲得額外供應商，但仍面對其政策能否轉移的重大不確定性。這會限制擴展部署選項的營運價值。

這些訊號合起來，令分析聚焦於公告的實際承諾。NVIDIA Confidential Computing 為建構者提供另一種方式，將取得運算容量與取得其模型分開。相關證據將顯示供應商在實務上如何清楚維持這項分別。

對正在評估這項擴展的企業而言，應從特定工作負載及需要排除的各方明確清單開始。要求供應商將每項保護聲稱對應至該要求。把模型擁有者的存取權與基礎設施營運商的存取權分開處理。索取現行配置文件、可用性條款，以及軟件批准及復原程序的說明。與負責應用程式、基礎設施及客戶資料的人員一同審閱這些答案。然後按相同要求，將建議服務與現有部署比較。Confidential Bare Metal 讓你的組織改變哪一項信任決策，而哪些責任仍需自行承擔？