top of page

NVIDIA BlueField-4 STX 在 OCP 2026 展示更小型的 CMX 伺服器

7 日前
讀畢需時 11 分鐘

NVIDIA BlueField-4 STX 在 OCP 2026 以較小型的伺服器設計亮相,焦點由其架構公布轉向更實際的情境記憶體硬件。根據 ServeTheHome 10 月 19 日的報道,該主板看來採用單一 Vera 處理器封裝,而非先前展示的雙 Vera 配置。這一點相當重要,因為專用記憶體儲存層必須證明運行它所需基礎設施的價值。

CMX 是 NVIDIA 的情境記憶體儲存平台,針對 AI 推論期間產生、可重複使用的資訊;推論即運行已訓練模型的過程。核心取捨在於設置專用情境基礎設施,還是利用既有伺服器記憶體及儲存裝置處理這些資訊。較小型的實作為儲存系統建置商提供另一種可評估的配置,但尚未確立其效能或營運經濟效益。

對於比較傳統儲存伺服器與 NVIDIA 專用方案的買家而言,Intel 及 AMD 伺服器平台仍是重要參考點。問題在於,把情境儲存分離後,能否足以改善應用程式表現,從而證明新增一層系統的合理性。OCP 展出的硬件令這項討論更具體,但現有報道仍未釐清重要實作細節。

NVIDIA BlueField-4 STX 由架構走向主板設計

OCP 的發展關乎較小型的硬件實作,而非 NVIDIA 儲存架構的首次公布。

NVIDIA 於 2026 年 3 月 16 日公布 STX,這是其用於加速儲存的模組化參考架構。其加速儲存架構公告把 CMX 定位為首個機架級實作。NVIDIA 表示,合作夥伴的平台將於 2026 年下半年推出。

因此,10 月觀察到的情況屬於已在推進的實作故事。它讓人看到合作夥伴可能如何封裝該架構,而非證明一個全新類別在 OCP 正式推出。

ServeTheHome 的 Patrick Kennedy 描述了一塊緊湊主板,配備 SOCAMM 記憶體(一種緊湊型記憶體模組格式),以及供小型擴充裝置使用的 M.2 插槽。他的CMX 伺服器報道指出一個看似為 Vera 的處理器封裝,並將該主板與早前的雙處理器設計作比較。

Kennedy 亦報道,在所檢視的主板或照片中,未見 ConnectX-9——NVIDIA 的網絡介面卡技術。這項觀察令網絡實作仍未明朗,但並不代表完整系統缺少該元件。

這些細節十分重要,因為主板整合決定一個架構如何成為產品。儲存設備製造商必須配合連接、散熱、維修存取及系統其餘部分。緊湊的處理器主板為它們提供不同起點,但本身無法解答這些工程問題。

一個有用的區分,是把主板、周邊伺服器及完整部署分開看待。每一層都會引入照片無法確立的依賴因素。買家不應把吸引人的元件佈局當作完成的系統規格。

看似轉用單一處理器,亦引出有關配置選擇的問題。較小型設計或適合容量或處理需求不同的部署。公開資料尚未證實這些配置是否服務相同工作負載,或在合作夥伴產品組合中擔當不同定位。

相關報道支持一個較窄的結論:NVIDIA 的情境儲存架構正以更緊湊的實作形式出現。它並不支持「所有早期配置已被取代」的說法。

對系統建置商來說,這仍是有意義的進展。具體硬件讓它們能評估架構圖未能具體呈現的組裝及整合問題。最終產品規格將決定這項進展會在多大程度上改變採購決策。

儲存系統建置商面對另一種記憶體決策

眼前壓力落在基礎設施團隊身上:它們必須決定情境資訊是否值得擁有獨立的部署層。

NVIDIA BlueField-4 STX 要求這些團隊考慮的,不只是儲存容量。專用層引入一個存放可重複使用情境資訊的獨立位置,同時也帶來營運該層的責任。這項決策既關乎應用程式行為及系統管理,也關乎硬件選擇。

對買家而言,相關比較應由既有服務開始。當對話恢復、工作負載遷移,或可用記憶體受限時,該服務如何運作?這些觀察可確立專用情境層是否解決實際限制。

緊湊伺服器設計有助令這個替代方案變得具體。它讓製造商有可整合的硬件,亦讓買家有可要求規格的對象。不過,單憑實體尺寸無法確立一個部署可支援多少實際有用的應用程式工作。

財務問題亦不限於處理器主板。營運商必須計及網絡、軟件支援、設施需求及人手時間。從一個元件移除硬件,並不會自動降低周邊服務的所有開支。

這些考慮為不同買家帶來不同壓力。儲存設備製造商需要能夠封裝、驗證及支援的配置。雲端營運商需要可可靠管理的服務。企業客戶則需要證據,證明最終應用程式能在自身需求下運作得更好。

這些利益雖有重疊,卻不完全相同。一個簡化製造的配置,仍可能需要大量部署工作。一個在受控示範中表現良好的配置,亦可能難以整合至既有營運環境。

買家最有力的回應,是採用界線清晰的比較。基準應列明哪些既有元件仍然必要、哪些責任會轉移,以及會出現哪些新依賴因素。否則,有利的元件結果可能掩蓋不利的系統結果。

這亦涉及組織問題。負責模型服務、網絡、儲存及保安的團隊,或需就責任歸屬達成共識。新的情境層會在其責任跨越這些邊界的地方帶來營運決策。

對開發人員而言,這影響它們評估基礎設施方案的方式。擁有長篇對話的應用程式,不會自動需要專用情境硬件。開發團隊在選擇補救措施前,必須有證據顯示情境處理正限制服務。

對採購團隊而言,含義同樣直接。應要求供應商把硬件配置連繫到可量度的應用程式問題。較小型主板擴闊可行實作的範圍,但應用程式仍是部署它的理由。

情境重用將儲存與應用程式效能連繫起來

CMX 的架構論點,重點在於重用推論工作,而非單純保留更多應用程式檔案。

NVIDIA 的情境記憶體架構描述一個供可重用推論情境使用的共享儲存層。公司將其定位於高速本機記憶體與傳統共享儲存之間,並由軟件協調情境的存放位置。

KV cache,即處理模型輸入時產生並儲存的注意力鍵和值,可讓相容的推論工作重用先前的計算結果。GPU 高頻寬記憶體,即 HBM,會把資料保留在圖像處理器附近以便快速存取。CMX 則把情境的放置選項延伸至這種即時記憶體以外。

這項區分對解讀公告相當重要。為文件購買更多儲存空間,與保留中間模型計算結果,處理的是不同問題。兩者皆涉及資料,但其效用取決於不同的存取模式及軟件決策。

試想一個示例性的編程助手,反覆回到一個熟悉的程式庫。其原始碼檔案仍屬應用程式資料,而相容的快取推論狀態則代表已完成的工作。只有在服務系統能適當找到並使用該狀態時,保留它才有價值。

這個例子是檢視該方案的方法,而非已報道的客戶成果。它指出評估應量度的內容:回訪請求是否受益、多少工作被重複進行,以及快取資料無法重用時會發生甚麼情況。

最後一種情況值得注意。當系統無法取得其首選情境時,仍必須維持實用性。一項完全聚焦成功重用的評估,會令買家難以了解一般變化或復原行為。

因此,軟件整合應成為比較的核心。若應用程式無法作出有效的放置及檢索決策,額外容量的價值便有限。單靠硬件規格無法揭示這些決策在不斷變化的工作負載中運作得如何。

相同推理亦適用於共享資源。對單一服務而言看似吸引的重用方式,在其他服務競爭存取權時需要另行評估。買家應檢視完整營運環境,而非從簡單示範推論。

這令 OCP 主板在整個故事中擔當明確角色。它代表所提議部署層的另一種實體實作。其價值取決於完整系統是否能把該實作轉化為有用、可重複的應用程式行為。

專用情境儲存最有力的論據,將會把放置決策連繫到服務成果。這些成果除了應包括回應速度及持續的實際有用工作外,亦應包括維持它們所需的資源。單純顯示情境可放入某處,只能證明容量,不能證明效益。

傳統伺服器仍是相關比較對象

NVIDIA 的專用方案必須與既有伺服器基礎設施在營運上的熟悉程度競爭。

這種比較不需要把 Intel 或 AMD 描繪成無法支援 AI 儲存。對於已熟悉其部署、維護及軟件需求的團隊而言,傳統伺服器仍是實際替代方案。當組織必須維持服務可用性時,熟悉度具有價值。

NVIDIA 的路線要求買家接受一套協調程度更高的硬件與軟件設計。潛在效益來自把資料移動及情境處理視為值得專用加速的基礎設施責任。相應責任則是證明專門化能改善完整服務。

競爭格局亦不只是 NVIDIA 與每一家儲存供應商的對決。其 3 月公告列出 Dell Technologies、HPE、IBM、NetApp 及 VAST Data 為儲存合作夥伴。製造合作夥伴則包括 AIC、Supermicro 及 Quanta Cloud Technology。

這些關係令既有供應商成為實作工作的一部分。客戶或可透過熟悉的供應商評估基於 STX 的系統,而非採用完全獨立的供應商。不過,合作關係並不代表每項最終配置都可互換。

支援安排會影響評估。當症狀橫跨伺服器、網絡及服務軟件時,買家需要知道由誰負責處理事故。即使採用協調式架構,仍需要清晰的營運責任協議。

NVIDIA 在 8 月發布的直接儲存存取更新,說明了更廣泛的發展方向。公司宣布開源 cuFile 介面,讓軟件可透過其 GPU 儲存堆疊存取儲存裝置。公司亦提及業界正在推動互通性方面的工作。

這項工作之所以重要,是因為專用系統必須與其他基礎設施共存。客戶很少只評估一塊獨立的主機板,而不考慮周邊的軟件及設備。互通性會影響他們引入新配置的難易程度,以及之後能保留多少選擇自由。

這並不代表所有相關整合均已完成。開放介面與可在生產環境相容,是兩個不同問題。買家仍需要獲支援的組合、已記錄的限制,以及重現故障的方法。

因此,比較時亦應涵蓋營運彈性。部署能否逐步擴展?團隊能否在獲支援的範圍內更新元件?若應用程式在硬件尚未到達使用壽命終點前改變方向,又會如何?

這些問題可令分析聚焦於實際的採購選擇。即使專用系統在特定工作上具優勢,傳統伺服器設計仍可能具吸引力。反過來說,熟悉程度亦不應令既有設計避開證據檢驗;若另一種方案更適合應用程式,便應正視有關證據。

OCP 的亮相擴闊了可考慮的硬件選項。它既不會取代這項比較,亦不會預先決定結果。

主機板相片無法證明系統經濟效益

現有證據支持一次實作更新,但效能、配置及營運方面的說法仍須另行驗證。

主機板相片有助識別可見元件,並可提示封裝選擇,但無法證明完整儲存服務的行為。將這些證據類型分開處理,可避免合理的硬件觀察被延伸為沒有支持的應用程式聲稱。

NVIDIA 在 3 月公布 STX 時,聲稱其 token 吞吐量最高可較傳統儲存高五倍。Token 是模型處理或生成的文字單位。公司亦聲稱,在該架構的高效能儲存比較中,能源效率最高可提升四倍。

這些是 NVIDIA 就既定比較所作的聲稱,並非針對這塊精簡 OCP 主機板的獨立驗證結果。若要將其套用至該實作,便需要能連結配置、軟件、工作負載及基準系統的證據。

恰當的做法,是要求了解結果背後的條件。買家需要知道運行了哪個應用程式、比較如何配置,以及計入了哪些資源。沒有這些細節,倍數對個別部署幾乎沒有指導作用。

平均值亦留下不少重要問題未解。一個應用程式整體看來可能令人滿意,但部分請求仍可能出現不可接受的延遲。評估應展示服務在資源競爭下,以及缺少其偏好情境時的表現。

較小的配置帶來另一項不確定性。表面上減少處理器數目,並不代表系統成本、耗電量或吞吐量會按比例改變。其他元件及配置選擇亦可能影響結果。

安全性亦屬於同一證據討論的一部分。NVIDIA 在 5 月宣布,透過其基礎設施軟件框架 DOCA 提供情境存取控制。公告描述了獲授權檔案存取、活動可見性及網絡隔離等能力。

這些能力說明的是 NVIDIA 所表述的方向,而非證明某一客戶配置會執行所有所需政策。部署評估應檢視實際交付的控制措施,以及仍由營運方承擔的責任。

就共享情境而言,買家應詢問存取如何獲授權,以及過時狀態如何清除。他們亦應檢視權限變更後會發生甚麼。這些是實際的驗收問題,並非指控已報道硬件存在缺陷。

「記憶」一詞還有另一條界線。保留推理狀態,並不代表 AI 應用程式會記起正確資訊或產生更佳答案。應用程式品質需要獨立評估。

個人知識庫亦呈現相關區別:整理來源資訊,與保留模型計算結果是不同事項。買家在撰寫需求時,應將這些目標分開處理。

因此,審慎的解讀是具體的:據報 NVIDIA BlueField-4 STX 增添了另一種硬件形態,但完整配置及其部署成果,仍有待文件及測試釐清。

留意出貨配置、工作負載結果及營運證據

下一批有用訊號,應將精簡硬件連結至獲支援產品、可重現結果及實際營運部署。

未來數月,合作夥伴文件將最清楚地顯示 OCP 亮相帶來甚麼改變。若更多相片仍未回答相同的配置問題,其增值將相當有限。

第一個訊號是完整而可訂購的系統規格。買家應留意獲支援的記憶體配置、網絡細節、擴充選項、散熱要求,以及操作平台所需的軟件。這些細節可把對主機板的觀察轉化為產品比較。

清晰規格將加強以下解讀:精簡設計擴闊了實際部署選擇。若持續存在模糊之處,這項結論便只能維持暫定。已公布的平台與獲支援的配置,是不同的里程碑。

供應情況亦需要有精確定義。供應商可在客戶能獲得生產支援部署前展示硬件。買家應詢問哪些配置會出貨、在哪些地區或環境獲支援,以及哪些功能依賴日後推出的軟件。

第二個訊號是可重現的應用程式測試。有用的比較應維持模型及工作負載一致,同時說明情境處理方式如何改變。它應識別基準系統,並納入雙方所需的基礎設施。

結果應涵蓋可重用保留情境的重複請求,以及無法重用該情境的請求。它們亦應檢視需求競爭共享資源時的行為。這可揭示該架構是否在服務的各種營運條件下均有幫助。

持續改善應用程式表現的證據,將加強採用專用化方案的理由。若好處只限於狹窄而特別有利的設定,系統適用範圍便會受限。無論結果如何,都比未經解釋的標題倍數更能幫助買家。

第三個訊號是來自部署的營運證據,包括升級行為、事故責任歸屬、存取控制及復原。這些細節可顯示一個吸引的配置在初始安裝後是否仍易於管理。

NVIDIA 在 3 月公布Vera Rubin 平台時,包含了 Mistral AI 技術領導層的支持說法。這類說法顯示對該架構的興趣,但不能取代附有清晰配置及營運細節的部署案例。

有用的客戶案例應說明服務有何改變,以及營運方需要進行甚麼工作。它亦應同時指出限制與好處。這類證據可讓其他機構判斷有關經驗是否適用於自身環境。

對開發人員而言,實際的下一步是在選擇硬件前,找出情境處理會在哪些方面影響應用程式行為。對基礎設施買家而言,則是要求完整配置,並與現正運行的服務比較。對儲存設備製造商而言,則是說明精簡實作如何改變整合及支援方式。

將 NVIDIA BlueField-4 STX 保留在評估清單上,然後要求與你的工作負載相關的證據。先建立可重複的應用程式追蹤,並記錄現有系統在情境被重用、不可用或競爭資源時的表現。要求供應商在其建議配置上運行相同工作,並說明每項額外依賴項目。檢視結果時應讓營運人員參與,因為部署及復原與回應能力同樣屬於決策的一部分。OCP 的亮相為這場討論提供了更具體的硬件起點。利用下一輪產品文件及量度結果,判斷專用情境儲存是否真正解決你的服務所面對的問題。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page