NVIDIA Co-Packaged Optics 在 Lambda 投入運作
NVIDIA 與 Lambda 於 2026 年 11 月 16 日披露了一項連接超過 10,000 枚 GPU 的生產部署。NVIDIA co-packaged optics 將光學引擎置於網絡晶片旁邊,現已進入運行中的 AI 叢集。這對傳統可插拔光學技術構成即時挑戰;後者透過交換器前面板的可拆卸模組轉換訊號。
Lambda 表示,系統在其魁北克園區運作,連接專為 AI 工作負載設計的 Blackwell Ultra GPU。其 生產 CPO 部署緊隨 2025 年 11 月的採用公告之後。該公司稱,在維持相同吞吐量(即一段時間內傳輸的資料量)的同時,系統網絡延遲(即資料傳輸延誤)較低。
這個組合值得關注,但不應把每項供應商比較都演繹為全叢集效能承諾。Broadcom 亦已出貨 co-packaged optics 技術,因此這並非所有商業 CPO 活動的開端。這項發展的重點在於,一家具名雲端營運商描述了在大規模 GPU 環境中的生產使用,令維護及營運經濟效益成為討論焦點。
NVIDIA Co-Packaged Optics 超越路線圖階段
這項改變是由具名客戶運行中的部署,而非又一次產品公告或實驗室示範。
Lambda 識別了安裝地點、加速器世代、網絡配置及基準測試結果。這些細節令其披露比關於未來供應情況的一般說法更有參考價值。買家現在可以就現有部署提問,而非完全透過規格評估一套擬議架構。
這個分別亦改變了人們常問「CPO 是否準備就緒」的含義。為單一營運商的生產環境作好準備,與在眾多設施中廣泛採用的準備程度並不相同。Lambda 的公告回應了前者,同時為後者保留了相當大的差異空間。
ServeTheHome 的 Patrick Kennedy 報道,生產光學叢集確實存在並正在運行,並將交換器識別為 Quantum-X 硬件。他指出可拆卸光源是一項重要的實際細節。他的報道提供了對部署的外部觀察,但並未獨立證實每項宣傳中的效率或可靠性數據。
首個部署的說法範圍相當重要。Lambda 將其安裝描述為全球首個採用 CPO 的 NVIDIA Photonics 交換器大型部署。這比聲稱此前從未有人出貨置於交換晶片旁的光學引擎更為具體。
已披露的叢集亦提供了元件出貨無法提供的東西:可識別的運行環境。硬件交付可證明產品已到達客戶手中。生產使用則增加證據,顯示營運商已將其整合至工作環境,並接受相關的營運責任。
不過,公告日期並不能確立安裝日期。2026 年 11 月 16 日是經核實的披露日期。讀者不應把它視為該叢集當天首次承載生產流量的證據。
叢集規模證明其相關性,但單憑規模並不能揭示工作負載覆蓋範圍。「生產」標籤並未說明每部交換器運行了多久、哪些客戶工作使用了它,或維護如何影響可用性。這些問題需要啟動公告以外的營運記錄。
這正是此部署重要、卻未能終結採用爭論的原因。它消除了該架構僅屬於示範用途的絕對反對意見。但它並未消除把其服務要求與熟悉設備比較的需要。
對基礎設施買家而言,下一輪討論因此有所改變。詢問營運商是否已部署 CPO,現在不如詢問該營運商從中學到甚麼來得有用。安裝程序、更換流程及應用結果,將成為決定其他買家是否應跟進的證據。
因此,最有力的解讀是具體的:Lambda 已公開描述一項規模可觀的生產安裝。這項披露提高了標準,無論是承諾可輕易採用的倡導者,還是斷言部署永遠遙不可及的懷疑者,皆是如此。
可插拔光學技術面臨營運經濟效益挑戰
傳統光學技術現正面對一項超越標題頻寬的生產比較。
可插拔收發器是一種可拆卸模組,可將電訊號轉換為光訊號,並反向轉換。其易於接觸的位置,為營運商提供熟悉的更換界線。模組失效時,技術人員可處理這個獨立元件,而毋須立即把整部交換器視為維修單位。
CPO 改變了部分轉換的發生位置。競爭問題在於,更緊密的整合能否創造足夠營運價值,以合理化不同的設備設計。這需要一併檢視電力、冷卻、維護及工作負載完成情況。
即時壓力落在依賴傳統可插拔架構建設大型 AI 網絡的供應商及營運商身上。他們的回應毋須是全面替換,但必須更清楚說明模組化在哪些情況下勝過更緊密整合的好處。
對規劃新叢集的營運商而言,網絡用電會與設施供電分配中的其他需求競爭。較低網絡耗電可創造規劃彈性,但不會自動容許更多 GPU,因為冷卻、樓面空間、配電及其他限制依然存在。
這個分別將合理的商業優勢與沒有根據的容量聲稱區分開來。元件可以變得更有效率,卻不改變場地可使用的加速器數目。買家在把光學節省轉化為額外運算能力前,需要先取得設施模型。
工作負載問題同樣具體。以分散式訓練為例,AI 模型在多個處理器上學習,並交換中間結果。即使個別處理器仍然正常,網絡中斷亦可能延誤協調工作。
因此,營運商關注的是長時間內完成的工作,而不只是不中斷傳輸的速度。即使最高吞吐量與替代方案相同,需要較少介入的網絡仍可能具價值。
這是理解 Lambda 披露內容的一個實用視角。該公司並非提出以更高頻寬取代較低頻寬的簡單故事。其報告中的比較著重延遲、溫度及訊號穩定性,同時維持吞吐量不變。
這令採購流程承受的壓力不亞於硬件。規格表可直接比較連接埠速度。評估具生產力的叢集時間,則需要假設中斷、維修時長、工作負載行為,以及營運商隔離故障的能力。
買家亦應區分新建設施與既有安裝。圍繞擬議交換器設計的設施,可從一開始便容納其服務及冷卻要求。既有環境則有既定設備、備件庫存及程序,影響替換決定。
兩種情況均沒有必然贏家。熟悉的設備可憑可預測的營運方式維持價值。當整合式光學技術的實測效益超過改變這些營運方式的成本時,便可能獲得採用。
短期而言,受到迫使的回應是更佳證據。可插拔供應商需要可信的系統比較,而 CPO 供應商需要營運數據。雙方都必須說明其架構如何影響客戶實際完成的工作。
移動轉換位置改變硬件設計
CPO 的核心機制,是在資料進入光纖前縮短電訊號行程。
交換晶片在網絡連接之間引導流量。在傳統光學設計中,電訊號在轉換前會傳送至前面板模組。把光學引擎移至晶片旁邊,改變了系統必須支援的實體路徑。
NVIDIA 的 photonics 部署詳情描述,這條路徑由數吋縮短至數毫米。該公司表示,此舉可減少訊號損失,並移除 retimer 晶片,即恢復訊號時序的元件。其架構論點很直接:避免耗費能源補償較長的電氣連接。
NVIDIA 聲稱,其光學電源效率較傳統可插拔光學技術最高可提升五倍,可靠性最高可提升 15 倍。它亦表示,該設計使用的雷射器少四倍。這些是供應商比較,而非已獨立確立、適用於每個安裝或應用的改善。
光學效率與整體系統效率之間的分別至關重要。光學子系統只佔叢集用電的一部分。改善該子系統,並不會令整個設施的耗電量按相同比例下降。
同樣,較少雷射器不應被混同為在所有可能意義上有較少完整故障路徑。系統亦包括連接器、冷卻設備、電子元件、軟件及其他依賴項。計算單一元件類別不能取代整體可靠性評估。
因此,NVIDIA CPO 與可插拔技術之爭關乎架構,而不只是以較小元件取代熟悉模組。整合改變元件之間的關係,並影響工程師如何分配測試、冷卻、更換及故障隔離的責任。
Lambda 表示,其交換器設有 144 個以每秒 800 gigabits 運作的連接埠,採用液冷及 18 個可拆卸外置光源。這些光源為光學引擎提供光線。這種安排在把轉換硬件移近交換晶片的同時,保留了可更換的雷射模組。
這個服務界線值得仔細注意。可拆卸光源處理的是該光源的更換問題,卻不能證明每個光學引擎或封裝連接均同樣容易維修。
實際問題在於,技術人員識別故障後會發生甚麼。能否在不中斷無關工作的情況下更換受影響元件?更換前需要多少診斷?哪些故障需要移除較大型的組件?
這些問題並不否定縮短路徑的機制。它們決定其理論優勢能有多少在運行環境中保留下來。設計可以減少電氣複雜性,同時在其他地方引入新的依賴項。
因此,NVIDIA co-packaged optics 應被視為完整系統選擇來評估。其價值取決於整合設計能否產生更佳營運結果,包括維修所帶來的後果。
這亦解釋了為何生產部署比圖表更具分量。實體整合在紙面上可以很有說服力。運行中的設備會測試由此產生的界線,對維護叢集的人員而言是否切實可行。
技術轉變是真實而且可以理解的。餘下的工作,是把這項轉變與一貫衡量的成果連繫起來,同時避免以元件層面的倍數取代整個系統的表現。
Broadcom 令「首個」說法更具體
Lambda 的部署意義重大,但不代表 NVIDIA 是商業化共同封裝光學技術的起源。
Broadcom 於 2024 年 3 月 14 日宣布向客戶交付其 Bailly 平台。其 Bailly CPO platform 結合了光學引擎與 Tomahawk 5 Ethernet switch chip。Ethernet 是廣泛用於連接運算系統的網絡技術。
這項較早的交付很重要,因為多個里程碑可以同時存在。供應商可以在另一家公司公開披露大型生產叢集前交付元件平台。後者的披露仍可推進證據基礎,卻不會抹去前者。
Broadcom 亦於 2025 年 10 月 1 日公布另一項相關里程碑。該公司表示,於 Meta 累計錄得一百萬個 400G 等效連接埠裝置小時,期間未出現鏈路跳變。鏈路跳變是指會中斷連線的非預期連接狀態改變。
其 CPO reliability testing 披露亦報告,光學耗電量低於可插拔模組。這些仍是供應商在其自身測試條件下報告的結果。它們構成另一組與部署相關的證據,而非可直接與 Lambda 比較的評分。
區分經過時間與累計裝置小時尤其重要。把大量連接埠的運行時數相加,得出的是暴露量指標;這並不表示任何一條連線在整段累計時數內持續運作而未中斷。
同樣地,連接埠小時數並不能回答與 GPU 數量相同的問題。前者描述跨連線累積的觀察量,後者描述運算設施的規模。在評估可靠性時,兩者都不能取代對方。
這些差異說明,單憑公告無法選出全行業的贏家。可比較的評估需要一致的流量條件、設備邊界、故障定義及觀察期。否則,看似相近的百分比可能描述的是不同事物。
對買家而言,Broadcom 是整合式光學網絡技術的另一個相關供應來源。其存在意味著採用 CPO 並非只押注於單一供應商製造此類硬件的能力。這並不表示系統可互換,或營運要求完全相同。
這使文章的核心比較維持不變。主要競爭是整合式光學引擎與傳統可插拔架構之間的較量。供應商競爭會影響這場較量如何發展,但不會取代它。
競爭壓力亦影響供應商採用的措辭。一旦多家公司披露出貨、測試及生產部署,籠統的「史上首個」說法便變得較少資訊價值。審慎界定範圍的里程碑,有助讀者理解實際改變的是哪些證據。
一個擁有超過 10,000 枚 GPU 的具名部署,是有意義的新增資料。它為客戶提供另一個營運參考,亦令「永久只局限於實驗室」這類籠統說法更難成立。不過,競爭供應商仍可按其部署歷史及設計作出區分。
有用的問題不再是誰能貼上最寬泛的「首個」標籤,而是哪種架構能在買家的條件下持續帶來效益,以及哪個供應商能長期支援它。
較低延遲並非整個叢集的效能倍數
報告中的基準測試支持網絡層面的比較,而非所有 AI 應用程式都會更快的普遍說法。
Lambda 報告指,機架規模的網絡延遲降低 3.8%,Pod 規模則降低 10.1%。Pod 是由已連接基礎設施構成的較大群組。該公司亦報告,在其測試的配置中,吞吐量完全相同。
公司指出,CPO 的光學元件中位溫度為 36°C,傳統可插拔光學元件則為 51°C。這些觀察有參考價值,但仍只是所報告比較中的結果。它們並不描述每個營運環境,亦不能確立每個元件的溫度。
應用程式效能需要另行量度。大量時間用於通訊的工作負載,反應可能有別於主要受運算限制的工作負載。因此,同一項網絡改變可以產生不同的端到端結果。
例如,訓練團隊可能關心完成固定學習任務所需的時間。網絡基準測試只量度這段體驗的一部分。資料載入、軟件行為、處理器利用率,以及從中斷中復原的情況,同樣會影響完成時間。
推論,即從已訓練模型產生輸出的過程,會帶來另一組問題。買家可能關心高負載下的回應時間,或在服務目標內完成的請求數量。較低的傳輸延遲本身並不能說明任何一項結果。
可靠性聲稱同樣需要嚴謹處理。聲稱可靠性較高,必須界定故障事件及比較邊界。連線中斷、元件更換、工作失敗及客戶可見的服務中斷彼此相關,但屬不同量度。
若沒有這些定義,讀者無法把可靠性倍數轉化為預期的應用程式可用性。該倍數亦不能被理解為 GPU 運算更快。它描述的是網絡比較中一項被聲稱的營運特性。
由於部署改變了元件邊界,可維修性仍是最有用的懷疑角度。研究人員 Yasha Yi 與 Danny Wilkerson 在其 2026 年 3 月的 CPO architecture analysis 提出相關論點。其預印本強調,封裝、熱管理、標準化及可維修性都是採用上的議題。
這項工作是較廣泛的架構分析,而非對 Lambda 安裝項目的評估。不應把它表述為該部署存在特定缺陷的證據。它的價值在於指出單憑元件規格無法解決的問題。
嚴格的評估應在傳輸基準測試以外,納入維修程序及已觀察到的維護結果。它亦應區分計劃中的介入與非預期故障。這些區分能揭示較低的元件耗電,是否轉化為更具生產力的營運系統。
NVIDIA CPO 與可插拔方案的比較,也應考慮替代方案的優勢。可接觸的模組及既有程序具備營運價值。當建議的能源效率收益不足以支持改變維修模式時,買家可以合理地保留它們。
因此,生產公告縮小了不確定性,而非消除了它。部署可行性已有較強的公開證據;長期營運優勢仍需要來自持續使用、定義清晰且可比較的量度。
三項訊號將顯示採用是否擴大
下一批證據應依序確立可重複性、可維修性及應用程式價值。
第一項訊號,是另一名具名生產客戶描述其安裝情況。在未來三個月內,包含硬件細節及營運背景的披露,會比另一個合作夥伴標誌更具資訊價值。這將測試部署是否擴展至這名特定營運商及設施以外。
複製部署將強化更廣泛採用的論據,尤其是當客戶描述與 Lambda 不同的條件時。若沒有進一步公告,普遍化問題仍未獲解答。沉默本身並不能證明不存在未披露的部署。
第二項訊號,是更完整的營運紀錄。有用的披露會界定連線故障、觀察期、更換事件及維修時長。它們會說明技術人員更換了甚麼,以及該介入是否中斷不相關的工作負載。
若此類證據顯示持續效益及可管理的維修要求,將強化可靠性的論據。若維修耗用的時間足以抵銷所聲稱的故障減少,則會削弱論據。無論結果如何,都比未定義的倍數更有用。
第三項訊號,是在受控條件下進行的應用程式層面比較。買家應尋找在相同硬件及軟件設定下完成的訓練工作,或服務效能結果。這些量度會把網絡設計與客戶實際購買的產出連繫起來。
正面的應用程式結果將強化整合能提升有效運算的論點。不變的應用程式結果,則會令效益集中於電力、冷卻或維護。這不會自動令該架構失去吸引力,但會改變採購理據。
這個次序很重要。額外客戶可確立跨營運商的可重複性;營運紀錄可確立維護模式是否站得住腳;應用程式比較則可確立網絡對有用工作的貢獻有多大。
租用運算資源的開發人員毋須自行選擇光學元件,但他們需要區分雲端供應商的基礎設施聲稱,以及關於自身工作負載的承諾。部署里程碑並不保證每次訓練都能縮短完成時間。
企業買家面對類似的文件問題。技術公告往往混合已觀察量度、架構解釋及前瞻性承諾。把這些類別區分清楚,會令日後比較更可靠。
追蹤證據的工程團隊可使用 searchable knowledge base,把基準測試條件與部署更新一併保存。有用的紀錄包括量度了甚麼、比較如何進行,以及哪些問題仍未有答案。
NVIDIA 共同封裝光學技術如今已有具份量的具名生產參考,但採購決定仍應在工作負載及營運層面作出。請向潛在供應商索取相配對的應用程式結果、定義清晰的中斷統計資料,以及更換故障光學元件的程序。把這些證據與團隊已熟悉的設備及支援模式比較。把能源節省與整體設施節省分開看待,亦把網絡延遲與應用程式完成時間分開看待。最重要的是,應隨着營運紀錄累積而重新檢視比較,而非把公告當作永久裁決。下一次部署到來時,它能否在不同條件下重現同樣效益,而其營運商又會否公布足夠細節讓人判斷?



