Oracle 與 Google 的 TPU 合作夥伴關係將於 2027 年把 Google AI 晶片帶到競爭對手的雲端
Oracle 將於 2027 年透過其雲端提供 Google 的 AI 晶片,成為首家在 Google 以外提供該等晶片的超大規模雲端服務供應商。這項於 10 月 27 日公布的 Oracle Google TPU partnership,會將 Google 專為 AI 設計的 Tensor Processing Units 帶到 Oracle Cloud Infrastructure,即 OCI。這項變動令企業可使用 Google 的晶片,而毋須選擇 Google 作為雲端基礎設施供應商。
這為 Nvidia 帶來不同的競爭局面;其圖形處理器,即 GPUs,同樣用於訓練及運行 AI 模型。Oracle 在持續與 Nvidia 合作的同時,亦正擴展加速器選擇。客戶將可在 OCI 內評估另一種架構,但兩家公司尚未確定哪些工作負載最能受惠。
這項分別對企業買家相當重要。新的晶片選項可改變基礎設施規劃,卻未必會即時改變應用程式的成本效益。公告列出由 2027 年開始的部署計劃,並會在往後數年擴展。供應情況、軟件相容性及實測結果,將決定客戶實際獲得多少選擇。
Oracle Google TPU partnership 實際改變了甚麼
Google 的 AI 硬件正增加一個主要雲端分發渠道,而 Oracle 則為其基礎設施組合加入一種加速器架構。
兩家公司在拉斯維加斯舉行的 Oracle AI World 上公布這項安排。Oracle 表示,將提供在 OCI 內部署 Google TPUs 所需的電力、冷卻及數據中心網絡。其 TPU 部署計劃指定於 2027 曆年推出,容量將在多年期間逐步增加。
這個時間表值得仔細解讀。服務在某個曆年內開始,並不代表會立即在每個地區或客戶帳戶可用。同樣地,多年擴展描述的是部署過程,而非已完成的基礎設施覆蓋範圍。買家仍需了解公告如何配合其所在地及營運需求。
首家供應商的說法亦有明確界線。Oracle 將成為首家在 Google 以外提供 Google TPUs 的超大規模雲端服務供應商。超大規模雲端服務供應商以極大規模營運雲端基礎設施。公告並不表示外部機構從未使用過這些處理器,亦不表示過往每次部署都要求 Google 擁有客戶的業務。
即時的改變,是企業可透過主要雲端平台在哪裏取得該硬件。這項區分令公告有別於一般的容量擴充。增加現有處理器的數量,只會增加供應;加入另一種架構,則會改變客戶可作出的技術決策範圍。
當中有兩項獨立選擇:選擇加速器,以及選擇雲端供應商。兩者往往會因軟件支援、可用基礎設施及採購安排而連結。這項合作為有意採用 Google 處理器及 Oracle 基礎設施的客戶,放寬了這種連結。
不過,這並不會完全消除兩者的關聯。工作負載仍依賴其周邊的儲存、網絡、安全控制及營運工具。改變處理器供應商,並不會令這些依賴關係消失。實際問題在於,Oracle 能否提供完整的營運環境,令新增的架構具備實用價值。
兩家公司指出,大型模型訓練、推論及代理應用程式是預定用途。訓練會調整模型參數;推論則運行已訓練模型以生成輸出。代理是利用模型執行多步驟任務的應用程式。這些類別界定了建議範圍,而非保證特定應用程式會取得成果。
因此,對客戶而言,這項公告應納入基礎設施規劃。它讓企業有理由研究另一條部署路徑,但尚不足以支持假設現有工作負載應遷移,或新項目應等待。
企業買家獲得不同的議價地位
商業意義在於可評估另一種加速器,而毋須自動將周邊應用程式遷移至另一個雲端。
Google 和 Oracle 將其企業數據策略與把 AI 處理放置於 OCI 內既有資訊附近連結起來。兩家公司亦提到將 TPU 容量與 Oracle 的網絡及基礎設施整合。這些是合作夥伴提出的好處,而非客戶部署的獨立實測結果。
試想一個說明性的企業應用程式,負責回答有關內部營運記錄的問題。模型執行只是服務的一部分。應用程式必須擷取獲授權的資訊、套用存取控制、處理請求,並返回有用答案。將模型運算移至其他地方,可能會為這些步驟帶來額外的架構決策。
在既有雲端內提供另一種處理器,會改變這項評估。企業可研究該加速器,而毋須先將更廣泛的雲端遷移視為前提。這能否改善應用程式,仍取決於其實際部署,包括相關服務及數據所在位置。
這不僅對處理器規格構成壓力,亦挑戰採購上的既有假設。過去只評估熟悉架構的團隊,現在有理由重新審視該決定。基礎設施供應商必須說明其方案為何適合該工作負載,而不能完全依賴客戶既有的部署模式。
當應用程式具備可重複的工作及可量度的營運要求時,這種壓力最為強烈。買家可比較已完成請求的數量、回應時間、輸出品質及工程投入。沒有這些量度,額外的硬件選擇可能只會帶來更長的供應商簡報,而非更佳採購決策。
擁有替代方案與能夠使用替代方案之間,亦有分別。可信的替代方案需要相容軟件、可取得的容量,以及能夠操作它的人員。已公布的服務,並不能提供與通過測試、符合企業要求的部署同等的議價地位。
Oracle Google TPU partnership 為達致這種地位開闢了途徑。其商業影響將取決於有多少客戶能將這條路徑轉化為營運選項。只向狹窄群體提供的專門服務,將與廣泛可用的基礎設施產生不同後果。
Google 與雲端競爭對手合作,可獲得潛在的分發效益。Oracle 則獲得另一種方式,服務正在考慮專用 AI 硬件的客戶。這些利益可以一致,卻不代表兩家公司在其他所有市場都完全相同。
企業買家亦應認清同一項分別。供應商可在基礎設施上合作,同時競逐應用程式的其他部分。採購決策需要識別由哪一方提供各個組件,以及當完整服務表現未如理想時,誰仍須負責。
公告令採購討論轉向工作負載部署位置。有用的問題是:哪種架構能在客戶的營運限制下交付所需結果。這個框架讓買家有具體方法評估擴大的選擇。
在 OCI 內,Google TPU vs Nvidia 成為工作負載決策
Oracle 的公告擴大了與 Nvidia 的比較,同時保留 Nvidia 在其雲端基礎設施計劃中的位置。
Nvidia 和 Oracle 亦於 10 月 27 日公布擴大合作。其 Vera Rubin 擴展包括額外 AI 基礎設施的計劃,並將 Vera Rubin 系統描述為已在 OCI 普遍可用。這直接令任何認為 Oracle 正放棄 Nvidia 的解讀變得複雜。
競爭發展是在同一供應商之內提供更廣泛選擇。Nvidia 仍是供應商,而 Google 則獲得進入該環境的途徑。對客戶而言,相關比較變得比判斷哪家公司整體晶片較佳更具體。
Google TPU vs Nvidia 的評估,需要明確界定工作負載及商定成功指標。訓練團隊或會優先考慮達到可接受模型品質所需時間。應用程式團隊則可能優先考慮在預期流量下的回應一致性。這些目標可導向不同的硬件決策。
軟件投資亦很重要。既有部署可能包含與現有架構綁定的函式庫、自訂操作、監察工具及程序。若可避免額外工程工作,保留該環境便具價值。替代方案需要產生足夠效益,才能證明所需變動合理。
相反,正開始合適項目的團隊,需要保留的歷史決策較少。他們可在建立大量營運依賴前評估可用架構。即使如此,初步結果理想,也不足以解決有關支援、可靠性或未來模型變動的長期問題。
在跨硬件系列運作方面,已有相關客戶先例。Anthropic 表示,其混合硬件策略採用 AWS Trainium、Google TPUs 及 Nvidia GPUs 訓練和運行 Claude。其聲明顯示,一家主要模型開發商已將加速器選擇視為組合決策。
該例子應維持在其適用範圍內。Anthropic 的基礎設施選擇,並不能證明每家企業都可在經濟上營運類似的組合。模型開發商的工程資源及工作負載規模,可能與一般應用程式團隊有顯著差異。
因此,競爭壓力取決於證據。Nvidia 的方案必須對相關工作負載持續具吸引力。Google 必須證明其處理器能透過另一個雲端環境創造價值。Oracle 必須令替代方案易於使用,而非讓客戶自行拼湊每項營運細節。
這些責任都不要求出現一個通用贏家。供應商可為既有工作負載保留一種架構,並為不同任務採用另一種架構。客戶亦可得出結論,認為額外複雜性超過預期效益。
有意義的改變,是更多這類評估可在 OCI 內進行。這讓 Google 多一個競逐工作負載的機會,亦讓 Oracle 多一個可展示的選項。Nvidia 的地位將取決於客戶成果,而非僅僅公告的存在。
TPU 8t 與 TPU 8i 鎖定 AI 需求的不同部分
Google 最新一代 TPU 將訓練與推論設計分開,再次突顯需要比較完整工作負載,而非只比較處理器標籤。
Google 推出第八代 TPU 系列,採用不同架構:TPU 8t 用於訓練,TPU 8i 用於推論。其 TPU 架構詳情說明不同的記憶體配置與晶片通訊設計。公司將這些差異定位為回應模型開發與運行的不同需求。
這個系列的存在並不代表客戶將會獲得確切的 OCI 配置。合作公告討論了這些處理器,但買家仍需要服務文件,列明可用型號及部署安排。產品架構與雲端服務可用性彼此相關,但所需的證據標準並不相同。
這項設計區分有助解釋合作公布的時機。訓練模型與為應用程式提供服務,對基礎設施提出不同目標。前者涉及透過反覆運算產出有用模型;後者則涉及在應用程式的流量、回應速度及品質要求下交付輸出。
由於模型呼叫只是較長流程的一部分,代理式應用程式還需考慮另一項因素。應用程式可能會擷取資訊、生成建議動作、執行工具,並評估結果。改善模型執行會影響這個流程,但整體結果亦取決於其他階段。
例如,假設的支援代理可能花大量時間等候外部業務系統。更快的模型處理只會改善其完成時間的一部分。另一款模型運算時間較長、外部延遲較少的應用程式,則會呈現另一種評估結果。
因此,推論硬件應按應用程式的運作模式判斷。平均回應時間可能掩蓋令用戶受挫的緩慢請求。高處理吞吐量若需要以應用程式無法接受的延遲換取,實用價值便可能較低。
訓練亦有自身的量度問題。處理器宣傳的運算能力,並不直接等於完成一個有用模型所需的時間。準備工作、通訊、中斷及評估都會影響已完成的工作。買家需要反映其目標成果的量度方法。
同樣的推理亦適用於能源效率聲稱。針對處理器或系統報告的改善,並不會自動描述整個已部署應用程式。儲存、網絡、使用率及支援運算仍是運作環境的一部分。
Google 的架構說明提供了調查硬件的理由,但不能取代客戶量度。當 Google 環境中的規格出現在關於未來 OCI 服務的討論時,這個區分尤其重要。
具說服力的部署結果,應識別模型、工作負載、軟件環境及品質目標,並說明哪些因素有所改變、哪些保持可比。這能讓另一個機構評估該結果是否適用於其自身應用程式。
因此,這項架構區分加強了選擇性採用的理據。機構有理由檢視其 AI 工作的哪些階段適合各個選項,卻較少理由預期單一處理器系列能解決所有基礎設施限制。
軟件可攜性仍是尚待釐清的營運問題
當應用程式在遷移後能維持原有行為並可妥善管理時,使用另一種加速器才會變得有用。
Google 描述了 TPU 軟件支援方面的改善,包括支援熟悉的開發工具。這些努力回應了一項重要的採用要求。熟悉的介面可減少開發人員需要修改的應用程式程式碼。
不過,保留熟悉工具並不代表在不同硬件環境中會有完全一致的行為。函式庫、數值計算及執行模式可能以不同方式互動。一個程式能成功啟動,只是通過了初步門檻;其準確性與營運適用性仍須進一步檢驗。
一項近期的 GPU 至 TPU 遷移研究說明了這項區分。研究人員檢視了由編碼代理協助遷移的十個機器學習研究項目,其中八個符合其項目目標標準;不過,作者亦報告了不會產生錯誤的失敗情況,以及一宗訓練行為改變的案例。
這項研究有重要限制。它檢視的是小型研究樣本,而非已公布的 OCI 服務。其結果並不能確立企業部署的失敗率,亦不能預測 TPU 8t 與 TPU 8i 在 OCI 上的效能。
其關聯性在於方法論:單靠成功執行並不能證明遷移成功。機構需要驗證預定硬件確實完成了工作、模型維持可接受的行為,以及應用程式符合營運要求。
就推論而言,這包括在檢查回應時間與處理能力之餘,同時檢查輸出品質。若答案變得較不可靠,即使部署更快,價值亦有限。為了讓工作負載配合不同環境而改變設定時,同一原則亦適用。
就訓練而言,團隊需要檢視最終模型,而不只看訓練工作是否完成。差異可能在長時間執行後出現,或源自與支援軟件的互動。因此,驗證應納入評估預算。
營運責任同樣重要。客戶需要清晰途徑,診斷跨越應用程式程式碼、執行軟件及雲端基礎設施的問題。一項遷移即使交出吸引的量度結果,若需要持續由專家介入,便可能帶來沉重的支援負擔。
這些考慮是要求證據的理由,而非否定合作關係的理由。硬件採用總會涉及條件。明確說明這些條件,有助區分合適的工作負載與那些投入的工程工作多於回報的項目。
團隊亦可透過可搜尋的 技術知識庫保留評估脈絡。記錄軟件版本、工作負載設定、觀察到的失敗及獲接受的結果,能令日後比較更有用,亦可降低將舊量度當成已改變部署證據的風險。
值得持保留態度追問的是:完成這些工作後,新增架構是否能提供可靠選項?答案將視乎應用程式而定。在服務推出前,關於可攜性的概括說法無法為每位客戶解答這個問題。
對 Oracle Google TPU 合作關係而言,軟件準備程度與營運清晰度將影響這項已公布硬件選擇能在多大範圍內轉化為實際採用。
三個訊號將顯示 2027 年計劃能否成為可用基礎設施
下一批具意義的證據,將涉及服務可用性、可比較的客戶結果,以及持續的生產環境使用。
第一個訊號是具體的服務文件。在未來數月,買家應留意已命名的地區、支援的配置、存取要求,以及更精確的推出時間表。這些細節將日曆年度承諾連繫到實際部署規劃。
地區資訊尤其有用,因為企業工作負載有位置要求。位於不合適地區的容量,並不能提供與接近相關應用程式和資料的容量相同的選項。買家需要評估自己實際可取得的服務。
文件亦應釐清合作夥伴之間的責任界線。客戶需要了解受支援的軟件環境,以及基礎設施問題將如何處理。清晰答案可加強公告正轉化為客戶可運作服務的理據。
若這些細節仍然缺乏,策略方向固然仍然清晰,但實際規劃將繼續屬於暫定。機構應區分已公布的供應商關係,與已準備好作出實施決定的基礎設施選項。
第二個訊號是有足夠細節可供檢視的工作負載比較。有用的結果應說明模型品質、已完成的工作、回應行為及軟件配置。它們亦應計入遷移與營運工作,而非僅展示孤立的處理器量度。
對訓練而言,比較應證明最終模型符合相等目標。對推論而言,則應證明輸出要求與流量條件具可比性。否則,不同結果可能反映不同任務,而非有意義的基礎設施優勢。
獨立客戶的量度結果尤其具分量。客戶同時說明其收益及尚存限制,比起欠缺部署脈絡的聲稱,更能提供決策價值。可重現的細節亦有助識別 TPU 選項不適合的範圍。
若公平比較顯示,在投入工程工作後效益有限,這項合作關係的意義將會收窄。它可能仍適用於特定工作負載,而非成為 OCI 的常規選項。這仍然代表真實的市場發展,只是範圍更為具體。
第三個訊號是持續的生產環境採用。試點證明團隊能在評估條件下讓某些東西運作;持續使用則會提供更有力證據,證明部署能滿足反覆出現的業務與營運需要。
留意客戶是否指出其保留的工作負載、遇到的問題,以及是否擴大使用範圍。這些說法可揭示容量、軟件支援與應用程式要求,能否在初步示範以外真正配合。
單靠供應商公告無法回答這個問題。未披露部署性質的客戶數目同樣不能。重複完成有用工作的證據,將加強 OCI 已獲得持久加速器替代選項的論點。
對開發人員而言,眼前行動是找出具代表性的工作負載,並保留其目前的品質與效能量度。對企業買家而言,則是把未來選項與可用於目前承諾的容量區分開來。兩種做法均為日後細節公布時評估服務奠定基礎。
在作出架構承諾前,請透過這些里程碑追蹤 Oracle Google TPU 合作關係:閱讀服務文件、檢視可比較的工作負載結果,並尋找已超越試點階段運作的客戶。在每次比較中,都應把應用程式品質與工程投入放在硬件效能旁邊。若你的團隊已在 OCI 上運行,請找出另一種加速器可解決哪些已量度的限制;若尚未使用 OCI,則應在評估處理器之餘,一併評估周邊的雲端要求。有用的成果是由與你工作相關的證據支持的部署決定。哪一項工作負載最能讓你的機構清楚測試這個額外選擇是否帶來價值?



