top of page

Positron 推論瞄準模組化數據中心

32 分鐘前
讀畢需時 12 分鐘
Illustrative photograph. Photo: panumas nikhomkhai / Pexels.

Positron 表示,推論現時約佔 AI 基礎設施工作負載的三分之二,使部署速度成為其向較小型數據中心推銷方案的核心。推論是運行已訓練模型以產生答案的過程;每當人們使用 AI 應用程式,便會帶來持續需求。Positron 的推論策略,將這種需求與圍繞記憶體供應情況及實際場地限制而設計的硬件連結起來。

這個數字需要加上限定。它來自一名公司高層對市場的描述,而非已發表的行業統計。買家應將其視為具來源註明的估算,同時檢視背後主張:專用伺服器能否更快地把可用電力轉化為可靠的 AI 容量。

這項主張所挑戰的,是一項基礎設施決策,而不只是另一家晶片商。營運商必須在專用系統與擴充熟悉的 NVIDIA GPU 部署之間取捨;圖像處理器同時亦可處理 AI 運算。他們的選擇取決於軟件兼容性、實際客戶流量,以及可用來運行設備的設施。

Positron 推論將部署置於核心位置

在 2026 年 11 月 21 日的一次inference deployment interview中,Positron 銷售高層 Cameron McCaskill 在 SC26 上描述了這項工作負載轉變。SiliconANGLE 報道了他的估算,但未有提供方法、樣本或獨立數據集。

這則消息是供應商提出的部署論點,而非對全球 AI 工作負載的經核實普查。

這個區分改變了標題應如何影響基礎設施決策。單憑工作負載佔比,無法告訴營運商應購買哪種設備。它無法確定所提供服務的模型、其回應要求,或每項請求所消耗的資源。

分母與百分比同樣重要。任務數量不同於電力、加速器時數或支出的衡量方式。若沒有這個定義,讀者無法將該估算轉化為晶片出貨量或數據中心建設的預測。

不過,即使不考慮標題中的統計數字,商業問題本身仍值得關注。訓練產生模型;服務則讓客戶能夠使用該模型。出售存取服務的營運商,必須考慮其基礎設施能否穩定提供有用回應,同時保留開發模型所需的容量。

這令部署速度具有營運層面的意義。等待安裝的設備無法回應客戶請求。即使場地有可用電力,仍需具兼容性的伺服器、網絡、調試及支援,才能成為可用服務。

因此,相關比較不限於處理器規格。評估專用硬件的營運商,必須比較完整的投產路徑。這些路徑包括軟件準備、設備交付、設施工程,以及在具代表性的需求下進行驗收測試。

Positron 的論點將這些相互依賴因素帶入採購討論。其吸引力建基於將服務工作負載配對至可容納它的設備及設施。這種做法能否成功,取決於個別部署所提供的證據。

這次訪問亦需要一項透明的來源說明。NYSE Wired 贊助了該環節;SiliconANGLE 表示贊助商不會控制編輯內容。這項披露提供背景,但並不會獨立驗證或否定技術主張。

讀者應把高層對市場的解讀,與可觀察的客戶服務供應情況區分開來。一項估算說明供應商為何看到機會;客戶可存取、評估及續約的服務,才是該機會能否轉化為業務的更有力證據。

當標題把行業趨勢與特定架構結合時,這種區分尤其有用。即使服務需求確實上升,仍可能有多種成功方案。市場方向並不能證明某一家供應商具備優勢。

可用電力改變採購決策

對基礎設施買家而言,伺服器的實際價值取決於能夠運行它的設施。

晶片比較假設設備能在可接受條件下投入生產。場地限制令這個假設更複雜。可用電力容量、冷卻兼容性、網絡接入及調試工作,都可能改變哪個方案最早提供可用服務。

這為出售專用 AI 容量的營運商帶來壓力。他們必須讓客戶承諾與基礎設施準備情況相配合。若交付時間表假設了尚未確定的設施能力,硬件訂單與客戶合約都可能成為負債。

較小型安裝提供另一種擴展單位。營運商毋須把每種工作負載都投入較大型建設,而可評估某個特定場地能否支援明確的服務。這種做法令本地資源與工作負載要求之間的關係更清晰。

然而,模組化建設並不會消除相互依賴因素。由可重複使用的設施組件裝配而成的模組化數據中心,仍需要合適的公用設施連接及營運批准。其建設方式無法確定這些前提何時就緒。

McCaskill 描述了 0.5、1 及 2.5 兆瓦的模組,並稱客戶希望在 90 至 120 天內取得可產生收入的容量。這些是公司所描述的市場機會及客戶目標,而非已獲證實的交付保證。

這個區分很重要,因為時間表需要清晰的起點。在電力可用後開始計算,與由購入土地時開始計算並不相同。買家在比較方案前,應釐清部署主張包含哪些里程碑。

電力數字同樣需要審慎界定。伺服器的測量不同於機架的測量,兩者又不同於整個設施的總耗電量。即使產品規格未包括散熱、網絡及電力損耗,這些因素仍應納入營運比較。

訪問提到每台伺服器約 4,500 瓦,以及 Titan 機架為 40 千瓦。這些數字並不能確立已完成客戶服務的實測能源效率。

營運商需要將耗電量與有用產出連結。一套耗電較低的系統,若無法滿足所需回應時間,效益便有限。相反,若設備能以可接受質素處理足夠多的額外需求,較高耗電量亦可能合理。

同樣的推理適用於風冷。兼容性可擴大候選設施名單,但並不代表每個機房都獲認證可供安裝。本地氣流、設備擺位、環境條件及維修通道,仍需進行工程審核。

這正是部署論點變得具體的地方。買家應將建議中的服務與實際場地比較,而非假設使用一個通用設施。這種比較可揭示限制因素究竟是設備、安裝工程,還是未能提供的基礎設施。

壓力同樣落在供應商身上。若有清晰的運行界限,關於更易部署的說法便更具說服力。客戶需要知道哪些設施特性可支援宣傳中的配置,哪些則需要額外工程。

通用記憶體改變取捨,而非適用於所有工作負載

記憶體專用化提供另一種服務架構,但其價值取決於分配給它的工作。

Positron 的推論主張,將注意力引向記憶體作為採購及設計選擇。高頻寬記憶體(HBM)透過緊密整合的記憶體堆疊,提供快速資料存取。選擇另一種記憶體架構,是改變工程問題,而不是消除它。

Atlas 是 Positron 現有的平台,採用可程式化晶片。Titan 則是計劃中的系統,圍繞其自訂處理器 Asimov 建構。把這兩代產品區分開來,可避免現時部署被暗示為未來矽晶片效能的證明。

記憶體容量與頻寬亦回答不同問題。容量說明系統可容納多少資訊;頻寬則說明它能以多快速度移動資訊。某一個維度表現理想,並不能證明整個應用程式都具備令人滿意的效能。

這對處理冗長文件或延伸對話的模型尤其重要。在本地保存更多工作資訊或會有用,但使用者也在意等待時間。架構必須同時支援所需資訊及互動節奏。

General Compute 為建議中的部署模式提供具體例子。其 10 月 20 日公布內容描述,dedicated Atlas capacity將於 2027 年第一季開始提供,同時承諾購買 Titan。

該合作夥伴表示,會以 GPU 處理提示詞,並以聚焦記憶體的加速器進行生成。這是計劃中的工作分工,而非宣稱專用硬件會取代所有現有加速器。

這個區分令競爭分析保持務實。營運商可在某些工作中保留熟悉的設備,同時在其他地方評估另一種架構。採購決策變成:組合後的服務能否充分改善成果,以證明增加營運複雜度是合理的。

對買家而言,這種複雜度從一開始便應納入評估。混合設備可帶來額外的協調、監控及支援要求。硬件優勢必須經得起這些要求,才會成為客戶的優勢。

供應商關係亦很重要。當服務跨越硬件邊界時,發生故障或效能問題時的責任必須保持清晰。即使多個組件共同促成每次回應,客戶仍需要一個可追責的服務供應商。

General Compute 的公告支持市場對這種安排的商業興趣,但未有提供計劃中服務的獨立測量。採購承諾、客戶可用性及持續生產效能,仍屬不同階段的證據。

另一則 11 月 19 日的公告描述了 Parasail 的planned Titan deployment,容量預期於 2027 年底上線。這個時間表令建議中的擴展超出即時可用性的問題範圍。

這些公告令背後的使用案例更具體。供應商希望透過服務關係出售推論,而非要求每名客戶管理不熟悉的硬件。成功將取決於能否在該服務背後,讓架構差異變得易於管理。

這個前景應引起企業買家興趣,但不應促使過早下結論。當客戶能在可靠條件下使用獲支援的模型時,新的記憶體方案才具有商業意義。規格及承諾確立方向;生產證據則確立其實際限制。

NVIDIA 已在分拆服務工作

競爭問題在於哪種完整的服務安排表現最佳,因為 NVIDIA 同樣支援推論專用化。

NVIDIA 的 分離式服務文件說明如何將提示詞處理與答案生成分開。Prefill 處理輸入;decode 則生成輸出 token,即模型產生的文字單位。

這種做法讓營運商可為每個階段分別分配資源,但亦需要在兩者之間傳送模型的工作狀態。文件提醒,分離並不必然更快,尤其當傳輸開銷超過其帶來的效益時。

這是相關的競爭背景,而非基準測試結論。它顯示既有的 GPU 路線亦包含調校服務架構的方法。買家比較的是持續演進的系統,而非在專門挑戰者與毫無改變的既有供應商之間作選擇。

因此,Positron 與 NVIDIA 的比較需要界定工作負載。針對長答案的結果,不能自動解決短回應的決策。一個為持續需求而優化的配置,也需要在請求不均勻到達時接受測試。

回應時序值得比單一速度聲稱更精確的說明。輸出開始前的等待時間,以及其後生成的速度,會以不同方式影響用戶。服務應說明其量度捕捉的是哪一種體驗。

併發量,即同時處理的請求數目,亦增加了另一個維度。以孤立請求展示的亮眼示範,並不能證明在客戶需求下的表現。買家需要反映其應用程式實際產生條件的量度結果。

這些要求同時令兩條路線面臨壓力。專門供應商必須證明其架構能配合所需軟件及模型運作。既有供應商則必須在可比較的營運條件下,向替代方案證明其完整部署的合理性。

既有基礎設施亦會改變比較結果。已支援某硬件系列的營運商,已累積程序及營運經驗。任何建議中的替換或新增方案,都必須證明引入所需工作的價值。

這不代表熟悉度必然勝出,而是遷移成本成為決策的一部分。顯著較佳的服務可以證明改變是合理的,但狹窄的元件優勢,可能在納入整合及支援要求後消失。

中立評估亦需要相同的輸出品質。數值精度的改變,即用於表示模型計算細節的程度,可能改變硬件需求。比較應披露這些改變,而非將不同的運作條件視為可互換。

買家亦應詢問每個配置如何處理其計劃部署的模型。廣泛相容性的聲稱,需要有支援清單及更新流程。關鍵問題是所需應用程式能否可靠運作,包括模型變更後。

對開發者而言,架構主要透過其呈現的行為而重要。穩定的介面、可預測的回應時間,以及清晰的故障處理,會影響服務能否支援應用程式。當硬件敘事能解釋這些成果時,才會變得有用。

這是此新聞最有力的競爭框架。專門記憶體設計與 GPU 服務改良,是對營運需求的競爭性答案。兩條路線都不會因一次訪問、一個產品頁面或一場有利的示範而獲得普遍結論。

Titan 的路線圖仍有待釐清

最重要而尚未解決的問題,是計劃中的系統與經獨立量度的量產硬件之間存在落差。

Positron 的 Titan 系統規格指出將於 2027 年推出,並表明其已發布的 Asimov 效能比較建基於模擬。模擬可支援工程規劃,但不能證實已交付予客戶的系統表現。

模擬結果所回答的問題,比量產量度結果更狹窄。其價值取決於模型的假設與界限。買家在將預測視為營運承諾前,需要理解這些界限。

這項區分應適用於所有涉及未來硬件的比較。圖表可描述設計目標,而既有硬件則提供量度結果。同時呈現兩者時,必須有清晰標籤,讓讀者理解證據差異。

已發布的時間表亦有待釐清。SC26 訪問提到 2027 年初 tape-out,即晶片設計完成並交付製造的時點。Positron 的 合作夥伴部署公告則提及 2026 年底 tape-out,並在 2027 年下半年量產。

這些說法令該里程碑仍未明確。讀者不應默默選擇較有利的日期,或假設該訪問提供了正式的路線圖修訂。適當的結論是 Positron 需要釐清時間表。

Tape-out 與客戶可用性亦不同。買家需要與可接收及營運的設備掛鈎的交付里程碑。單一製造里程碑無法判斷應用程式何時可在量產系統上運行。

對客戶數目的處理亦應同樣審慎。McCaskill 表示,Oracle 正在該季度內讓約 340 台 Atlas 伺服器上線。這裡仍將其視為具歸屬的部署陳述,並沒有完成部署或使用率的獨立確認。

尚未解決的問題都是實際問題。買家需要知道支援哪些模型、客戶會收到甚麼配置,以及如何量度服務承諾。他們亦需要清楚解釋當硬件或軟件未達標時,各方的支援責任。

懷疑並不代表假定設計失敗,而是要將不同類別的證據分開。工程預測、採購承諾、已安裝設備及持續客戶使用,各自回答不同的商業問題。

最有用的獨立測試,應披露足夠細節以作有意義比較。結果應附上模型身分、輸入及輸出長度、運作條件和量度界限。否則,標題式優勢可能掩蓋對應用程式重要的差異。

可靠性應獲得與速度同等的重視。買家需要有關服務在持續運作下如何表現的證據,包括中斷及復原情況。一場成功的短暫示範,仍會留下這些問題。

對追蹤證據的團隊而言,可搜尋知識庫可將附有日期的規格、測試結果及供應商承諾連繫起來。這讓日後的變更更易評估,同時避免將預測與量度混為一談。

對 Positron 推論而言,更廣泛的啟示很直接。商業興趣值得調查,而路線圖的模糊之處則值得明確保留。兩者可以同時成立,而毋須令文章變成背書或否定。

關注可用性、矽晶片里程碑與量度服務

下一批有用證據,應將已公布的容量與可存取服務及可重現的營運結果連繫起來。

第一個訊號是客戶可用性。General Compute 所述的 Atlas 時段將於 2027 年第一季開始。在未來數月,買家應留意支援的配置、存取細節,以及客戶能開始進行生產評估的證據。

可用性會讓部署論點超越採購承諾,從而加強其說服力。時間表改變會削弱近期執行的聲稱,但單憑這點不足以判定該架構的長期價值。

這種可用性的品質與公告本身同樣重要。文件清晰的服務可讓買家有具體內容可評估。含糊的存取措辭,會令已安裝設備與可用容量之間的關係變得不確定。

第二個訊號是經釐清的 Asimov 時間表。Positron 應釐清其已發布材料中以不同方式描述的製造里程碑。後續更新應區分設計完成、硬件驗證、量產準備及客戶交付。

一致的里程碑報告會提升規劃信心。進一步的模糊性會令部署預測更難評估。買家應將新聲明與附有日期的承諾作比較,而非假設每項公告都描述同一階段。

第三個訊號是量度得出的服務效能。獨立評估應將回應行為、支援模型、功耗界限及持續需求連繫起來。這些證據可測試建議中的架構,能否在買家熟悉的條件下帶來營運優勢。

可比較的量度結果,會比另一個孤立倍數更能加強論點。顯示優勢有限的結果仍然有用,因為它們能辨識合適的工作負載。在具代表性的條件下失敗的結果,則會限制部署論點。

這些訊號亦讓市場份額聲稱保持在合適的角度。營運商毋須有一個已定論的全球推論百分比,才能評估某項特定服務。他們需要足夠證據,以判斷建議中的部署是否符合自身要求。

對 AI 產品團隊而言,直接含義是要更嚴格審視基礎設施承諾。供應商的架構選擇,會在影響可用性、回應能力或連續性時變得重要。最佳的採購討論,會將這些用戶成果與可量度的服務承諾連繫起來。

在將訪問中的市場估算視為採購規則前,應透過這些附有日期的里程碑追蹤 Positron 推論。將合作夥伴承諾與產品路線圖一併閱讀,然後與可存取系統的證據比較。要求供應商說明其聲稱背後的模型、流量條件及設施假設。將預測的矽晶片結果與已出貨設備上的量度結果分開。當服務存取正式提供時,應根據你實際需要支援的應用程式來評估。決策應建基於在真實運作條件下可靠的輸出。哪一項已公布的優勢能通過這項比較,而哪一項依賴你的部署無法滿足的假設?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page