Sam Altman 關於 RAM 的言論：雲端效率優先於本地 AI
Sam Altman 認為，稀缺的電腦記憶體應該留在繁忙的資料中心，而不是放在偶爾才運行 AI 的個人裝置上。Sam Altman 關於 RAM 的言論針對本地推理，即直接在你的裝置上運行已經訓練完成的 AI 模型。他的觀點讓共享基礎設施與個人對運算資源的控制權形成對立。
這段交流出現在 2026 年 10 月 29 日播出的 Cheeky Pint 節目，主持人是 Stripe 聯合創辦人 John Collison。RAM，即隨機存取記憶體，用來保存正在運行的軟件即時所需的資訊。Altman 表示，從全球資源分配的角度來看，把稀缺記憶體放在使用率偏低的個人電腦中「相當糟糕」。
這直接挑戰了本地 AI 的理據。Apple 和 Microsoft 均投資於可在個人裝置上運行的模型，而雲端服務則把資源集中於共享存取之後。分歧在於如何界定有用的運算容量：是持續被佔用的硬件，還是擁有人需要時隨時可用的運算能力。
Sam Altman 關於 RAM 的言論針對本地推理
這段關於本地推理的交流出現在討論供應限制及製造商如何回應需求期間。Altman 質疑一項假設：在個人電腦上運行公開可得的模型，便能消除基礎設施壓力。
他特別關注的是 DRAM，即現代運算裝置廣泛採用的動態隨機存取記憶體。他指出，個人電腦對這些記憶體的使用時間只有「5%」，並主張應追求「雲端中的最高使用率」。
這些言論表明了他的立場，但相關段落並未交代這個百分比的衡量方法，也沒有具體說明個人裝置與雲端系統之間的比較基準。
Altman 的論點關乎稀缺記憶體在哪裏能帶來最多用途，而不是個人電腦是否應配備記憶體。
這個分別很重要，因為標題式的表述聽起來可能比實際交流更廣泛。他舉的例子是分配予本地 AI 工作負載的記憶體，並不能證明一般桌面應用程式都應遷移至遠端伺服器。
電腦可能因與 AI 無關的工作而需要大量記憶體。軟件開發、圖像編輯、研究工作和日常多工處理，都會爭奪可用容量。若把所有已安裝的組件都視為 AI 資源，這些用途便會從比較中被抹去。
因此，關鍵問題在於增量：某一項本地 AI 工作負載額外需要多少記憶體，而這樣的分配又能帶來甚麼有用工作？
如果某個模型需要專用裝置，而該裝置大部分時間都處於閒置狀態，Altman 的反對理由便更有力。若它利用現有工作站的剩餘容量，資源計算便會改變。
這兩種情況都不會自然地從「本地 AI」這個詞推導出來。這個類別涵蓋截然不同的硬件採購、工作負載和使用模式。
同樣的分別亦適用於所有權。為偶爾實驗而添置硬件的人，所面對的決定與整個工作日都運行本地模型的開發者並不相同。
當稀缺組件被用於支援共享服務同樣能妥善處理的低頻工作時，Altman 的立場最具說服力。當本地運行帶來共享服務無法複製的好處時，他的論述便較不完整。
這正是這段交流值得在挑釁性措辭之外受到關注的原因。它要求使用者為實體資源的分配作出辯護，同時把個人運算的多項好處排除於初步計算之外。
記憶體供應商已在作出分配選擇
供應論點有明確的商業背景。記憶體製造商決定哪些客戶、產品和市場能獲得投資與支援。
Micron 退出 Crucial 消費者業務正是一個直接例子。該公司於 2025 年 12 月 3 日宣布，將退出 Crucial 消費者業務。
Micron 明確把這項決定與 AI 驅動的資料中心需求連繫起來。公告指出，面向消費者渠道的出貨將持續至 2026 年 2 月，其後仍會繼續提供保養服務及支援。
公司把這次調整描述為改善對更大型策略客戶的供應與支援的方法。這項表述記錄的是供應商的優先次序，而不是對消費者偏好的預測。
個人運算面對的壓力，始於供應商的分配決定，早於使用者選擇在哪裏運行模型。
對個人電腦製造商而言，這帶來規劃難題。他們必須在記憶體配置、組件供應情況，以及承諾客戶可以運行的應用程式之間取得平衡。
對個人買家而言，後果是更難把額外記憶體視為毫無複雜性的升級選項。為支援本地 AI 而作出的採購，正與同一更廣泛製造生態系統中的其他需求競爭。
企業買家面對的是另一種形式的壓力。他們必須決定是取得硬件、依賴雲端容量，還是在兩者之間分配工作負載。
這些選擇並不能證明雲端供應商應獲優先。它們只是說明，為何 Altman 的分配論點會在既有的稀缺資源分配爭議中引起共鳴。
製造商亦有自身誘因。策略關係和預期增長會與技術效率一同影響決策。供應商偏好的客戶，未必就是帶來最大社會效益的使用者。
這個分別把商業結果與公共利益結論區分開來。強大的採購能力可以把供應導向資料中心，卻不能證明每一宗被取代的消費者採購都是浪費。
開發者在規劃產品時會遇到這種張力。如果某項功能假設本地記憶體供應充裕，當客戶無法取得合適裝置時，支援這項功能便會變得更困難。
雲端功能會把硬件負擔轉移給服務供應商，但亦會令產品依賴該供應商的可用性、存取條款和容量決策。
對知識工作者而言，壓力體現在工作流程的可靠性。他們關心的是，當限期臨近時，裝置或服務能否完成必要工作。
因此，資源分配爭議的影響不僅限於自行組裝電腦的愛好者。它影響軟件公司會開發哪些功能、僱主會購買哪些裝置，以及使用者對日常工作保留多少控制權。
Micron 的決定並未解決這些取捨，但它表明資源競爭已在影響消費者市場。
共享容量具優勢，但記憶體並非可互換
共享容量的基本理據很直接。不同使用者在不同時間需要運算能力，因此共享基礎設施可在較廣泛的時段內服務各種工作負載。
設想數個機構在不同工作時間要求進行文件分析。共享服務可隨着這些請求到達而分配可用資源。
為每個機構購買的獨立裝置，不能自動共享其閒置容量。所有權會形成界限，而共同服務有時可以避開這些界限。
資源池化可減少重複容量，但更高使用率並不能證明每一項雲端工作負載的整體記憶體用量都較低。
有意義的比較，必須讓工作項目和所需結果維持合理的一致。否則，討論可能只是在同一個效率標籤下比較不同產品。
回答狹窄問題的小型本地模型，並不等同於產生較長回應的大型託管模型。兩者的能力、記憶體需求和運行要求均有差異。
雲端系統亦需要預留容量，以應對需求高峰和運作故障。若讓每個組件都持續在極限下運行，便幾乎沒有空間應對突發需求。
個人裝置作出的是另一種取捨。即使目前沒有應用程式需要，它們的閒置容量仍為擁有人提供即時可用性。
兩種做法都不能消除閒置資源，只是以不同方式分配備用容量及責任。
硬件比較還引入另一項複雜因素。高頻寬記憶體（HBM）會堆疊記憶體晶片，以便迅速向高需求處理器傳輸資料。DDR5 則是個人電腦和伺服器使用的一代傳統系統記憶體。
Micron 的記憶體供應簡報指出，HBM3E 若要提供相同記憶體容量，所需矽材料是 DDR5 的三倍。
這項比較描述的是製造資源，並不代表桌面記憶體模組可取代加速器記憶體，也不代表兩者效能相同。
兩者的關聯體現在生產選擇和製造限制上。不同記憶體產品會在更廣泛的工業系統中競爭，卻不會變成可互換的成品組件。
這令資源分配的討論比在書桌與伺服器機架之間作選擇更複雜。除了運行地點，記憶體類型同樣重要。
使用專用硬件的服務，或許能完成個人電腦無法令人滿意地處理的高需求工作。另一項工作則可能足以由規模適中的本地模型輕鬆完成。
效率取決於工作負載與系統之間的關係。規模最大的共享部署，並不必然為每一項請求提供最佳答案。
最有力的雲端論點，應比較完整系統在產出等效有用結果時的表現。它應計入記憶體需求、備用容量、回應質素，以及交付每個結果所需的資源。
最有力的本地論點亦應如此。它應把專為 AI 而購買的硬件計算在內，而非把個人擁有硬件視為天生有效率。
由此得出的結論比標題所暗示的更狹窄、也更站得住腳。資源池化創造了善用資源的機會，但具體實施決定這個機會是否會成為可量度的優勢。
Apple 與 Microsoft 為本地 AI 賦予不同角色
雲端集中的主要替代方案，未必是由個人電腦取代所有大型伺服器模型，而是分工。
Apple 的裝置端模型說明了這種做法。其已發表研究描述了一個裝置模型，以及一個較大的伺服器模型。
Microsoft 的Phi Silica 架構同樣把語言模型能力直接置於 Windows 裝置上。這些都是圍繞本地運行作出的產品選擇，而非宣稱遠端基礎設施並無必要。
雲端 AI 的競爭性回應，往往是有選擇地在本地處理，而把較大型的工作負載交由其他地方處理。
這種做法改變了記憶體分配必須證明的價值。如果本地模型能可靠地完成一項有用而頻繁的工作，它毋須匹敵最全面的託管服務。
以一款提供簡短文字轉換功能的示例寫作應用程式為例。其使用者可能更重視即時回應與可預測的可用性，而非廣泛的推理能力。
符合該需求的本機模型，與分析冗長技術紀錄的託管模型，服務的是不同用途。若只比較兩者佔用硬件資源的程度，便會忽略它們各自的工作。
當應用程式處理敏感資料時，這種取捨便更清晰。將處理保留在裝置上，可減少把內容傳送到其他地方的需要。
不過，這項好處取決於產品的實際架構。本機模型並不保證應用程式的每個部分都留在本機。
搜尋、同步、診斷及選用功能，都可能帶來獨立的資料流。買家在把「在裝置上」視為完整的私隱說明前，需要審視整個工作流程。
雲端處理同樣需要具體評估。單憑遠端執行，無法告訴用戶供應商會保留甚麼、誰可存取資料，或有哪些保障措施適用。
有用的比較，是在邊界明確、已有文件說明的系統之間進行。籠統標籤不能取代這些證據。
對開發者而言，混合式架構帶來實際責任。應用程式必須決定哪些請求留在本機，哪些需要遙距處理。
它亦必須清楚說明故障和限制。用戶應知道，某項功能無法使用是源於裝置限制、網絡狀況，還是服務限制。
對企業買家而言，同一架構亦會引發一致性問題。某項功能可能在員工不同裝置上有不同表現，或在無法遙距存取時失去部分能力。
這些都是在採用某種方案作標準前，應先測試實際工作項目的理由。它們並不代表每間機構都需要相同硬件或單一執行模式。
Sam Altman 關於 RAM 的評論，對「本機模型能解決基礎設施稀缺問題」這項廣泛說法構成壓力。Apple 和 Microsoft 的做法支持一個較狹窄的主張：有些工作適合在接近用戶的地方完成。
這些立場可以並存。個人模型可處理日常操作，而共享基礎設施則可支援超出裝置實際限制的請求。
餘下的分歧，在於界線應設在哪裏、由誰決定，以及誰的利益決定預設選項。
「5%」的說法留下最棘手的問題
Altman 的百分比聽來精確，但措辭上的精確並不代表已得出量度結果。逐字稿沒有界定其背後的人群或工作負載。
電腦的運行時間，與其用於生成模型回應的時間並不相同。記憶體佔用量亦不等於已完成的有用工作。
在分母不清楚的情況下，該百分比本身不足以支持更廣泛的結論。公平比較需要雙方採用相符的定義。
這項論點最大的缺口，是欠缺等效本機與雲端工作負載之間的比較。
一項具參考價值的研究，應區分已安裝的記憶體與專為 AI 購買的記憶體，亦應把偶爾實驗與持續的專業使用分開。
研究應列明所涉及的模型、工作、品質門檻及硬件。否則，低使用率數字可能描述的是一次不理想的購買，而非本機運算的缺陷。
雲端方面也應採用同一標準。供應商應區分已被佔用的基礎設施與對客戶有用的實際成果。
繁忙的系統仍可能進行不必要的工作。重複的失敗請求、過大的模型，或可避免的處理，都可能令硬件保持活躍，卻沒有改善結果。
這是一種分析上的可能性，而非對某個供應商實際營運量度的指控。它說明活躍程度與價值需要分開處理。
可用性帶來另一重複雜性。個人擁有設備可能具有價值，因為即使長時間未有主動使用，容量仍為擁有人保留。
專業工作站毋須持續運作，才足以證明其存在合理。它的價值可在於處理緊急工作時毋須等待共享資源。
雲端基礎設施提供不同優勢，包括存取超出用戶裝置能力的功能。關鍵問題是，這些優勢是否勝過隨之引入的依賴。
批判性報道曾強調所有權這個面向。Tom’s Guide 的 Jason England 在討論 本機 AI 的取捨 時，質疑 Altman 的框架，並為本機運算辯護。
這項批評提出的是相反判斷，而不是獨立的使用率基準。它不應以「個人電腦永遠較佳」這種同樣過於籠統的說法，取代欠缺的量度資料。
OpenAI 的商業立場亦值得承認。當用戶使用共享模型，而非以本機處理取代這些請求時，雲端 AI 供應商會受惠。
這種誘因並不會令效率論點失效。不過，當公司偏好的架構同時支持其業務時，證據便尤其重要。
本機硬件供應商也有自己的誘因。要求更高的軟件可推動裝置升級，不論每位買家是否真的需要額外容量。
最有力的分析會對雙方採用同一標準。無論是雲端高層的使用率說法，還是硬件供應商的產品示範，都不能證明哪種資源配置最適合每位用戶。
讀者也應避免把這場討論變成普遍的購買建議。這些言論並未證明現有電腦需要較少記憶體，或升級沒有價值。
它們提出了一個值得量度的問題：個人 AI 容量在甚麼情況下，能帶來足以合理化其所佔資源的效益，而這些資源本也可由共享基礎設施使用？
留意供應承諾、工作負載證據及本機產品交付
要評估 Sam Altman 關於 RAM 的評論，最容易的方法是觀察可見的變化。在未來數月，有三個訊號值得按特定次序留意。
首先，留意記憶體供應商下一輪的業績披露及供應承諾。有用的細節涉及生產優先次序、客戶配額及交付預期。
未來產能的公告，應與真正送抵客戶的零件分開看待。工廠計劃與可用記憶體，解決的是問題的不同階段。
若供應商報告指客戶端及伺服器市場的供應正在改善，優先配置雲端容量的稀缺性論據便會變得較不迫切。若限制持續，則會加強其即時相關性。
無論哪種結果，都不能解決私隱、所有權或可靠性問題。它只會改變衡量這些好處時所面對的資源限制。
其次，留意可比較的工作負載量度。最有價值的證據，會在清晰的可接受輸出標準下，測試個人裝置與共享系統處理等效工作的表現。
這類比較應包括完成工作所需的記憶體，以及維持每個系統可用所需的額外容量，並應說明甚麼才算使用率。
若匯集式系統以較少資源交付等效結果，Altman 的核心效率論點便會得到支持。若小型本機模型能經濟地處理常見工作，反對本機執行的廣泛說法便會削弱。
量度亦應區分偶爾的購買與現有硬件。當工作負載使用的是機器上原有的容量時，環境及商業層面的影響並不相同。
第三，留意 Apple、Microsoft 及應用程式開發者實際推出甚麼。重要證據是在一般操作條件下提供的實用功能。
當用戶經常依賴本機功能，而它又能在實際裝置限制內運作時，便會成為更有力的反論點。單憑示範所能證明的則少得多。
混合式產品若能說明哪些工作留在裝置上，以及何時開始遙距處理，便可加強其理據。清晰界線有助買家評估取捨。
決定性的訊號，是每項資源所完成的有用工作，以及用戶對該工作的控制程度。
對正在選擇架構的團隊而言，這意味著更具體的評估。找出員工執行的工作、涉及的資料，以及工作必須持續進行的條件。
涉及 個人知識庫 的工作流程值得特別留意，因為來源材料可能包括敏感文件和工作脈絡。儲存位置與處理位置需要分開檢查。
以你實際執行的工作來評估下一次 AI 購買。問問它需要甚麼額外硬件、哪些資料會離開你的裝置，以及當遙距存取失敗時會發生甚麼。比較已完成工作的品質，而不是模型大小或擁有其硬件的吸引力。Sam Altman 關於 RAM 的評論提出了有關稀缺資源的合理問題，但用戶仍需要切合自身情況的證據。共享容量可以服務更多人；預留的本機容量則可保障存取與控制。在選擇任何一方前，應要求清楚說明資源如何分配，並以你自己的工作負載進行示範。哪種安排能完成必要工作，同時保留你所需要的界線？
