top of page

Sam Altman 的 RAM 言论将云端效率置于本地 AI 之上

2小时前
讀畢需時 12 分鐘

Sam Altman 认为,稀缺的计算机内存应当配置在繁忙的数据中心,而非偶尔运行 AI 的个人设备中。Sam Altman 关于 RAM 的言论涉及本地推理,也就是直接在设备上运行已训练完成的 AI 模型。他的观点让共享基础设施与个人对计算资源的控制权形成对立。

这段讨论出现在 Stripe 联合创始人 John Collison 主持的《Cheeky Pint》2026 年 10 月 29 日节目中。RAM,即随机存取内存,保存运行中的软件立即需要的信息。Altman 形容,让稀缺内存闲置在使用率较低的个人电脑里,从全球资源配置的角度看“相当糟糕”。

这直接挑战了支持本地 AI 的论点。Apple 和 Microsoft 都投资于可在个人设备上运行的模型,而云服务则将资源集中在共享访问体系之后。争议的核心在于,何为有用的算力容量:持续被占用的硬件,还是所有者随时可用的计算能力。

Sam Altman 的 RAM 言论瞄准本地推理

本地推理讨论出现在一场关于供应约束及制造商如何应对需求的对话中。Altman 质疑了一种假设:在个人电脑上运行公开可用的模型,就能消除基础设施压力。

他具体担忧的是 DRAM,即现代计算设备中广泛使用的动态随机存取内存。他称个人电脑对这类内存的使用时间仅为“5%”,并主张实现“云端最高利用率”。

这些言论确立了他的立场,但相关内容并未提供这一比例的测量方法,也没有明确个人设备与云端系统之间的比较依据。

Altman 的论点关注稀缺内存配置在哪里能产生最大效用,而不是个人电脑是否应当配备内存。

这一区别很重要,因为标题式表述听起来可能比实际讨论更宽泛。他的例子针对的是为本地 AI 工作负载分配的内存,并不能证明普通桌面应用也应迁移至远程服务器。

计算机可能需要大量内存来处理与 AI 无关的工作。软件开发、图像编辑、研究和日常多任务处理,都会争夺可用容量。若将所有已安装组件都视为 AI 资源,就会抹去这些用途在比较中的位置。

因此,关键问题是增量性的:特定本地 AI 工作负载需要增加多少内存,这种配置又能带来哪些有用的工作?

如果一个模型需要专用机器,却在大部分时间处于闲置状态,Altman 的反对意见就更有说服力。若它利用的是现有工作站的闲置容量,资源计算便会不同。

这两种情况都不能从“本地 AI”一词自动推导出来。该类别涵盖差异很大的硬件购买、工作负载和使用模式。

同样的区别也适用于所有权。为偶尔一次实验购买额外硬件的人,与整个工作日都在运行本地模型的开发者,面临的是不同决策。

当稀缺组件被用于低频任务、而共享服务同样可以胜任时,Altman 的立场最为有力。当本地执行带来共享服务无法复现的益处时,这一立场就不再完整。

这正是这场讨论值得超越其挑衅性措辞而被关注的原因。它要求用户为物理资源的配置辩护,同时将个人计算的若干好处排除在初始计算之外。

内存供应商已经在做出资源配置选择

供应论点有明确的商业背景。内存制造商决定哪些客户、产品和市场能获得投资与支持。

Micron 的Crucial 消费业务退出提供了直接例证。2025 年 12 月 3 日,该公司宣布将退出 Crucial 消费业务。

Micron 明确将这一决定与 AI 驱动的数据中心需求联系起来。其公告表示,面向消费渠道的出货将持续至 2026 年 2 月,此后仍会继续提供保修服务与支持。

该公司将这一转变描述为改善对更大战略客户的供应和支持的方式。这一表述记录的是供应商的优先级,而非对消费者偏好的预测。

个人计算承受的压力,始于供应商的资源配置决策,早于用户选择在哪里运行模型。

对于 PC 制造商而言,这带来了规划难题。他们必须在内存配置、组件供应情况,以及向客户承诺可运行的应用之间取得平衡。

对于个人买家而言,后果是难以再将增加内存视为毫无复杂性的升级。为支持本地 AI 而进行的购买,需要与同一更广泛制造生态中的其他需求竞争。

企业买家面临的是另一种版本的压力。他们必须决定是锁定硬件、依赖云端容量,还是在两者之间分配工作负载。

这些选择并不能证明云服务商理应获得优先权。它们说明了为什么 Altman 的资源配置论点会出现在一场关于谁应获得稀缺资源的既有争议中。

制造商也有自己的激励因素。战略关系与预期增长会与技术效率一道塑造决策。供应商偏好的客户,未必是创造最大社会效益的用户。

这种区别将商业结果与公共利益结论区分开来。强大的采购能力可以将供应导向数据中心,却无法证明每一笔被挤出的消费者购买都是浪费。

开发者在规划产品时会遇到这种张力。如果某项功能假定本地内存充足,而客户却无法获得合适的机器,它就会更难得到支持。

基于云端的功能将硬件负担转移给服务提供商,但也使产品依赖于该提供商的可用性、访问条款和容量决策。

对于知识工作者,这种压力体现为工作流程的可靠性。他们关心的是,当截止日期临近时,机器或服务是否能完成必要工作。

因此,资源配置争论远不止影响组装电脑的爱好者。它影响软件公司会构建哪些功能、雇主会采购哪些设备,以及用户能在日常工作中保留多少控制权。

Micron 的决定并未解决这些权衡。它表明,对资源的竞争已经在影响消费市场。

共享容量具有优势,但内存并非可以互换

汇聚容量的基本论点很直接。不同用户会在不同时间需要计算资源,因此共享基础设施能够在更广的时间范围内服务各种工作负载。

设想有多个组织在不同工作时段请求文档分析。共享服务可以在这些请求到达时分配可用资源。

为每个组织单独购买的机器,无法自动共享其闲置容量。所有权形成的边界,有时可以被共同服务所跨越。

资源汇聚可以减少重复配置的容量,但更高的利用率并不能证明每一项云端工作负载总体上使用更少内存。

有意义的比较需要在任务和所需结果上保持合理一致。否则,讨论就可能以同一“效率”标签比较不同产品。

回答狭窄问题的小型本地模型,并不等同于生成更长回答的大型托管模型。它们的能力、内存需求和运行要求各不相同。

云端系统也需要为需求高峰和运行故障预留容量。让每个组件始终满负荷运行,几乎无法为意外需求留下空间。

个人设备做出的是另一种折中。即便当前没有应用需要,其未使用的容量仍为所有者提供即时可用性。

两种方式都不会消除闲置资源。它们只是以不同方式分配备用容量与责任。

硬件比较还带来了另一项复杂因素。高带宽内存,即 HBM,通过堆叠内存芯片,向高要求处理器快速传输数据。DDR5 则是用于 PC 和服务器的一代传统系统内存。

Micron 的内存供应演示材料称,HBM3E 要实现同等内存容量,所需硅材料是 DDR5 的三倍。

这一比较描述的是制造资源,并不意味着桌面内存模块可以替代加速器内存,也不意味着这些产品具备相同性能。

两者的关联来自生产选择和制造约束。不同内存产品在更广泛的工业体系中竞争,但不会因此成为可互换的成品组件。

这使资源配置之争比在书桌和服务器机架之间做选择更复杂。内存类型与其运行位置同样重要。

使用专用硬件的服务,或许能够完成个人电脑无法令人满意地完成的高要求任务。另一项任务则可能轻松适配于适度规模的本地模型。

效率取决于工作负载与系统之间的关系。最大的共享部署并不会自动为每项请求提供最佳答案。

最有力的云端论点,应当在完整系统中比较等效的有用结果。它应考虑内存需求、备用容量、响应质量,以及交付每项结果所需的资源。

最有力的本地论点也应如此。它应将专为 AI 购买的硬件纳入计算,而非将个人所有权本身视为天然高效。

这使结论比标题暗示的更狭窄,也更站得住脚。资源汇聚创造了高效利用资源的机会,但具体实施决定了这种机会能否转化为可衡量的优势。

Apple 和 Microsoft 为本地 AI 赋予不同角色

云端集中化的主要替代方案,并不一定是让个人电脑取代所有大型服务器模型,而是进行工作分工。

Apple 的设备端模型展示了这种方式。其公开研究描述了设备端模型与更大规模服务器模型并行的架构。

Microsoft 的Phi Silica 架构同样将语言模型能力直接部署在 Windows 设备上。这些是围绕本地执行作出的产品选择,而不是宣称远程基础设施没有必要。

对云端 AI 的竞争性回应,往往是选择性地在本地处理,同时将更大的工作负载交由其他地方完成。

这种方式改变了内存配置必须证明的价值。只要本地模型能够可靠地完成一项有用且高频的任务,它就不需要与能力最广泛的托管服务相匹配。

以一个提供简短文本转换功能的示例写作应用为例。其用户可能更看重即时响应和可预测的可用性,而非广泛的推理能力。

满足这一要求的本地模型,与分析冗长技术记录的托管模型承担着不同职责。若仅以硬件占用情况比较二者,就会忽略它们不同的用途。

当应用程序处理敏感信息时,这种权衡会更加清晰。将处理保留在设备上,可以减少把内容发送到其他地方的需要。

但这一优势取决于实际的产品架构。本地模型并不保证应用程序的每个部分都会留在本地。

搜索、同步、诊断和可选功能都可能引入独立的数据流。在把“设备端”视为完整的隐私说明之前,购买者需要审视整个工作流程。

云端处理同样需要具体评估。仅凭远程执行本身,无法说明服务提供商会保留哪些内容、谁可以访问信息,以及适用哪些保障措施。

真正有意义的比较,应在边界明确且有文档说明的系统之间进行。宽泛的标签不能替代这些证据。

对于开发者而言,混合架构会带来实际责任。应用程序必须决定哪些请求保留在本地,哪些需要远程处理。

它还必须清楚说明故障和限制。用户应当知道,某项不可用的功能究竟是受设备限制、网络条件影响,还是受到服务限制。

对于企业购买者而言,同一架构也会引发一致性问题。某项功能可能在不同员工的设备上表现不同,或者在无法远程访问时失去能力。

这些都是在将某种方案标准化之前测试实际任务的理由。但这并不意味着每个组织都需要相同的硬件或单一的执行模式。

Sam Altman 关于 RAM 的评论,对“本地模型能解决基础设施稀缺问题”这一宽泛说法提出了压力。Apple 和 Microsoft 的做法支持一个更狭窄的命题:有些工作应当在靠近用户的地方完成。

这些立场可以共存。个人模型可以处理日常操作,而共享基础设施则支持超出设备实际能力上限的请求。

剩余的分歧在于:这条边界应当设在哪里、由谁决定,以及谁的利益决定默认设置。

“5%”这一说法留下了最棘手的问题

Altman 给出的百分比听起来很精确,但措辞精确并不等于得出了经过测量的结果。访谈记录没有定义其背后的人群或工作负载。

计算机的运行时间不同于它生成模型响应所花的时间。内存占用也不同于实际完成的有用工作。

没有明确的分母,这一百分比本身无法支撑更广泛的结论。公平比较需要双方采用一致的定义。

这一论点最大的缺口,是缺少对等价本地与云端工作负载的比较。

一项有参考价值的研究应区分已安装的内存与专门为 AI 购买的内存。它还应区分偶尔的实验与持续性的专业使用。

研究应明确涉及的模型、任务、质量门槛和硬件。否则,较低的利用率数字可能描述的是一次不理想的购买,而不是本地计算的缺陷。

同样的标准也应适用于云端。服务提供商应区分已被占用的基础设施与实际产生的客户成果。

繁忙的系统仍可能在执行不必要的工作。反复失败的请求、过大的模型或本可避免的处理,都可能让硬件保持活跃,却不改善结果。

这是一种分析上的可能性,而不是对某一家服务提供商实际运营情况的断言。它说明了为何活动量和价值需要分别看待。

可用性带来了另一层复杂性。个人所有权可能具有价值,因为即使在长时间未主动使用时,容量依然为所有者保留。

专业工作站不需要持续运行,才能证明其存在的合理性。它的价值可能在于无需等待共享访问,便可处理紧急任务。

云基础设施提供不同的优势,包括访问超出用户机器能力的功能。相关问题在于,这些优势是否超过了随之引入的依赖性。

批评性报道强调了所有权这一维度。在讨论本地 AI 的权衡时,Tom’s Guide 的 Jason England 质疑了 Altman 的框架,并为本地计算辩护。

这种批评提出的是相反的判断,而不是独立的利用率基准。它不应以同样宽泛的说法替代缺失的测量,即个人机器始终更可取。

OpenAI 的商业立场也值得承认。云端 AI 提供商会在用户访问共享模型、而非用本地处理替代这些请求时获益。

这种激励并不会使效率论点失效。但当一家公司的首选架构同样支持其商业利益时,证据就显得尤为重要。

本地硬件厂商也有自身激励。更高要求的软件可能会推动设备升级,无论每位购买者是否真的需要额外容量。

最有力的分析会对双方采用同一标准。无论是云端高管关于利用率的说法,还是硬件厂商的产品演示,都不能证明对每位用户而言的最佳资源配置。

读者也应避免把这场交锋变成普遍性的购买建议。这些评论并不能证明现有电脑需要更少内存,或升级没有价值。

它们提出了一个值得测量的问题:个人 AI 容量在何时能带来足够收益,以证明占用共享基础设施同样可以使用的资源是合理的?

关注供应承诺、工作负载证据与本地产品交付

通过可观察的变化,最容易评估 Sam Altman 关于 RAM 的评论。在未来几个月里,有三个信号值得按特定顺序关注。

首先,关注内存供应商下一次披露的财报和供应承诺。有用的细节包括生产优先级、客户配额和交付预期。

未来产能的公告,应与真正交付到客户手中的组件区分开来。工厂计划和可用内存解决的是问题的不同阶段。

如果供应商报告客户端和服务器市场的可用性正在改善,那么以稀缺性为基础、优先配置云端容量的理由就会显得不那么紧迫。持续的限制则会增强其即时相关性。

无论哪种结果,都无法解决隐私、所有权或可靠性问题。它只会改变衡量这些优势时必须考虑的资源约束。

其次,关注可比较的工作负载测量。最有价值的证据,应是在明确的可接受输出标准下,对个人设备和共享系统上的等价任务进行测试。

这种比较应包括完成工作所需的内存,以及维持每个系统可用所需的额外容量。它还应解释什么才算利用率。

如果汇集式系统以更少资源交付等价结果,Altman 的核心效率论点就会得到支持。如果小型本地模型能够经济地处理高频任务,那么反对本地执行的宽泛说法就会削弱。

测量还应区分偶发性购买与已存在的硬件。当某个工作负载利用机器中已有的容量时,其环境和商业影响有所不同。

第三,关注 Apple、Microsoft 和应用开发者实际交付了什么。重要的证据是在普通运行条件下提供的有用功能。

当用户经常依赖某项本地功能,而且它能在实际设备限制内运行时,它就会成为更有力的反驳论据。单独的演示所能证明的要少得多。

当混合产品能够说明哪些任务保留在设备上,以及何时开始远程处理时,其论据就会更有说服力。清晰的边界有助于购买者评估这种权衡。

决定性信号是每单位资源所完成的有用工作,以及用户对这项工作获得的控制权。

对于正在选择架构的团队,这意味着需要进行更具体的评估。识别员工执行的任务、涉及的信息,以及工作必须持续进行的条件。

涉及个人知识库的工作流程尤其值得关注,因为源材料可能包含敏感文档和工作上下文。存储位置和处理位置需要分别核查。

请根据你实际执行的任务评估下一次 AI 采购。询问它需要哪些额外硬件、哪些数据会离开你的设备,以及远程访问失败时会发生什么。比较已完成工作的质量,而不是模型规模或拥有其硬件的吸引力。Sam Altman 关于 RAM 的评论提出了一个有关稀缺资源的合理问题,但用户仍需要适合自身情况的证据。共享容量可以服务更多人;预留的本地容量可以保护访问权限和控制权。在选择任一方案之前,要求对资源分配作出清晰说明,并使用你自己的工作负载进行演示。哪一种安排既能完成必要工作,又能保留你所需的边界?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page