Ollama 获得 8800 万美元融资,推动开放模型走向云端
Ollama 已完成 6500 万美元 B 轮融资,使其融资总额达到 8800 万美元,并开始从本地 AI 开发向更广阔的领域扩张。
Ollama 获得 8800 万美元融资的故事,并非只是又一家 AI 基础设施公司拿到一张巨额支票。它给 Ollama 带来了新的压力:既要连接本地算力与云端资源,又不能削弱其关于所有权和隐私的主张。
新一轮融资由 Theory Ventures 领投,Benchmark、8VC、Y Combinator、Pace Capital、49 Palms、GTMFund 以及多位个人科技投资者参与。Benchmark 此前曾领投 Ollama 的 A 轮融资。
Ollama 表示,其目前已服务 890 万名开发者,并在 85% 的《财富》500 强企业中得到使用。这些由公司自行披露的数据尚未经过独立审计。
这笔融资背后的押注明确无误。开发者希望使用能力日益强大的开放模型,但许多人无法在现有电脑上运行其中规模最大的版本。
Ollama 计划通过混合推理弥合这一差距,将 AI 处理任务分配到本地硬件与远程云基础设施之间。这种方式挑战了一个固有假设:开发者必须在完全本地控制与专有模型 API 之间二选一。
这一选择也带来了 Ollama 的核心矛盾。公司必须在建立云业务的同时,保留让其软件具备吸引力的本地所有权。
Ollama 的 8800 万美元融资是累计资本,并非单轮融资
Ollama 在最新一轮融资中筹集了 6500 万美元,而 8800 万美元代表公司的累计融资额。
这一区别非常重要,因为简略的标题可能会让最新投资看起来比实际金额更大。公司在 7 月 9 日发布的融资公告中,将 Theory Ventures、Benchmark 和 8VC 列为机构投资方。
公告还提到 Docker 创始人 Solomon Hykes、ClickHouse CEO Aaron Katz 和 Cockroach Labs 联合创始人 Spencer Kimball 也是投资者。其他参与者还包括 Cisco 董事会成员 Marianna Tessel,以及 Twitter 前工程负责人 Michael Montano。
根据B 轮融资详情,本轮融资之前,Ollama 曾完成由 Benchmark 合伙人 Peter Fenton 领投的 1500 万美元 A 轮融资。更早期的融资构成了 Ollama 8800 万美元融资总额中的剩余部分。
Ollama 由联合创始人 Jeff Morgan 和 Michael Chiang 于 2023 年推出。两人此前曾创建 Kitematic,这是一款简化在桌面电脑上运行 Docker 容器流程的图形化工具。
Docker 于 2015 年收购 Kitematic。此后,Morgan 和 Chiang 参与了 Docker Desktop 的开发,因此积累了将复杂基础设施封装为普通开发者易用产品的直接经验。
这段经历有助于解释 Ollama 的产品策略。该软件将模型获取、配置和推理封装在一条简短命令和一个本地应用程序接口之后。
推理是指使用训练完成的模型生成答案或其他输出。本地推理则是在用户控制的硬件上完成这种计算。
开发者可以安装 Ollama、选择兼容模型,并通过本地 API 将其提供给应用程序使用。这减少了过去分别管理模型文件、推理引擎、内存限制和硬件设置所需的配置工作。
公司的公开代码仓库也支持与编程工具和个人助理集成。其公开可见的活跃度表明开发者兴趣浓厚,不过代码仓库的受欢迎程度并不能证明其在生产环境中得到持续使用。
新资金扩大了 Ollama 承诺投入的规模。其公开表明的优先事项包括混合推理、新发布模型的即时支持,以及扩大云服务的访问范围。
模型首日支持非常重要,因为如今的开放模型由众多独立实验室发布。每次发布都可能带来不同的架构、文件格式、上下文限制、工具接口和硬件要求。
适配延迟会给竞争对手的推理平台留下机会。开发者往往会采用最先让他们测试某个潜力模型的运行时。
因此,Ollama 需要的不只是一套易于识别的命令行体验。它还需要在不断变化的模型、操作系统、处理器、图形硬件和云环境之间提供可靠兼容性。
这笔融资为公司提供了应对这类运营负担的资源,也为投资者带来了更明确的按使用量计费的云业务收入路径。
第二个目标才是这件事真正值得关注的地方。Ollama 因让本地 AI 更易使用而获得关注,但其下一阶段的增长在一定程度上取决于那些无法留在本地运行的工作负载。
开发者数据给专有 API 带来压力
Ollama 公布的采用情况,为开放模型基础设施提供了一个专有 API 提供商无法忽视的分发渠道。
公司表示,其平台拥有 890 万名开发者。它还称,该平台已在 85% 的《财富》500 强企业中得到使用,并拥有超过 67,000 个集成。
这些数据来自 Ollama,应被视为公司自身的声明。公告并未说明如何统计开发者、活跃安装实例或《财富》500 强企业中的使用情况。
工具出现在某家企业内部,与公司范围内的生产部署并不相同。一名员工测试本地模型,就可能满足宽泛的采用定义,但这并不意味着它已成为获批的企业标准。
即使存在这一限制,Ollama 的覆盖范围仍表明一种有意义的行为转变。开发者越来越希望拥有一个通用接口,以使用能够脱离单一供应商托管环境运行的模型。
专有模型 API 提供便利性、托管式扩展能力,以及在高难度评测中经常领先的模型。但它们也将模型可用性、请求策略和数据处理置于外部提供商的控制之下。
开放权重模型会公开训练后的参数,供用户下载和运行。它们提供了更灵活的部署方式,尽管其许可证和信息披露方式存在显著差异。
Ollama 将这些可下载的权重转化为便捷的开发者体验。它的价值来自分发和编排,而不是亲自训练前沿模型。
这种定位类似于包管理器或应用运行时。模型创建者围绕智能能力展开竞争,而 Ollama 则试图成为开发者访问这些模型时使用的中间层。
其支持的模型目录中包括来自 DeepSeek、Google、Meta、Mistral、Microsoft、Alibaba 的 Qwen 团队以及其他开发者的模型。其云服务公告重点介绍了 GLM、Nemotron、Kimi 和 MiniMax 模型。
这种广泛支持降低了在不同模型家族之间切换的负担。应用团队可以测试不同选项,而无需为每个提供商重新设计整套本地接口。
这种灵活性从两个方面给专有供应商带来压力。首先,当 API 政策、可用性或产品优先级发生变化时,它为开发者提供了退出路径。
其次,对于不需要最强托管模型的日常任务,它让规模较小的开放模型成为切实可行的选择。分类、提取、摘要、嵌入和私密文档处理通常属于这一类别。
团队可以在受控设备上完成敏感数据的预处理,然后只将难度更高的请求发送到远程基础设施。这种拆分正是混合推理背后的实际承诺。
它也支持团队在选定提供商之前进行实验。开发者可以用更低的配置门槛比较输出质量、延迟、内存占用和运营控制能力。
开放模型仍面临重大限制。大型版本需要大量内存,而消费级硬件的响应速度可能比经过优化的数据中心加速器更慢。
本地部署还会将维护工作转移给用户。团队必须自行管理更新、安全、评估、容量和模型行为,而不能将这些任务交给 API 提供商。
这些劣势保护了托管 API 模式。便利性依然很有价值,尤其是当团队希望获得前沿性能,却不想拥有自己的推理基础设施时。
Ollama 并没有消除这种权衡。它试图让开发者跨越这条边界时受到更少干扰。
如果它取得成功,模型提供商将面对一个可互换性更强的市场。应用程序可以根据每次请求选择本地或托管模型,而不必永久绑定一个后端。
这种转变将把更多话语权转移到运行时和编排层。它也会让兼容性、路由能力和开发者信任变得比独家访问单一模型家族更有价值。
对于企业团队而言,其意义不仅限于模型选择。本地处理可以帮助组织限制内部文档、客户记录或源代码的流转范围。
开发可搜索内部系统的团队可以将本地推理与技术知识库连接起来。该架构仍然需要谨慎的访问控制和评估。
没有任何运行时能够自动让部署满足合规要求。组织仍需对模型许可证、数据保留实践、输出风险以及关联应用程序的安全负责。
因此,它对专有 API 形成的压力是选择性的,而非绝对的。当控制权、可移植性或可预测的基础设施比模型的极致能力更重要时,Ollama 最具说服力。
混合推理是 Ollama 扩张背后的机制
混合推理让 Ollama 能够追求云业务增长,而无需让开发者彻底放弃本地执行。
这一概念结合了两个模型计算位置。规模较小或涉及敏感信息的工作负载留在用户设备上,而规模更大或要求更高的任务则转移到远程加速器。
这种划分听起来很简单,但实现时需要谨慎决策。系统必须确定运行哪个模型、在哪里运行,以及哪些信息会离开本地环境。
编程助理提供了一个具体例子。基础代码补全可以使用小型本地模型,从而将源文件保留在开发者的设备上。
复杂的全代码仓库推理任务可能需要更大的云端模型。此时,应用程序需要能够控制传输哪些上下文,以及如何处理远程数据。
同样的模式也适用于文档分析。本地模型可以先对文件进行分类或移除身份标识信息,再由云端模型处理范围更窄的请求。
与将每个提示词都发送到远程服务相比,这种架构可以改善隐私保护。但它并不保证所有数据都会留在本地。
必须让用户清楚看到这一区别。如果一款以私密本地计算为卖点的产品让云端路由变得难以理解,它可能很快失去用户信任。
Ollama 表示,其云端 token 处理量平均每月增长超过一倍。token 处理量衡量的是模型处理的文本单元,因此它是使用量指标,而不是直接的收入指标。
公司尚未公布基础起点、客户集中度、留存率,或来自免费使用的占比。如果基数很小,快速的百分比增长也可能显得十分亮眼。
不过,云端使用量的增长仍然支持这一产品构想。最初进行本地实验的开发者,最终会遇到超出其硬件能力的模型或工作负载。
Ollama 希望在这一时刻为他们提供服务,而不是把这些用户推向毫不相关的提供商。熟悉的 API 可以让应用程序以更少的代码改动在本地与远程执行之间迁移。
这正是这笔融资在战略上变得重要的地方。云端推理需要加速器算力、调度软件、可观测性、安全控制和区域基础设施。
它也会带来财务风险。Ollama 必须在尚不确定开发者需求能否保持稳定之前,预留或购置计算资源。
专有 AI 提供商以大得多的规模解决着类似问题。它们运营着成熟的负载均衡、缓存、安全控制、计费和容量规划系统。
Ollama 以一种不同的优势加入这场竞争。它已经存在于开发者的设备上,并且可以将本地硬件视为可用计算资源池的一部分。
这一位置为基于隐私、模型大小、延迟和硬件可用性的路由创造了机会。它也让质量保证变得更加复杂,因为本地环境差异很大。
一个在某台笔记本电脑上流畅运行的模型,可能会在另一台内存较少的设备上失败。显卡驱动程序、操作系统、模型格式和量化设置都可能改变使用体验。
量化将模型参数压缩为精度更低的格式,从而减少内存需求,但有时也会影响输出质量。Ollama 隐藏了其中一些复杂性,却无法消除所有硬件限制。
首日支持还带来了另一项挑战。新发布的模型可能包含陌生的架构或能力,需要对整个推理技术栈进行调整。
快速集成不能以牺牲可靠性为代价。一个能够正确下载的模型,仍可能产生异常的工具调用、内存错误或不稳定的性能。
Ollama 的资金可以支持更广泛的测试和更深入的硬件适配。该公司已表示,希望新的开放模型能在发布当天即可使用。
这一目标也有利于模型开发者。新发布的模型可以立即触达 Ollama 所称的开发者网络,而不必要求每位用户自行搭建定制环境。
这种关系可以形成相互促进的循环。更多模型会吸引更多开发者,而更多开发者则会让 Ollama 成为模型创作者更重要的分发渠道。
这种网络效应并非必然形成。竞争性运行时可以采用相同的模型,云平台也可以在模型发布后不久提供经过优化的部署。
因此,Ollama 必须让从本地到云端的路径切实变得更容易。仅靠模型目录无法形成持久的差异化优势。
其战略最理想的形态类似于一个连续统一的开发环境。开发者选择模型和策略,运行时则负责在可用硬件之间处理执行任务。
最不理想的形态则是一个附加在热门本地工具上的普通云模型网关。这样的结果会让 Ollama 直接面对规模更大的基础设施提供商的竞争。
B 轮融资为实现更理想的形态提供资金。混合推理则是决定这一尝试能否成功的机制。
所有权与隐私面临云端现实的检验
Ollama 最艰巨的任务,是证明云端扩张仍能让用户对模型、数据和部署选择保持清晰易懂的控制。
该公司通过所有权、可负担性和隐私来阐述其理念。本地推理支持其中每一项原则,因为用户持有模型文件,并控制执行计算的设备。
云端执行改变了这些条件。提供商管理硬件、能够看到运营元数据,并且可能接收提示词或上下文信息。
Ollama 表示,开发者应当能够使用能力强大的模型,同时不放弃所有权或隐私。这是一项目标,而非经过独立验证的成果。
最终的架构需要清晰的路由控制。用户应当知道某个请求是留在本地、转移到远程,还是同时使用两个位置。
团队还需要易于理解的数据保留、日志记录、训练用途、加密、删除和管理访问策略。这些细节决定了混合推理能否适用于敏感环境。
所公布的 Fortune 500 企业使用情况提高了利害关系。政府、医疗和金融机构在批准 AI 系统之前,通常要求的不仅仅是本地执行。
它们会评估身份控制、审计记录、软件依赖项、事件响应、数据驻留和供应商风险。Ollama 面向消费者的简洁易用无法替代这些要求。
模型许可带来了另一重复杂性。Ollama 提供来自多个组织的模型,但这些模型对“开放”并没有统一的法律定义。
有些发布版本提供可下载的权重,却不公开训练数据或重要的训练代码。另一些则通过定制许可证施加使用限制。
开放源代码促进会的 AI 定义 要求用户拥有使用、研究、修改和分享 AI 系统的自由。它还要求能够访问相关代码、参数和详细的数据信息。
按照这一标准,只有开放权重并不一定意味着某个模型属于开源 AI。Ollama 通常使用范围更广的“开放模型”这一说法,从而涵盖多种许可方式。
开发者仍需审查每个模型的条款。运行时无法授予原始模型开发者未曾提供的权利。
随着 Ollama 成为商业分发层,这一问题会变得更加重要。企业买家会期待获得关于允许用途、再分发、修改和责任的一致信息。
安全性则构成另一项独立风险。可下载的模型制品和社区集成可能会扩大团队必须审查的软件供应链。
本地运行可以限制某些数据暴露,但并不会让不受信任的代码或文件自动变得安全。组织需要经过验证的来源、漏洞管理和受控的更新流程。
模型行为同样仍存在不确定性。本地部署让用户能够控制执行,却不会自动带来准确性或安全性。
较小的本地模型可能会产生幻觉、错误处理工具指令或生成存在漏洞的代码。较大的云端模型即使基准测试表现更强,也可能犯类似的错误。
团队必须针对自身任务评估模型。他们应测试准确性、拒答行为、提示词注入抵抗能力、延迟和资源消耗。
Ollama 可以通过标准化访问方式让这些评估更容易进行。但它无法决定每个组织应当接受怎样的风险水平。
该公司的采用数据同样需要谨慎看待。85% 的 Fortune 500 企业使用 Ollama,听起来像是获得了广泛的企业认可。
在没有公开统计方法的情况下,这一数字无法说明部署规模或是否获得管理层批准。它不应被解读为 85% 的企业正在将其 AI 基础设施统一到 Ollama 上。
890 万开发者这一数字同样缺少公开的活跃度定义。下载量、安装量、月活跃用户数和独立开发者数量衡量的是不同形式的采用情况。
这些信息缺口并不会否定该公司的增长。它们只是限制了读者能从这些醒目数字中得出的结论。
更有力的证明将是本地与云端环境中持续的生产使用情况。留存率可以表明开发者在初步的模型实验之后是否会继续使用。
云端 token 增长提供了一个信号,但该公司只披露了平均每月增长倍数。绝对使用量和工作负载构成仍未公开。
Ollama 还面临商业定位上的难题。它的本地软件吸引的是希望减少对托管供应商依赖的用户。
建设云基础设施意味着要求这些用户转而信任 Ollama 充当托管中介。该公司必须赢得这种信任,同时不能让本地功能显得退居次要地位。
开发者会密切关注产品的默认设置。在没有明确控制的情况下自动进行云端路由,将削弱其所有权叙事。
透明的自主选择机制则会强化这一叙事。如果架构能让本地执行继续保持实用价值,而不把它当作引导用户进行远程消费的入口,也会起到同样作用。
融资并不能解决这一矛盾。它只是为 Ollama 提供了应对这一问题所需的资源,同时也赋予了它相应的责任。
三个信号将表明这场押注能否成功
模型发布支持速度、混合控制能力和持久的云端使用量,将决定 Ollama 是成为基础设施层,还是继续停留在热门本地工具的定位上。
第一个信号是对重要模型发布的首日支持。Ollama 已明确将这一能力列为其融资计划的一部分。
快速上线将巩固其在模型实验室与应用开发者之间的地位。反复延迟则表明,多样化的模型生态系统正变得过于复杂,单一运行时已难以快速实现统一适配。
仅有速度还不够。开发者应关注即时上线的版本能否在各种操作系统和常见硬件上保持稳定。
真正有意义的衡量标准不是模型出现在目录中的速度,而是团队能多快使用其关键能力,同时不遭遇集成故障或意外的资源问题。
第二个信号是混合推理控制的设计。Ollama 需要明确展示开发者如何选择本地执行和云端执行。
清晰的按模型或按请求策略,将强化其所有权主张。管理控制功能则会让这一主张对企业团队更具可信度。
开发者还应审视默认行为。明确选择使用云端,与仅根据性能自动进行路由,代表着不同的隐私立场。
文档应说明哪些内容会通过网络传输,哪些内容会保留在设备上。缺乏这种透明度,混合推理就很难用于评估敏感工作。
第三个信号是持久的云端采用情况。Ollama 表示,云端 token 用量平均每月增长超过一倍,但百分比增长无法回答所有商业问题。
未来披露的信息应说明开发者是否持续回访、扩大使用量,并将生产工作负载迁移到该平台。这些模式将表明,本地分发能否转化为可持续的托管服务。
增长放缓或留存率较低将削弱这一构想。这意味着开发者认可 Ollama 的实验用途,却会在应用进入生产阶段时选择其他基础设施。
竞争对手的应对措施也将提供辅助证据。专有模型供应商可以改善隐私承诺、降低切换阻力,或通过自身平台支持更多开放模型。
其他本地运行时也可以增加云端路由。Ollama 并不独占混合推理这一理念,而且开发者往往会使用多种推理工具。
它的优势在于其声称拥有的分发规模和易于识别的工作流。B 轮融资为它提供了将这一优势转化为基础设施的时间。
因此,Ollama 获得 8800 万美元融资这一里程碑标志着一次转型,而非胜利。该公司正从简化本地模型执行,转向协调开放模型工作负载的运行位置。
这一转型可以扩展开发者的选择空间,也可能重新制造本地 AI 原本意在减少的托管依赖。
结果取决于产品细节,而非融资新闻本身。随着平台扩张,开发者应测试路由控制、许可信息、模型兼容性和实际工作负载性能。
对于正在评估 Ollama 的团队而言,眼下要做的事情很直接:确定哪些任务确实需要远程算力,以及哪些任务可以继续在受控硬件上运行。
然后,使用相同的应用工作负载衡量这两条路径。跟踪数据流动、输出质量、延迟、资源使用情况和运维成本。
只有当这种比较始终对用户可见时,Ollama 的承诺才真正有意义。如果混合推理保留了真正的选择权,该公司就能将本地所有权与更大的模型连接起来。
如果云端成为默认目的地,那么它与现有 AI 平台之间的差异就会缩小。接下来的几次产品发布将揭示 Ollama 选择了哪个方向。



