top of page

Nvidia 支持 Simplismart,AI 买家寻求以更少 GPU 完成工作负载

16小时前
讀畢需時 12 分鐘

Nvidia 支持印度初创公司 Simplismart,后者承诺帮助企业以更少的 GPU 运行 AI 工作负载;与此同时,Simplismart 报告其营收增长了 14 倍。这笔投资将芯片供应商与旨在从其硬件中榨取更多有效工作量的软件联系起来。它也凸显了买家应明确区分的一点:单个应用效率提升,并不等于整体芯片需求会下降。

Simplismart 于 10 月 27 日宣布完成 B 轮融资,并称 Dallas Venture Capital 为领投方。Nvidia、Accel、Shastra VC 和 Micromax 也参与了投资。该公司表示,其年化营收运行率在六个月内增长了 14 倍。这一增长伴随着其推理软件业务的发展;推理是指运行已训练 AI 模型以生成输出的过程。

竞争参照已经很明显。Nvidia 提供自己的推理框架 Dynamo,而 Amazon Web Services 则通过 SageMaker AI 提供推理优化。因此,Simplismart 的竞争重点在于能否将可用算力高效转化为可靠的应用性能。其机会取决于客户是否需要硬件访问权限和单项优化工具之外的更多帮助。

Nvidia 支持 Simplismart,着眼于模型与硬件之间的工作

这笔投资支持的是一家软件企业,其价值取决于能否让已部署的 AI 应用具备经济性和可靠性。

Simplismart 的 B 轮融资公告介绍,该公司为应用企业和云服务提供商提供服务,并列出了 HeyGen、Higgsfield、InVideo、Shiprocket、Apna 和 Ema 等生产环境客户。该公司表示,它围绕第三方 GPU 集群构建软件,而非自行拥有 GPU 集群。

这种定位为这一故事划定了重要边界。Simplismart 销售的是高效运营计算资源的能力。其商业主张取决于客户是否足够看重这类软件,并愿意在底层基础设施之外为此付费。

对于应用企业而言,采购决策始于产品需求。视频服务需要在可接受的等待时间内完成生成任务。语音应用需要提供能够维持自然对话的响应。内部业务工具则需要在工作时间内提供可靠服务。

这些需求并不会对应完全相同的硬件配置。围绕稳定需求设计的系统,与承受突发流量的系统面临不同压力。处理计划任务的客户,与直接响应用户请求的客户也有不同选择。

这正是“更少 GPU”的承诺变得有意义的地方。比较需要固定的工作负载和可接受的服务标准。缺少这些边界条件时,较低的硬件数量几乎无法说明客户是否获得了等价结果。

应用可以因软件运行效率更高而消耗更少算力。它也可能因处理的请求更少、接受更长等待时间,或更换模型而减少算力消耗。这些结果带来的商业影响并不相同。

因此,这笔投资值得被视为对运营专业能力的押注。Simplismart 必须将一系列技术决策转化为客户可以依赖的服务。买家则需要确保由此带来的经济效益能经受住正常的生产环境变化。

该公司的方法也创造了分发机会。云服务提供商可以利用另一家企业提供的软件推出托管服务。在这种安排中,基础设施所有者和应用客户不一定都需要自行构建完整的运营层。

拥有可用 GPU 与拥有可直接使用该 GPU 的应用之间,存在现实差异。容量必须匹配模型、流量和客户的部署限制。资源即使存在,也未必能在需求到来时发挥作用。

这一差异解释了这笔投资的意义,同时无需假定芯片需求会发生剧烈转变。软件可以提升已安装硬件的实用性。但这最终是否会改变采购行为,取决于客户如何使用释放出来的容量。

营收激增指向要求严苛的美国客户

Simplismart 报告的增长表明存在商业活动,但相关衡量方式需要谨慎解读。

根据 营收报道,其运行率反映近期使用情况,不包括基础设施转售收入,也不同于签约的经常性收入。

这一差异对于服务于不断变化 AI 工作负载的企业至关重要。将当前使用量年化,描述的是特定时点的业务节奏,并不能保证客户会在全年持续保持同等使用量。

客户可能会在产品发布期间增加活动,随后进入不同的使用模式。另一位客户可能在不同服务商之间迁移工作负载,或更换模型。增长中的按使用量计费业务,仍需要证明客户会持续回归并长期扩大使用规模。

在另一场涉及 美国营收增长的采访中,CEO Amritanshu Jain 告诉 Moneycontrol,美国约贡献了 55% 的营收。他表示,Simplismart 在印度拥有更多客户账户。该出版物还报道了他关于公司今年营收增长 10 倍的说法。

报告中的增长数字采用不同周期,应当分开看待。六个月数字衡量的是一个时间段,按年计算的表述衡量的是另一个时间段。将二者结合会造成它们属于单一、可直接比较指标的误导性印象。

地域分布对理解商业优先事项更有帮助。客户数量和客户支出衡量的是不同事物。账户更少的市场,可能因这些账户运行更大规模的工作负载而贡献更多收入。

对 Simplismart 而言,美国扩张意味着必须持续服务要求严苛的用户。赢得一个客户账户会带来机会;要保住其工作负载,则需要在其应用变化时仍提供可靠运营、支持和性能。

压力落在多个群体身上。应用团队需要根据实际产品使用情况证明基础设施支出的合理性。云服务提供商需要确保其容量能够支持客户需要的服务。软件供应商则需要证明,在初始部署之后其贡献依然具有价值。

营收增长本身无法回答这些问题。买家需要了解,支出增加是来自更多客户、更大的工作负载,还是暂时性的需求激增。每一种解释都意味着不同程度的可预测性。

这并不意味着按使用量计费的收入不够正当,而是意味着其解读具有特定条件。围绕活跃工作负载收费的企业可以随客户采用而增长,同时也会在这些工作负载收缩时经历变化。

因此,这笔投资背后的商业信号令人鼓舞,但存在边界。客户似乎愿意购买 AI 基础设施运营支持。重复使用和持续扩张的证据,将进一步说明这种意愿能否持久。

对于企业买家而言,相关问题同样具体:在首次配置完成后,供应商是否仍能持续交付价值?有说服力的初始结果,需要一段持续证明自身价值的运营合作关系。

Simplismart GPU 效率取决于工作负载

当性能提升能够在真实需求下维持应用所需体验时,它才具备商业价值。

Simplismart 发布的 InVideo 服务案例声称,服务和 GPU 成本降低了 56%。其标题还声称视频生成速度更快。这些是供应商针对特定客户发布的结果,而不是涵盖所有部署场景的独立基准测试。

该案例为评估 Simplismart GPU 效率提供了具体场景。视频生成有一个可见的完成节点:用户收到可用结果。客户可以根据这一结果及其消耗的资源来评估基础设施。

百分比降幅仍需结合背景理解。买家需要了解起始配置和所完成的工作,也需要知道比较涵盖了哪些费用,以及输出是否满足相同的质量要求。

配置不佳的基线可能留下相当大的优化空间。经过精细调优的系统则构成不同挑战。两种比较都可能准确,却支持对另一位客户预期收益的不同结论。

同样的谨慎也适用于速度。延迟,即请求获得响应所需的时间,衡量的是服务质量的一部分。吞吐量,即一段时间内完成的工作量,衡量的是另一部分。提升其中一项,并不能自动证明每位用户都会获得更好的体验。

例如,一个系统可以整体处理更多请求,但单个请求的等待时间可能更长。这或许适合计划性工作,却可能令在交互式应用中等待的用户感到沮丧。可接受的平衡取决于产品需求。

从这一视角理解 Simplismart 推理,本质上是让资源匹配服务义务的问题。技术配置之所以重要,是因为它决定应用能否保持实用性。孤立的速度纪录,只有在服务于这一义务时才具有意义。

需求变化进一步增加了比较的复杂性。在稳定流量下表现良好的配置,还需要在突发流量下接受检验。客户也需要了解,当流量下降而资源闲置时,服务会如何运作。

保留的备用容量有其用途:它能在需求增加时保障可用性。但它也会产生运营成本。减少这部分储备可以提高利用率——即可用容量中实际完成有效工作的比例——但也会减少应对意外需求的余地。

这带来了持续的管理难题。供应商必须在适应变化的同时,避免资源节省损害服务质量。客户应当预期,商业价值来自持续不断的运营决策,而不只是一次初始调优。

因此,应在应用的正常运营范围内评估 Simplismart GPU 效率。在便利时段测得的结果,无法证明其在每种流量模式下的表现。最有力的证据将展示其在不断变化条件下的一致收益。

InVideo 案例让这一主张变得具体。它为买家提供了一个可供调查的客户案例。但它并未给出普遍适用的节省估计,而融资公告也没有将这一估计转化为保证。

Nvidia 和 AWS 已在优化层展开竞争

Simplismart 进入了一个大型基础设施供应商已提供推理经济性优化工具的市场。

Nvidia 将 Dynamo inference 描述为一个开源框架,用于在分布式系统中提供生成式 AI 服务。其能力包括资源调度、请求路由、内存管理和数据传输。这些功能解决的是计算资源如何协同为应用提供服务的问题。

AWS 通过自动化建议和手动选择的技术,对 SageMaker inference optimization 进行了说明。其建议会评估模型和工作负载,并返回附带性能测量结果的配置方案。这为客户提供了另一条将基础设施与应用需求相匹配的路径。

这些方案构成了较高的竞争基线。Simplismart 不能仅仅依赖“推理需要优化”这一普遍判断。买家已经可以使用解决这一问题的工具。他们需要一个购买额外运营层的理由。

软件提供商可以通过对最终服务承担更多责任来参与竞争。这包括帮助客户管理配置、部署变更和日常性能。其价值取决于客户能够避免在内部完成多少有用工作。

不过,这一主张需要证据支持。拥有经验丰富基础设施团队的客户,可以评估外部提供商是否带来了足够价值。另一类客户则可能认为,内部维持所需专业能力会分散其构建应用的精力。

两种选择并非天然孰优孰劣。比较结果取决于工作负载、组织情况,以及服务所包含的责任范围。公平的评估需要同时考虑系统的运维人员和其消耗的计算资源。

Nvidia 的参与增加了另一个维度。基础设施供应商可以支持一家与其硬件形成互补的公司,同时也在重叠领域提供软件。投资与产品竞争可以共存于同一商业关系中。

这种关系不应被解读为技术优越性的保证。投资者的参与意味着财务支持。客户仍需根据自身需求和可信替代方案评估产品。

这种重叠也给 Simplismart 提出了一个战略问题。随着底层工具不断改进,公司需要展示自身贡献为何仍具差异化。如今有价值的集成方案,也需要随着模型、硬件和运营软件的变化而持续维护。

对买家而言,这更有利于基于已完成工作负载和运营责任进行比较。功能清单可能无法反映仍由客户承担多少工作。基准测试也可能忽略部署后维持配置健康运行的负担。

将 Simplismart 的推理能力解释为一种运营服务,能够让竞争讨论有更清晰的焦点。客户购买的是由软件和专业能力支撑的结果。其替代方案包括内部工作,以及基础设施供应商已提供的服务。

这种框架也保留了文章的核心张力。竞争关乎如何从可用容量中获得有用性能。品牌知名度、投资者关系和醒目的基准测试提供背景,而客户的实际运营结果决定购买选择。

每个应用使用更少 GPU 并不能决定总需求

效率提升会改变工作负载的经济性;其对硬件总需求的影响取决于客户后续的行为。

当 Nvidia 投资 Simplismart 时,表面上的矛盾源于一个狭隘假设:AI 工作量固定不变。在这一假设下,以更少资源完成同样工作,确实可以减少该工作负载所需的容量。

当工作负载的运行成本下降后,客户还有其他选择。他们可以维持相同产出并节省资源,也可以服务更多用户、改进应用,或推出此前被认为成本过高的功能。

这些可能性是经济情景,而不是这项投资已确立的结果。该公告没有衡量客户如何分配释放出来的容量,也没有证明效率提升是否会超过应用使用量的增长。

这一区别很重要,因为个体需求与总体需求回答的是不同问题。应用团队评估的是交付其产品所需的资源。硬件供应商面对的则是跨越许多应用、组织和部署决策的需求。

买家可能为现有任务需要更少 GPU,同时在其他地方增加整体计算需求。另一位买家也可能减少其总需求。两种结果都符合某项特定工作负载变得更高效这一说法。

同样的推理也适用于云服务商。更高的利用率可以帮助它们利用已安装容量满足现有需求。如果这提升了其服务的吸引力,它们便可以争取更多客户。是否会随之扩张,取决于实际需求。

乐观情形也存在局限。较低的运营成本本身并不能创造有价值的产品。应用仍需要重视其产出的用户。高效基础设施无法挽救每一个薄弱的产品主张。

节省成本的情形同样有其局限。计算消耗的减少,并不会自动带来总运营支出的等额下降。软件费用、迁移工作和持续支持,都应纳入商业评估。

这就是为什么总拥有成本——即运营一个系统的全部开支——与硬件使用情况同样重要。客户需要核算其获得的服务和仍需自行承担的工作。仅衡量 GPU 会让这一决策的一部分仍没有答案。

因此,对 Nvidia 投资最清晰的解读,比任何一种戏剧化标题都更狭窄。它支持一家试图让 AI 工作负载更易于运营的公司。这一目标可以与硬件有用需求的扩大相一致。

仍不确定的是这种一致性的规模。现有证据无法证明其对全市场需求的影响。客户采用情况和持续的工作负载增长,将为评估提供更好的基础。

即使更广泛的结果尚未明朗,对买家的影响也很直接。他们现在就可以在应用层面评估效率。要决定一项部署在财务上是否合理,并不需要预测整个芯片市场。

关注客户证据、重复使用和云端采用情况

接下来的证据应将技术节省与持久的客户价值联系起来。

首个值得关注的信号,是更详细的客户验证。有效披露应说明模型、硬件、工作负载、比较周期和服务要求。客户确认将增强人们对报告改进反映常规生产条件的信心。

这些证据不应只覆盖有利的平均值。买家需要了解延迟请求、失败任务,以及需求变化期间的表现。在这些条件下保持一致的结果,将加强其具备运营优势的论点。

没有更多公开基准测试,并不能证明该软件失效。企业部署可能涉及机密信息。但这会使外部观察者缺少将个别客户主张推广至整个市场的证据。

第二个信号是重复使用。已报告的营收加速为观察者提供了起点,而未来披露可以显示客户是否持续投入。现有用户的持续扩张将支持 Simplismart 提供持续价值的论点。

更清晰的客户活动拆分也会有所帮助。增长分布在不同客户和工作负载之间,与增长集中于少数应用,具有不同含义。没有这种拆分,营收势头的持续性仍有部分悬而未决。

第三个信号是云服务商的采用。Simplismart 表示,Yotta 在 Shakti Studio 的无服务器推理层中使用其技术。无服务器意味着客户无需直接管理底层服务器,即可请求计算服务。

更多部署将有助于检验该模式能否在不同基础设施合作伙伴间复制。重要证据将涉及正在运行的服务和客户工作负载。单靠合作公告,对软件实际被广泛使用的情况提供的洞见较少。

云端采用也考验一种涉及多方参与者的运营关系。基础设施所有者、软件供应商和应用客户需要明确责任。当某些环节发生变化或故障时,可靠性取决于这些责任能否协调一致。

未来几个月值得关注这些信号,但不应将该时间段视为承诺的披露时间表。这里并未确定新增基准测试或营收披露的日期。观察者应在证据出现时再进行评估。

对于工程团队,请将评估与自己的应用绑定。使用一致的工作负载,比较已完成工作、响应时间、运营投入和部署限制。将结果保存在一个可搜索的知识库中,以便后续模型变化仍可比较。当 Nvidia 投资 Simplismart 时,有用的问题是这项支持能让客户在哪些方面更高效地运营。要求提供与你的流量和服务要求相匹配的证据。然后检验这种收益是否能经受正常生产变化的考验。这样能让采购决策建立在比融资公告或“需要更少 GPU”这类普遍主张更坚实的基础上。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page