SageMaker 按使用量计费为 AWS Marketplace 带来实时语音计量
Amazon 于 11 月 11 日推出适用于双向流式传输的 SageMaker 按使用量计费,使软件费用可随实时使用量变化,而基础设施费用仍将持续产生。双向流式传输允许应用程序同时发送输入并接收模型输出。Deepgram 是首发合作伙伴,将语音转文本和文本转语音的计费纳入 AWS Marketplace 的服务体系。
这一变化解决了持续对话与以已完成请求为基础的计费方式之间的不匹配。语音会话一旦开始,处理工作便会不断累积。服务提供商需要在客户仍在交谈时衡量这些工作,而不是预先确定其全部商业价值。
这使按消费计费的软件费用与维持模型可用的现有成本并存。关键区别在于,为软件可用性付费与为实际计量的工作付费之间的差异。对于开发者和企业买家而言,这项公告提供了更灵活的采购选项,同时也让“使用量”的定义变得更加重要。
SageMaker 按使用量计费为流式传输带来了哪些变化
AWS 新增了一种在实时会话期间报告软件使用量的方式,而非将会话开启视为最终计费节点。
根据流式计量公告,服务提供商可通过与推理并行的配套连接发送使用量数据;推理即运行模型的过程。AWS Marketplace 根据上报的使用量计算服务提供商的软件费用。客户仍需为 SageMaker 端点付费,即承载该模型的已部署服务。
这一区别决定了买家应如何理解这一标题。软件计量器可以使收费更贴近实际活动,但不会改变预留计算容量的经济性。评估此项发布的组织需要同时审视这两类费用。
该公告也承接了此前的一项技术发布。Amazon 于 2025 年 11 月 25 日推出双向流式传输,支持应用程序与模型之间持续交换数据。那项发布解决了对话如何经由 SageMaker 传输;此次公告则解决了服务提供商如何为对话期间完成的工作收费。
将这两个里程碑区分开来,有助于说明其商业相关性。支持一项技术工作负载与支持其偏好的商业模式,是不同的要求。服务提供商可能已有可运行的流式服务,却尚未具备适合在市场中销售其使用量的机制。
Deepgram 提供了首个商业案例。语音转文本将口语音频转换为书面文本,而文本转语音则根据文本生成语音。两者都适用于需求会在整个对话中逐步形成、而非以完整且可预测任务形式出现的应用场景。
对客户而言,直接变化涉及采购与核算。AWS 表示,该安排支持通过 AWS Marketplace 进行统一计费。这对已通过 AWS 采购软件的组织很有帮助,但单凭一张账单无法说明每个计量单位是否都符合应用程序的预期。
对服务提供商而言,这一变化创造了封装既有能力的另一种方式。服务不必再以软件可用性作为主要计费依据,而是可将收费与定义明确的使用量挂钩。所得产品仍需具备清晰条款、可靠计量,以及买家能够理解的部署经济性。
因此,这项公告值得被准确解读。SageMaker 按使用量计费扩展了围绕流式模型的商业机制。其实际价值取决于服务提供商如何定义工作量,以及客户的工作负载如何使用底层基础设施。
压力转向由服务提供商定义可计费单位
按消费计费使单位定义成为产品的一部分,而不再是财务部门可在部署后解决的细节。
AWS Marketplace 的机器学习定价文档将服务提供商的软件费用与买家在自身 AWS 账户中产生的基础设施成本区分开来。文档还允许服务提供商定义推理单位代表什么。例如,转录可按音频时长计量,语音生成可按字符数量计量。
这种灵活性立即对服务提供商提出要求:必须用客户能够与其应用关联起来的语言解释计费单位。如果买家无法预测其活动将如何转化为数量,仅有技术字段名称是不够的。
对于语音产品,连接时长、提交的音频、识别出的语音和生成的输出,描述的是工作负载的不同方面。买家应确认哪一种衡量标准适用于其所购服务。他们还应询问该定义如何处理静音、中断、重复内容和处理失败的情况。
这些是合同问题,并非对 Deepgram 实现方式的指控。核心在于,在卖方定义之前,使用量并不具有有意义的商业含义。客户不应仅根据“按使用量计费”这一表述推断音频计数政策。
设想一个假设的客户支持应用:员工回应来电者的同时,应用会转录来电内容。其产品团队通过有用的转录结果和及时响应的支持服务来衡量服务质量;其财务团队则需将这些结果与账单上显示的使用量关联起来。
服务提供商的计数规则决定了这些团队能否协调各自的视角。如果运营仪表板追踪的是一种数量,而服务报价按另一种数量收费,预算工作就会更加困难。清晰的文档能让工程与财务团队基于共同基础理解需求。
同样的压力也适用于服务提供商如何描述其报价。熟悉的计量单位可以让评估更容易,但熟悉并不代表公平。该单位应对应于买家能够在自身工作流程中独立衡量和验证的事物。
对于企业采购而言,这一变化为谈判增加了新的维度。买家可将单位定义与支持承诺、部署要求和合同条款一并评估。有吸引力的商业安排仍需在活动与费用之间建立可理解的关系。
这正是以通俗语言解释 SageMaker 流式计费比泛泛承诺灵活性更有价值之处。买家需要明确了解哪些内容会被计数。能清晰说明这种关系的服务提供商,会比依赖笼统消费表述的卖方更容易评估。
对于任何采用这一机制的服务提供商而言,压力是即时存在的。其工程团队必须产生能够支持商业承诺的计量数据;其销售团队则必须描述这些承诺,且不能暗示软件计量器控制了客户的全部部署费用。
配套计量器改变了商业机制
该机制将承载模型活动的数据流,与报告应计费用量的数据流分离开来。
AWS 的推理计量合同描述了一种配套 WebSocket,即用于交换消息的持久连接。服务提供商通过它上报增量使用量。每条记录描述的是新消耗的单位,而非累计总量,并使用必需的 inference.count 计费维度。
文档将每条连接上的上报限制为每秒一条记录。它还描述了用于幂等性的可选令牌,可防止同一条记录在同一连接中被重复计数。AWS 建议随着使用量累积进行上报,并测试由此产生的费用。
这些细节说明,为何该功能属于模型服务器运营设计的一部分。应用程序的对话与服务提供商的核算现在同步推进。当正常执行出现中断或波动时,两者之间的关系必须仍然清晰可理解。
增量上报很重要,因为实时会话并没有保证会以有序的方式结束。客户可能断开连接,进程可能失败,网络路径也可能消失。等待到会话结束才进行上报,会将核算责任集中在最容易受到中断影响的时刻。
沿途上报能够减少这种集中性。它让服务提供商获得一系列观察结果,而非单一的最终估算。这并不能独立证明计费准确性,但为衡量随时间发展而形成的工作量提供了更适当的结构。
增量与总量之间的区别也会带来商业后果。服务提供商必须一致地实现记录的含义。在接收方期待新增使用量时发送累计数值,将破坏计量活动与最终费用之间的关系。
对于买家而言,有用的问题是卖方能否在真实条件下证明这种关系。一次成功的转录证明模型可以处理语音,但其本身并不能证明核算路径会产生预期的账单。
这也是 SageMaker 流式定价比较不能仅列出计费单位的原因。竞争服务可能使用相似的商业语言,却将不同责任分配给客户和服务提供商。评估应包括使用量如何变得可观察,以及争议如何调查。
该机制支持一种更广泛的商业解读:市场分发需要与所售服务相匹配的核算方式。当计费接口假设的是短暂交易时,持续交互在商业上会显得不协调。配套计量器解决了这种不匹配,而无需将对话本身变成一系列独立购买。
对于流式模型服务提供商而言,这是一项有意义的补充。它为持续会话中的使用量提供了受支持的上报路径。剩余工作在于让该路径足够可靠,使买家能够信任其商业后果。
Deepgram 为买家提供了可供评估的具体服务
Deepgram 让这项公告变得具体,但其首发角色并不能证明其具备比较优势或普遍节省成本。
Nova-3 流式服务列表将 Deepgram 标识为卖方,并提供 SageMaker 模型交付选项。页面描述了实时转录、语音应用和 AWS 集成。这些是服务提供商对其报价的描述,而非证明每次部署都将满足买家要求的独立证据。
对于潜在客户而言,该列表提供了比抽象计费功能更有用的内容:一项可针对实际工作负载进行审查的服务。采购团队可以审阅条款,工程团队则可评估模型包和部署方案。两类评估都不可或缺。
Deepgram 的定位也说明,基础设施控制与按使用量计费可以并存。企业可能希望模型部署在自己的 AWS 环境中,同时更倾向于让软件费用与实际活动挂钩。这些偏好涉及采购决策中的不同环节。
Microsoft 提供了一个相关对照。其语音容器文档介绍了在客户环境中运行、并向 Azure 传递计费信息的语音服务。对于断开连接的环境,则适用单独的安排。这一对照表明,本地执行与提供商计量已在其他语音基础设施中并存。
该文档并不能证明 Microsoft 与 Deepgram 提供等同的架构、条款或运行行为。它只提供了一个更有限的参考:模型执行的位置不一定决定软件使用量如何被报告。
对于企业买家而言,这改变了评估问题。询问一项服务是“托管”还是“自主管理”,可能会掩盖多项彼此独立的决策。买家还需要了解谁提供容量、谁定义使用量、谁负责报告,以及谁处理计费差异。
一个假设的实时字幕部署案例能使这些区别更直观。组织需要在活动期间及时提供清晰易读的字幕,同时也需要明确了解被收费的软件活动,以及支撑预期需求所需的容量。
成功的计费无法弥补糟糕的转录质量。出色的识别能力也无法弥补不明确的商业协议。买家应结合评估这些维度,同时分别审视每项证据。
Deepgram 作为首发合作方,需要通过 AWS Marketplace 证明这种组合可行。若其他提供商采用类似安排,买家将拥有更多可供比较的案例。在此之前,首发合作关系证明的是一条可用路径,而非已确立的市场标准。
因此,其竞争层面的影响是具体的。提供流式模型的卖家面临更明确的预期:在说明部署方式的同时解释使用量。买家则获得了另一种采购选择,同时仍需自行比较完整的运营安排。
软件计量并未解决容量与可靠性问题
更精确的软件收费并不保证总账单更低,也不会消除运营层面的取舍。
第一个不确定性在于经济性。改变软件收费的触发条件,只会改变部署计算中的一部分。买家仍需了解其应用需要多少容量,以及需求对这些容量的利用效率。
活动量不均衡的工作负载说明了这一问题。与使用量挂钩的软件费用可以随工作量变化,而支撑就绪状态的基础设施则遵循自身的运行模式。这两种模式之间的关系决定了完整的财务结果。
这使利用率——可用容量中用于完成有效工作的比例——成为评估核心。预期只有偶发对话的买家,应与服务持续流量的组织采用不同的需求模型。若不考虑具体报价与部署方式,任何一种模式都不能证明一定节省成本。
第二个不确定性涉及故障行为。AWS 描述了一种配置选择:当计量连接不可用时,推理仍可继续。提供商也可以要求该连接始终存在,从而在连接失败时停止推理。
这一选择直接暴露了服务连续性与计费连续性之间的张力。为保护计量活动能力的提供商,可能会中断面向客户的任务。为保护可用性的提供商,则可能面临已报告使用量出现缺口的情况。
对于每种应用而言,这两种选择都不必然正确。实时客服对话与不紧急的内部转录任务在中断时的后果不同。买家不应将流式可用性视为完整的服务承诺,而应先了解提供商的政策。
这里分析的是文档所述的权衡,并非声称 Deepgram 存在某种特定故障率。该公告未提供足以量化该风险的独立运营证据。买家需要开展面向具体部署的验证,而非假定相关配置可以消除风险。
第三个不确定性涉及对账,即比较运营记录与计费用量的过程。模型服务器的活动记录与客户账单服务于不同目的。要确认两者一致,所需证据不只是证明一条消息已离开服务器。
对于部署这些产品的组织而言,合理的验收流程应将已知工作负载与预期软件使用量关联起来。它还应检查中断情况并解释差异。这样才能将一项计费主张转化为买家可评估的内容。
内部协同同样重要。工程、采购与财务团队应基于同一套文档化假设开展工作。维护可搜索知识库的团队,可以将报价定义、评估结果和运营决策集中保存,供后续审查。
谨慎的结论有限但重要。该公告证明了一种报告能力和一个首发合作伙伴。它并未证明普遍的成本降低、独立的性能优势,或所有流式产品具有相同的计费行为。
因此,一项有用的 SageMaker 流式定价比较应询问:对于特定买家而言,究竟改善了什么。让软件费用与活动更加匹配是可信的目标;它是否能带来更理想的整体安排,仍取决于工作负载和合同。
买家应在未来三个月关注什么
最有力的证据将来自更清晰的报价、已完成对账的计费,以及纳入基础设施因素的部署结果。
第一个信号是,是否有更多提供商发布对使用量作出明确且易于理解定义的流式报价。这将加强该机制可支撑更广泛市场类别的判断。若持续依赖模糊的单位描述,其对买家的实用性将会减弱。
需要关注的不只是公告数量。买家应寻找能够将技术测量与日常应用活动关联起来的条款。当计数规则能在谈判开始前回答实际问题时,一项报价就更容易比较。
提供商多样性也会创造更有意义的比较。不同的语音工作负载可能重视不同的输出,买家需要理解这些差异。伴随清晰定义的采用,比仅伴随按使用量营销的采用更具说服力。
第二个信号是,已知工作负载与最终账单之间存在经记录的对应关系。案例应说明处理了什么、报价将什么定义为使用量,以及最终费用如何得到验证。除成功完成的任务外,中断的会话也值得关注。
这类证据将增强人们对报告路径的信心。即使模型本身表现良好,无法解释的差异也会削弱这种信心。买家应将会计问题与模型质量问题区分开来,以便由正确的一方处理。
相较于又一张架构图,通过运营证据解释 SageMaker 流式计费在这里更有价值。对路径的描述展示的是意图;经过对账的工作负载则展示了这种意图能否经受客户预期会遇到的条件考验。
第三个信号是,同时纳入容量与软件使用量的部署证据。买家应寻找描述工作负载形态、运营要求以及满足这些要求所需基础设施的结果。这些细节能让商业比较与实际应用相关联。
有利的整体经济性证据将加强采购理由。若结果仅限于软件组件,核心的预算问题仍未解决。这个区别很重要,因为一项有用的计费改进可以存在,却未必为每位客户带来相同结果。
这些信号应引导评估,而不应被视为对必然采用的预测。该公告提供的是一种机制,而不是对提供商参与度或买家节省金额的预测。随着报价和运营证据不断积累,其商业重要性将愈发清晰。
对于开发者而言,眼前的机会是以能够追踪持续活动的采购模式评估流式软件。对于企业买家而言,眼前的责任是坚持要求清晰定义和完整的部署假设。当报价描述的工作与应用实际执行的工作一致时,两类群体都将受益。
在承诺采用 SageMaker 基于使用量的定价之前,选择一个具有代表性的工作负载,并记录成功处理应消耗什么。要求提供商解释其单位定义、中断政策和计费验证流程。将预期的基础设施需求纳入同一次审查,而非仅评估软件使用量。将最终形成的假设与技术评估一并保存,以便未来团队理解该决策。若报价无法解释应用活动如何转化为计费用量,应在扩大部署前解决这一缺口。下一步应进行可衡量的评估:你的团队能否将其运行的对话、观察到的使用量与收到的账单关联起来?



