top of page

AWS 更新 AgentCore Runtime,实现更快启动与更大规模会话

27分钟前
讀畢需時 12 分鐘
Illustrative photograph. Photo: panumas nikhomkhai / Pexels.

AWS 于 11 月 12 日宣布更新 AgentCore runtime,将隔离代理会话扩展至 8 个虚拟 CPU 和 32 GB 内存。此次发布还改变了启动行为、内存消耗和存储访问方式。其核心承诺旨在解决一项实际部署难题:代理需要足够的工作空间,但并非每个会话都需要配备昂贵且持续运行的环境。

据 AWS 称,此次更新在保留硬件隔离的同时,降低了启动和维持会话所需的资源开销。不过,隔离计算与获授权的行为仍是两项不同的责任。代理即使始终处于被分配的环境中,仍可能滥用范围过宽的权限。

这一差异给运营自定义代理基础设施的团队,以及评估托管替代方案的采购方带来压力,其中包括 Microsoft 的 Azure SRE Agent。眼下的问题是,AWS 能吸收多少基础设施工作。更长远的问题则是:随着代理承担更长期的任务,会话身份、存储文件和应用权限能否始终保持一致。

AgentCore Runtime 更新扩展了会话能力

AWS 正在提升隔离会话的处理能力,同时改变会话的启动方式和资源消耗方式。

runtime 是执行应用代码的环境。在此次发布中,AWS 扩展了该环境,但没有放弃独立的执行边界。每个无服务器会话都使用 Firecracker microVM,这是一种可提供硬件隔离的轻量级虚拟机。

这份 runtime 公告 表示,现已支持最高 10 GB 的容器镜像。容器镜像会打包应用代码及其依赖项。更大的软件包为团队安装代理所需的库和工具提供了更多空间。

当代理的任务不止是生成回复时,这些变化尤为重要。设想一个工程助手:它检查代码仓库、运行构建、调查故障,并准备一项拟议变更。其执行环境必须容纳任务全程所需的工具和临时文件。

这个例子说明了更大规模会话的重要性,但并不构成性能结果。更多可用资源能够为较重的工作提供容量,却不能说明特定代码仓库的构建速度,也不能保证代理会选择正确的修复方案。

这一差别对比较规格的采购方很重要。内存上限描述的是可用配置;启动测量描述的是会话生命周期的一部分。两项数字都不能衡量最终工作成果的质量。

因此,此次发布改变的是一项部署约束,而非解决全部代理问题。团队获得了更多隔离环境内的空间,但仍需决定哪些工具应置于其中、信任哪些依赖项,以及哪些操作需要监督。

对于维护自身执行服务的团队而言,这改变了其与托管基础设施之间的比较。相关替代方案还包括配置环境、更新环境、观察故障,以及清理中断工作所需的工程投入。

当内部平台服务于专业需求时,这种投入可能合理。AWS 的发布提高了这种合理性的门槛。团队如今需要说明,托管会话无法满足哪些需求。

这种压力应促成更具体的采购讨论。与其比较有关代理支持的宽泛主张,采购方可以审视现有限制下失败的工作负载,再询问扩展后的环境能否在不引入不可接受运营约束的前提下消除这些限制。

公告确认该服务已在北美、南美、欧洲和亚太地区的 AWS Regions 提供。组织在将这种地理覆盖视为完全符合自身需求之前,应先核实其具体部署地点。

更快启动给自定义基础设施带来压力

当用户将环境准备视为代理响应时间的一部分时,启动速度便至关重要。

AWS 的 runtime capabilities 文档为这一显著改进给出了更具体的测量范围。文档称,使用 2 GB 镜像时,启动时间的 P75 为 1.9 秒,而此前为 29.7 秒。

P75 指第 75 百分位数,即四分之三测量结果落在该数值或以下的位置。这一限定很重要。百分位数测量并不承诺每个会话都会在所报告的时间内启动。

该公司将启动加速归因于恢复快照,也就是已初始化代理环境的已保存副本。这种方法改变了准备工作发生的环节。快照前完成的工作可以在会话开始时复用。

商业层面的含义很直接。如果环境准备对用户而言变得不那么明显,团队仅为避免启动延迟而维持备用环境的理由就会减少。这削弱了提前为需求预留基础设施的论据。

不过,runtime 启动时间和有效响应时间仍是不同的测量指标。代理可能迅速启动,随后却在等待模型、检索文档,或联系另一项服务。用户感受到的是这些延迟的总和。

因此,有效的评估应覆盖完整任务。它应记录会话何时可用、代理何时开始有意义的工作,以及用户何时获得有用结果。这能将基础设施改进与其他环节的延迟区分开来。

这一区分能保护采购方和供应商,避免受到误导性比较的影响。当 runtime 改进消除了可测量的瓶颈时,理应获得认可。但它不应因测量从未检验过的应用行为而得到额外评价。

面临直接压力的团队,是那些自定义系统主要用于弥补环境准备缓慢问题的团队。他们必须使用相同的应用和工作负载,将自身运营负担与托管替代方案进行比较。

拥有专业依赖项的团队则面临不同问题。他们需要证据证明,更快的环境启动能经受真实的初始化、网络访问和工具行为考验。规模较小的演示无法替他们定论。

快照恢复也带来了迁移方面的顾虑。AWS 警告称,在初始化期间创建的凭证、随机种子、时间戳和连接需要谨慎处理,因为恢复后的会话会继承快照状态。部署流程也需要花时间准备该快照。

这意味着,更快的会话启动涉及应用生命周期决策。开发者必须区分可复用的初始化内容与属于单个会话的值。若只将迁移视为配置变更,便会忽视这一差异。

对企业采购方而言,这成为一个责任归属问题。必须有人审查代理的初始化行为、批准迁移并解读任何故障。托管执行可减少基础设施工作,但应用兼容性仍需要明确的责任人。

这就是通过此次发布理解 AgentCore runtime 的实际含义:AWS 正将更多准备工作转移到平台中。其价值取决于应用能否安全使用这些准备工作,以及用户是否能感受到由此带来的改进。

内存计费更贴近实际工作

这一经济层面的变化涉及资源在任务执行过程中的表现,尤其是代理在有价值操作之间暂停时。

AWS 表示,代理释放内存后,runtime 会在数分钟内回收内存,闲置代理则会缩减至零。对于暂停的多轮工作负载,AWS 称每个会话的内存消耗最高可降低 68%。

公告还描述了适用于稳定工作负载的承诺内存基线。该基线设定了计费最低值,同时允许突增至基线的四倍。这些是不同的消耗模式,采购方应分别评估。

这一差别尤其适用于交互式工作。用户可能要求代理调查问题、审阅其发现,并在稍后提供澄清。即使资源需求发生变化,对话在这些停顿期间仍保持价值。

持续繁忙的任务会形成不同的经济特征。若代理持续处理文件或执行工具,就较少有机会释放资源。因此,宣传中的降幅不应被当作普遍节省成本的假设。

AgentCore runtime 更新改变了财务和工程团队需要共同提出的问题。他们需要了解内存何时可被回收、应用如何释放内存,以及会话实际上暂停的频率。

这要求观察实际行为,而非依赖“代理”这一标签。对话界面可能掩盖密集的后台工作;一个看似复杂的助手,可能大部分时间都在等待用户回复。

解读缩减至零时,同样需要谨慎。采购方应识别哪项资源已停止消耗容量,以及哪些周边服务仍在运行。存储、模型调用和外部工具都应纳入更广泛的应用评估。

业务成果还取决于能否成功完成。若故障迫使用户重新开始任务,一次成本更低的尝试价值有限。重复工作不仅可能抹去表面上的效率收益,也会增加挫败感。

这使得“已完成且可接受的工作”成为一个有用的评估单位。团队可以比较满足质量要求的任务所消耗的资源,继而调查节省究竟来自更好的资源利用,还是来自未完成的工作。

一个示例性的研究助手说明了这一点为何重要。它可能收集源材料、等待编辑反馈,再根据修订后的请求继续工作。仅当恢复后的工作流能正确运行时,暂停期间的资源回收才有价值。

这个例子是分析场景,并非已报道的客户成果。其目的在于说明,基础设施经济性和应用连续性需要一并评估。

承诺基线带来了另一项判断。可预测的需求可能使最低资源分配变得合理,而不规律的需求则需要更严格审视。采购方应为观察到的工作负载建模,而非假定每个代理都能从同一安排中获益。

正是在这里,此次发布给维护大量预留容量池的平台团队带来压力。他们需要证明足以支撑这些资源的运营价值。当托管替代方案提供更灵活的消耗模式时,熟悉的基础设施本身并不是有力的解释。

存储访问使信任边界更加复杂

独立的执行环境并不自动意味着代理拥有访问存储信息的正确权限范围。

AWS 表示,代理可通过文件系统动态挂载并保存工作内容,其中包括支持 FUSE 的 Amazon S3。FUSE 允许存储系统通过应用可使用的文件系统接口呈现。

这让存储在 agent 的工作环境中更易访问。不过,该公告将一项额外能力放在未来实现。它表示,将在 re:Invent 前推出通过带有会话标签的凭证实现的、按会话划分的存储文件夹作用域。

截至 11 月 17 日,这一表述描述的是一项承诺。不应将其改写为一项已经普遍强制实施、可保护每个会话的功能。

这一区别很重要,因为计算位置与数据授权回答的是不同的问题。计算隔离解决的是代码在何处执行。授权决定的是该代码可以读取或更改哪些信息。

设想一名助手正在为客户准备报告。为它提供独立环境有助于约束其执行活动。如果其凭证还允许访问无关的客户文档,那么仅靠该环境并不能纠正这种权限设置。

这个例子并非指控该服务存在缺陷。它说明了为何需要准确理解存储方面的表述。无论文件系统接口变得多么便捷,访问控制都必须与预期任务相匹配。

AWS 的文件系统配置文档提供了存储集成的实施背景。买家应结合应用程序使用的身份和权限审查该配置。

其影响不止于机密文档。Agent 还会创建中间文件、部分结果和日志。组织需要决定哪些输出应当保留,以及任务结束后谁可以获取它们。

因此,应将持久化与执行隔离结合评估。删除执行环境并不一定会删除保存在其他位置的工作成果。反过来,保留文件也不意味着另一个会话应当获得访问权限。

对于知识型应用,这会成为一个熟悉的信息管理问题。可搜索的知识库有助于让技术资料可被检索。对检索到的资料采取行动的 Agent 则会带来有关修改权限和下游后果的额外问题。

相关决策涉及每一步的权限范围。获准阅读设计文档,并不天然意味着获准编辑代码仓库、发送消息或发布生成的报告。

这正是为何值得关注计划中的文件夹作用域划分,但不应将其视为完整解决方案。更严格的存储凭证可以加强会话与其工作区之间的关联。应用程序行为仍决定 Agent 会在该授权范围内尝试哪些操作。

因此,对 AgentCore runtime 安全性的有用解读应当是具体的。该平台提供执行边界和辅助控制措施。组织仍必须将这些控制措施与用户、任务和已存储的工作成果相连接。

隔离仍让应用所有者面临重要决策

硬件隔离限制执行环境;应用程序权限决定其中可用的权限范围。

AWS 的会话安全指南明确将会话与用户的映射分配给应用后端。它还将权限、依赖项、执行命令和输入验证的责任分配给客户。

该文档补充了一项值得注意的存储限定条件。文件系统权限信息可以被存储,但不会在会话内部强制执行;在会话中,Agent 是唯一用户。因此,熟悉的权限元数据不应被视为既定的内部边界。

这些细节进一步明确了此次发布的核心张力。托管环境可以减少大量运营工作,同时仍将关键的应用决策留给客户。买家在让平台为结果承担责任之前,需要理解这种责任划分。

提示词注入,即试图改变 Agent 行为的恶意内容,说明了这一区别。敌对文档可以影响 Agent,而无需逃出其虚拟机。由此产生的操作可能完全处于已被授予的权限范围内。

因此,组织需要考虑 Agent 遵循错误指令时会发生什么。范围严格的能力会限制后果。广泛的权限会让同样的错误带来更严重的影响。

这也是竞争比较比功能清单更有参考价值的地方。Microsoft 在其执行隔离架构中,将 Azure SRE Agent——其运维助手——描述为把推理、工具执行、身份处理和网络控制分离开来。

这些产品服务于不同目的,因此该比较并不能确立总体胜者。但它说明了为何买家应审视权限的部署位置。凭证和强制控制措施所在的位置,与执行环境同样重要。

对 runtime 的比较应当询问:代码启动后能够做什么。这包括它能够检索的信息、能够联系的服务,以及无需进一步审核即可进行的更改。

应用程序可以为影响重大的操作保留审批,同时允许低风险的准备工作继续推进。例如,工程助手可以在获得合并或发布权限之前,先调查问题并提出变更建议。

该示例描述的是一种架构选择,而非默认的产品保证。其重要性在于将有用的自主性与不受限制的权限区分开来。Runtime 提供了执行这一选择的场所;它不会替组织作出选择。

AWS 在公告中纳入了客户关于 Agent 执行工程工作的说明。Okta 描述了代码检查、测试执行和拟议的代码仓库变更,以及受身份治理的控制措施。这些陈述提供了部署背景,但仍属于供应商选取的客户证词。

独立评估仍需将基础设施行为与应用结果联系起来。有用的证据包括:失败的访问尝试被拒绝、不正确的会话路由被拦截,以及影响重大的操作遵循预期的审批规则。

这些结果比笼统声称 Agent 在安全运行更具说明力。它们描述了相对于明确定义要求的可观察行为。

对于企业买家而言,责任问题迫在眉睫。安全团队需要界定可接受的权限范围,应用团队需要实施这些规则,平台团队需要证明执行情况。此次发布改变了他们的基础设施选项,但并未消除这些角色。

三个信号将显示此次升级是否经得起检验

下一阶段应通过已交付的控制措施、贴近实际的测量结果和已完成的任务来评判。

第一个信号是已宣布的按会话划分存储文件夹作用域功能是否交付。AWS 已将这一承诺与 re:Invent 关联。买家应关注说明凭证、文件夹和会话身份如何连接的文档。

如果交付,该功能将加强一种论点:该平台能够将执行边界与持久工作区边界对齐。含糊的推出方式或狭窄的适用范围,将限制组织可以多广泛地依赖这一主张。

关键证据将描述强制执行行为。买家需要了解当会话请求不同文件夹、凭证发生变化以及任务结束时会发生什么。这些细节决定该功能是否符合应用程序的要求。

第二个信号是针对启动和内存改进的、与具体工作负载相关的证据。AWS 已发布测量数据,但买家仍需要来自与自身应用相似场景的结果。当基准测试的条件明确时,它才更具参考价值。

这些证据应区分环境启动与完成有用工作所需的时间。还应展示暂停、恢复交互和持续需求下的表现。这些条件可以揭示哪些应用受益最大。

在具有代表性的工作负载中持续获得改进,将增强迁移的理由。若结果集中于狭窄条件,则支持更有选择性的决策。无论哪种结果,都比把宣传中最大的改进视为普遍预期更有价值。

第三个信号是组织能否以更少的运营投入完成更多可接受的工作。这结合了应用可靠性、资源消耗以及团队承担的维护负担。

更快的启动速度可以改善体验,却未必能减少维持应用可靠性所需的工作。更低的内存消耗可以提高资源利用率,却无法解决权限问题。买家需要证据证明,组合后的系统能够推进其实际目标。

对于正在评估 AgentCore runtime 更新的团队,下一步应选择一项具有代表性的任务,并设定明确的成功标准。选择包含真实依赖项、暂停或中断、持久化输出及有意义访问边界的工作。将完成结果和运营投入与启动和资源测量结果一并比较。在迁移前审查初始化状态,然后测试 Agent 是否只能访问其任务所需的信息和操作。将计划中的存储作用域功能与当前可用的控制措施区分开来。利用这些发现决定托管 runtime 是否确实减轻了团队的负担。请思考:当执行变得更快后,剩下的约束是什么——基础设施容量、应用可靠性,还是授予 Agent 的权限。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page