Amazon Bedrock agents 获得 Spring AI 参考架构
AWS 于 11 月 11 日发布了 Amazon Bedrock agents 的参考架构,将 Java 应用与工具、对话记忆和托管部署连接起来。其示例将熟悉的 Spring 开发模式引入 agent 应用。同时,它也保留了一项重要区别:部署 agent 并不意味着其决策可靠。
此次发布面向正在决定采用 agents 时可保留多少既有软件基础设施的企业 Java 团队。Spring AI 是一个将 Spring 应用与 AI 模型及相关服务连接起来的框架,提供应用层。Amazon Bedrock AgentCore 是一组用于托管和运行 agents 的 AWS 服务,提供支撑性基础设施。
核心张力在于熟悉的应用工程与陌生的决策行为之间。服务可以在网络层面正确响应请求,却仍可能选择不恰当的操作。AWS 为连接这些层面提供了实用起点,但采购方仍需要有关结果、权限和恢复能力的证据。
Amazon Bedrock agents 有何变化
AWS 提供的是实现参考,而非宣布新的 Bedrock 模型或确立自主可靠性。
这份 Java agent 架构涵盖旅行助手和文档处理系统。示例连接了工具调用、对话记忆、韧性和部署。工具调用是指模型请求一个应用函数,由周边软件执行。
文档系统采用路由和评估规则。并行专家执行仍是可选扩展,其批处理端点则按顺序处理文档。演示用的 guardrail 服务也不同于生产环境的 Bedrock Guardrails。分布式追踪和自动化评估反馈循环还需要额外实现。
这些边界之所以重要,是因为架构图压缩了在采购阶段会产生重要影响的区别。一张图可以展示与某项服务的连接,却无法证明每次部署都配置了它。一个组件可以支持某项能力,而示例未必会在现实条件下实际演练这种能力。
对开发者而言,这份参考减少了应用代码应放置在何处的不确定性。对工程经理而言,它在选择框架前提供了可具体审查的内容。对安全审查人员而言,它揭示了经过打磨的聊天演示常常掩盖的问题。
参考架构与客户部署报告具有不同的证据角色。它阐释一种方法,并提供实现材料。它并不能证明在某个组织的文档类型、访问控制、运行条件或业务例外情形下的表现。
设想一个检索旅行信息并提出行程建议的内部助手。一份令人信服的回答可以展示有用的交互,但并不能证明其有权限购买机票、修改预订,或披露另一名员工的偏好。
同样的区别也适用于文档处理。成功提取一个字段,与基于该字段批准一笔交易并不相同。应用团队需要界定解释在何处结束、具有实质影响的操作又在何处开始。
这使得此次发布的意义超出了 Java 语法。它将讨论推进到企业团队可以审查的应用边界。该架构为这些团队提供了起始词汇,而其自身工作负载仍须提供验收标准。
因此,眼前的变化是务实的,而非普适的。开发者多了一条从模型交互通向已部署服务的具体路径。他们仍需要决定哪些决策值得自动化,哪些需要确认,以及哪些应继续置于 agent 的权限范围之外。
将这些示例视为可审查的起点,能让其价值更清晰。团队可以在接受更广泛的自主运行承诺前,审视各个具体边界。
Java 团队可以保留其技术栈,但会继承新的决策责任
压力落在应用负责人身上:他们必须将 agent 演示转化为可问责的业务服务。
agent 示例仓库包含 Java 后端和独立的浏览器界面。其文档化部署流程会构建 ARM64 容器镜像,将其存储在 Amazon Elastic Container Registry 中,并通过 Terraform 配置 AgentCore Runtime。
容器镜像会打包应用代码及其运行依赖。Terraform 以配置方式描述基础设施。这些选择使部署路径为已在运行云应用的团队所熟悉。
然而,仓库的设置要求与博客演练的部分内容存在差异,包括前端和基础设施工具的版本。开发者应检查所选修订版本对应的要求。复制一份前置条件清单,不应取代对实际部署软件的审查。
更大的组织收益在于延续性。团队可以通过现有的代码审查、发布审批和运营责任机制评估 agent。这降低了仅因模型参与其中就引入一套独立开发流程的必要性。
延续性也会带来虚假的熟悉感风险。传统应用行为通常遵循开发者编写的明确分支。agent 则会在这些分支中引入由模型选择的操作。熟悉的部署机制并不会让这些选择同样可预测。
因此,平台团队面临不同的审查问题。检查应用是否成功启动是必要的,但并不充分。审查人员还需要了解模型能够请求哪些操作,以及周边代码允许哪些操作。
例如,员工助手可能能够访问费用系统。读取报销规则和提交费用申报代表不同权限。即便两种操作都使用同一个对话界面,也不应抹去其不同后果。
产品经理承担着相关责任。他们需要足够精确地描述服务被允许产生的结果,以便工程师能够测试。“处理费用问题”相比明确支持哪些请求以及哪些环节必须审批,留下了更多歧义。
运营团队则会承接另一条边界。agent 可能因基础设施不可用、解释错误、工具选择不当或未解决的业务例外而失败。即使用户将这些情况统称为糟糕的回答,它们也需要不同的应对方式。
支持团队还需要能够说明发生了什么的记录。单独的最终回复可能掩盖一次失败的查询、重复操作或未成功的升级处理。有用的运营证据必须将用户请求与最终的应用行为关联起来。
对于记录这些决策的团队而言,可搜索的知识库可以让设计假设和运营指南保持易于访问。这些文档有助于审查人员和维护者;它们应当与 agent 的对话记忆保持区分。
架构机会在于:在增加新决策层的同时保留既有责任归属。管理挑战则是确保有人明确负责这一层。否则,模型行为可能落在应用开发、基础设施运营和业务政策之间的空隙中。
这一责任归属问题应先于更广泛的自主性。尚未明确责任便扩大访问权限,会令后续事件更难诊断和解决。
工具调用使应用成为执行边界
模型可以提出操作建议,但应用代码必须决定该操作是否可接受。
Spring AI 的工具调用文档描述了一个循环:模型请求函数,框架执行匹配的工具。结果会返回给模型以进行后续处理。该文档明确区分了这种安排与直接赋予模型底层应用接口访问权限之间的差异。
这种分离是评估该架构最有用的方式。模型请求代表的是拟议意图。工具周围的实现决定了该意图是否会转化为外部操作。
想象一个处理行程安排请求的假设旅行助手。查询天气属于信息获取;预订房间则会改变外部系统。即使两种工具在模型看来相似,这一区别也应体现在授权和确认行为中。
描述性的工具名称无法确立这一边界。告诉模型务必谨慎的指令也无法做到。应用需要具备持续有效的检查机制,即便模型误解请求或接收到误导性信息时也是如此。
输入验证用于检查所提供的值是否满足应用要求,能够解决其中一部分问题。目的地必须存在,日期必须可被解释,请求必须指向允许访问的资源。这些检查应在具有实质影响的执行之前完成。
授权则回答另一个问题:已识别的用户是否可以执行请求的操作。有效参数仍可能描述未获授权的操作。将这些检查合并为“安全输出”这种模糊概念,会让失败更难识别。
工具设计也会影响恢复能力。查询通常可以重复,而不会改变业务状态。重复提交则可能造成重复工作。当操作可被重试时,幂等性——即重复的等效请求不会产生额外业务影响——就变得重要。
这是该架构带来的工程含义,而非每个示例工具都已实现这些保护措施的证据。改造这些示例的团队应检查每个工具的实际行为。允许的副作用比对话标签更重要。
当工具向模型返回信息时,同样需要这种严谨性。响应可能包含不完整记录、意外文本或错误信息。将每个响应都视为可信上下文,可能让下游问题演变为错误建议。
应用负责人应决定工具失败时 agent 会看到什么。清晰的失败结果让模型有机会说明不确定性。看似成功的空结果则可能促使其给出缺乏依据的回答。
界面还需要如实说明完成情况。模型生成流畅的回复,并不能证明请求的操作已成功。成功应取决于负责该操作的系统所提供的证据。
这正是架构中熟悉的应用模式变得有用的地方。既有服务边界可以执行权限控制、验证记录并记录结果。模型可以在这些边界内运行,而不会成为这些边界的权威。
即使对话变得复杂,最强健的实现也会维持这种分工。添加工具应扩展有用能力,同时让执行决策保持可审查且受约束。
记忆与多智能体路由扩大了审查范围
额外的上下文和专家角色会带来更多需要验证的行为,而不会自动提高正确性。
对话记忆会保存信息,供后续交互使用。这能让助手在持续任务中发挥作用,但保留的上下文也会引出有关归属、准确性和删除的问题。
被记住的偏好不应悄然演变为永久授权。员工可能更改目的地、撤回请求,或修正先前的说法。应用需要能够处理这些变化,而不是将每条历史消息都视为同等有效的当前信息。
记忆还需要与其他系统保存的记录建立明确关系。对话中可能描述了一项批准,但业务系统中并未记录该批准。负责处理交易的系统应继续保持权威性。
身份问题使这种区别尤为重要。AWS 的 运行时安全指南 指出,后端必须强制执行用户与会话之间的映射关系。运行时隔离并不能证明所提供的会话标识符属于发出请求的用户。
隔离意味着分离执行环境。授权意味着决定谁可以访问某项资源。混淆这两个概念,会在基础设施保护与应用访问之间留下缺口。
一个假设的客服助手可以说明这个问题。执行环境可以保持隔离,但应用仍可能加载错误客户的对话记录。保护环境并不能纠正对应该检索哪段历史记录所作出的错误判断。
专家路由引入了另一种边界。路由器决定请求进入哪条处理路径,专家随后处理更狭窄的任务。这种安排可以让职责更清晰,但最初的路由选择也会成为另一项需要验证的决策。
设想一份同时包含协议和财务附件的文件。表明其具有法律内容的标签,并不能证明每个相关问题都属于法律问题。应用需要针对模糊情况、混合材料和不受支持的请求制定政策。
评估器又带来了另一层区别。基于规则的评估器会根据配置条件检查输出;基于模型的评估器则生成判断。两者都可能有用,但其失效模式和证据价值不同。
规则可以持续检测缺失字段,却无法证明已填写字段是否准确。模型审查者可以识别不一致之处,但可能与原始模型共享相同假设。仅凭一致不应成为证明。
相关的行业比较在于架构层面。Anthropic 的智能体设计模式区分了预定义工作流与能够动态引导自身流程的智能体。其指南倾向于简单、可组合的方法,并在任务需要时才增加复杂性。
这一视角为“多智能体必然是终点”的看法提供了有益的制衡。可预测的处理路径通常比自行决定执行顺序的系统更容易审查。动态行为需要针对具体工作负载的理由。
对于 Java 团队,决策应取决于任务的不确定性。如果已知流程能够可靠地完成工作,额外协调就需要带来可量化的收益。仅有专家标签并不能提供这些收益。
并行处理也应接受同样审查。独立工作可以并发执行,但存在依赖关系的工作仍需排序。合并结果还需要针对分歧、缺失输出和部分失败制定规则。
实际问题在于:在计入审查和恢复成本后,新增协调是否能改善被接受的结果。无论使用何种框架或云服务,这个问题都始终相关。
韧性保障服务可用,而非决策正确
恢复机制应对运营故障,而结果质量需要独立的证据。
重试是在失败后再次执行操作。熔断器会暂时停止对故障依赖项的调用。超时限制操作等待的时长。这些机制有助于控制服务行为,但没有任何一种能判定答案是否准确。
应用可以快速给出错误建议。它也可以干净地失败,同时让一项业务操作仅部分完成。因此,基础设施健康状况和任务完成情况需要分别定义。
对于一个假设的文档助手,成功完成可能需要准确提取、恰当的路由决策,以及已记录的处置结果。收到语法有效的响应,只能证明这条链路中的一部分。
结构化输出会将生成的信息放入预定义格式,帮助应用代码使用结果。但这并不能证明信息与来源一致。格式正确的日期仍然可能是错误的日期。
置信度也需要谨慎对待。结果附带的评分,只有在团队了解它对自身工作负载预测什么时才有价值。高分不应自动推翻缺失证据或明确的业务限制。
人工审查同样需要具备运营实质。标记结果不同于将其交给能够负责评估的人。审查流程需要明确归属、相关证据、处置结果,以及对后续操作的清晰影响。
无人接收的警报无法提供有意义的监督。即使有人接收警报,当审查者看不到源材料或无法纠正结果时,监督仍然不足。团队需要检查完整的交接过程。
内容控制解决的是问题的另一部分。Bedrock Guardrails 支持针对输入和模型响应的可配置过滤,包括不需要的内容和敏感信息。应根据应用的使用场景评估这些控制措施,而不应仅因其存在就假定其有效。
内容过滤和交易授权仍是不同职责。礼貌、普通的请求仍可能试图访问他人的记录。某项响应可以符合内容政策,同时描述用户无权授权的业务操作。
因此,架构需要在多个边界提供证据。团队需要知道用户请求了什么、模型提出了什么、应用允许了什么,以及外部系统完成了什么。
可观测性是指收集有助于解释系统行为的信号。有用的信号支持调查,但收集信号本身并不能形成发布决策。仍需要有人定义哪些结果足以支持部署。
评估是指使用具有代表性的任务,依据明确标准测试行为。对于企业智能体,这应包括普通请求、模糊输入、不可用的依赖项、未授权请求,以及对先前上下文的修正。
其目的在于,在用户依赖服务之前暴露故障。围绕成功交互优化的演示无法回答同样的问题。只显示请求数量、却不显示工作是否可接受的仪表板也无法做到这一点。
隐私也应纳入这项评估。记录完整对话和工具结果可能形成另一套敏感信息集合。团队应决定需要哪些证据,以及访问和保留应如何运作。
对于 Amazon Bedrock 智能体,发布边界应遵循其支持的任务。内部研究助手与能够修改财务记录的应用,需要不同的验收标准。共享同一框架,并不意味着它们的运营风险可以互换。
这正是此处生产就绪的实际含义:针对所提供的特定服务,具备已定义的行为、强制执行的边界、可衡量的结果,以及可行的恢复机制。
扩大自主性之前需要关注什么
下一批有用证据,应当把架构与现实运营条件下可重复的业务结果联系起来。
未来数月应关注的第一个信号,是针对具体工作负载的评估证据。团队应寻找已记录的任务、清晰的验收标准,以及与可识别应用版本相关联的结果。
最具信息价值的证据应包括失败案例及其后续修正。这将增强人们对开发者理解系统边界的信心。若功能清单变得更广泛、却没有结果证据,核心不确定性仍无法消除。
评估还应区分成功的自动化与通过人工补救完成的工作。审查可以是恰当的设计选择,但隐藏其贡献会使自主性能难以评估。
第二个信号是完整且经过测试的身份边界。有价值的实施证据应将已认证用户与其获准使用的会话、记忆访问和工具执行联系起来。
在这里,负面测试与成功对话同样重要。证明某用户无法检索另一用户的历史记录,将增强部署的依据。依赖客户端提供的身份值则会削弱这一依据。
同样的审查应适用于工具权限。权限范围狭窄的助手,比拥有广泛访问权限和模糊保障措施的助手,能提出更清晰的运营主张。扩展应基于证据,证明较窄范围的服务按预期运行。
第三个信号是从部分失败中恢复的能力得到展示。团队应关注:在操作开始后依赖项发生故障、响应中断,或需要人工审查时,系统是否会表现出受控行为。
有用的证据应展示操作是否会重复、如何识别未完成工作,以及谁可以解决问题。成功恢复会增强对运营设计的信心。仅有一条回退消息,仍会让完成情况不确定。
这些信号并不要求每个智能体都成为通用型自主工作者。受限的应用可以在保留明确审批点的同时提供有用结果。相关衡量标准是,它是否能在声明的权限范围内完成其支持的工作。
AWS 为 Java 团队提供了可供审视的具体架构。其长期意义将取决于团队在完成适配后能够验证什么。熟悉的开发模式使采用更容易组织;关于行为的证据则使采用更容易得到论证。
在采用该参考架构之前,选择一个受限任务,并写下成功完成的含义。确定智能体可以读取哪些记录、可以请求哪些操作,以及哪些决策需要批准。然后使用具有代表性的工作评估实现,包括失败和访问被拒的情况。将这些发现与应用的设计决策一同保留,以便未来变更时拥有清晰的比较基准。只有当证据支持下一项权限或工作流时,才扩大范围。对于 Amazon Bedrock 智能体,有用的起始问题很具体:你的团队能够验证哪项任务,从初始请求到最终业务结果全程可核验,并包括智能体必须停止的那些时刻?



