Amazon Bedrock AgentCore Evaluations:为何智能体成功不能只看一个分数
AWS 于 11 月 10 日发布了一份智能体评估指南,指出完成任务与安全完成任务需要分别衡量。Amazon Bedrock AgentCore Evaluations 将 AWS 编写的、DeepEval 和 AutoEval 评估器整合到同一项服务中。实际问题在于:每个评估器衡量何种行为,以及其证据是否足以支撑与分数关联的业务决策。
评估器是一种评分机制,用于依据既定标准检查智能体行为。一段成功的客服对话仍可能包含未经授权的信息披露。一份研究回答也可能听起来令人信服,却遗漏了用户要求的比较内容。这些失败案例挑战了一个假设:总体评分良好就意味着智能体已具备生产环境部署条件。
压力落在开发者和企业买家身上,他们必须解释质量仪表盘究竟证明了什么。Anthropic 此前发布的评估指导提供了有价值的参考:评判智能体时,应审视其行动与最终状态,并同时考察其回复。AWS 的指南则通过托管评估器目录处理同一根本问题。运行检查变得更容易;但决定何种行为可被接受,仍是产品层面的责任。
Amazon Bedrock AgentCore Evaluations 将业务结果置于指标名称之前
11 月发布的内容是一份评估指南,而非 AgentCore 本身的发布。其贡献在于提供了一种将业务预期与可观察智能体行为关联起来的具体方法。
AWS 的智能体评估指南建议从结果出发,识别支撑该结果的行为,并在合适的层级选择评估器。这一框架很重要,因为看似吸引人的指标名称可能掩盖团队衡量的内容与客户实际需求之间的不匹配。
当指标结果能够回答一个具体的运营问题时,它才真正有用。
以一个示例性的客服部署为例。企业希望客户能够在无需不必要升级处理的情况下完成符合条件的退款申请。友善的回复固然相关,但它无法证明退款是否实际完成。同样,已完成的退款也无法证明智能体是否泄露了另一位客户的信息。
这些结果需要不同的证据。对话能够显示客户提出了什么请求,以及智能体作出了什么承诺。工具结果能够显示所请求的操作是否成功。策略要求则规定哪些行为是被允许的。一项有用的评估会连接这些记录,而不是将流畅的语言视为其替代品。
研究工作流中也存在同样的问题。智能体可能生成一份可读性很强的市场摘要,却跳过了用户要求的来源比较。由于其中包含结论,输出看起来已经完成;但底层任务依然不完整,因为用户提出了更具体的要求。
这不仅会给工程师带来压力,也会影响产品经理。如果验收标准只写着“有帮助的回答”,评估器就会继承这种模糊性。产品规范从未解决的分歧,仪表盘也无法替代解决。
更强的规范应明确可观察的失败情形。它应区分遗漏回答与错误回答、不恰当行动与失败行动,以及有合理依据的拒绝与不必要的放弃。这些区分赋予评估器组合明确的用途。
这也是为什么最大化启用检查数量,并不是衡量评估成熟度的可靠标准。重叠指标可能增加审查工作,却无法覆盖遗漏的要求。一个规模较小、经过审慎设计的组合,可能比按名称挑选的大型目录提供更清晰的证据。
新闻价值就在于这种责任转移。AWS 在既有平台中提供了更多评估机制。团队仍需确定哪些结果应阻止发布、触发调查,或为后续改进提供依据。
对于买家而言,由此产生的问题很具体:当供应商报告智能体质量时,这项衡量代表了哪一种客户结果?缺乏这种关联,分数对测试的描述会比对产品本身的描述更清楚。
AgentCore 评估器比较的核心在于控制权与覆盖范围
AgentCore 评估器比较首先要看所有权。AWS 的内置评估器采用预定义模型和提示词,客户无法直接修改。它们为常见行为提供了标准化起点,同时减少了配置工作。
托管的第三方选项遵循类似的运行模式。AgentCore 托管评估器逻辑并选择模型。客户无法选择托管库的版本。AWS 明确区分了经过其基准测试的内置评估器与第三方评估器,后者的质量并不由 AWS 背书。
根据第三方评估器文档,DeepEval 覆盖的行为包括任务完成度、对话完整性、知识保留、工具使用和个人信息泄露。AutoEval 则提供了名为 Security、Possible 和 Humor 的专项检查。
有意义的选择在于某项检查检测哪一种失败,其次才是谁控制其运行方式。
ConversationCompleteness 衡量智能体是否处理了贯穿整段对话的请求。KnowledgeRetention 关注先前分享的信息。PIILeakage 检查回复是否暴露个人信息。这些名称对应不同的关注点;它们不应成为可相互替代的通用可靠性指标。
AutoEval 的 Possible 检查会判断智能体是尝试解决问题,还是宣布任务不可能完成。这带来了一个重要的解释边界。一次尝试仍可能不安全、未经授权,或未能成功。该维度上的良好结果无法解决这些彼此独立的问题。
同样,Security 评估恶意回复。它的存在并不能证明整个应用能够抵御所有攻击。应用还包括权限、工具、外部服务和存储数据,这些都超出了任何单条被评分回复的范围。
对于需要模型控制权的团队,自定义派生评估器会保留基础评估器的逻辑,同时使用客户选定的推理模型。AWS 表示,基础评估器负责指令、量表和评估层级。另行编写的自定义评估器则提供了定义专用评分标准的另一条路径。
这种区分可以避免一种常见误解。更换评判模型与重写评判标准是两种不同的干预。两者都可能改变结果,但它们对应不同的需求,并带来不同的维护义务。
设想一个遵循组织审批政策的采购助手。标准的工具使用检查可能评估其所选工具是否适合该请求。业务特定检查则可能评估该采购是否应在执行前获得批准。两项结果都不能替代另一项。
这项 AgentCore 评估器比较还揭示了现有 DeepEval 用户面临的连续性问题。熟悉的指标名称有助于连接开发与生产实践,但它们本身并不能证明本地与托管环境中的分数完全一致。
评判模型、库版本、可用上下文和配置都会影响解释。团队在比较不同环境时,应将一致性视为需要衡量的事项。共享名称是一种有用的组织速记,但不足以证明现有阈值可以不变地迁移。
证据层级决定哪些失败能够被看见
智能体轨迹是包含模型交互和行动的执行记录。会话将多轮对话归为一组。工具调用则记录某项具体操作及其参数。这些层级为同一工作流提供了不同视角。
AWS 的提示词定义区分了会话、轨迹和工具级输入。其评估提示词模板显示,会话检查会获得覆盖整段对话的证据,而其他检查则会针对特定回复或调用,并提供相关上下文。
选择错误的证据层级,可能让一个有效分数回答错误的问题。
相关的回复可以满足最新一条消息,却放弃更早的请求。反过来,一段对话也可能在中途发生工具错误后,最终仍达成正确结果。会话结果和行动级结果描述的是该交互的不同方面。
考虑一个示例性的旅行助手:用户要求它寻找行程,同时遵守旅客的无障碍需求。之后的一条回复可能正确回答了行李问题。但仅凭这条回复,无法证明所推荐的行程是否仍符合最初的限制条件。
当团队汇总结果时,这一区分尤其重要。对整段对话的回复质量取平均,可能掩盖整体目标是否达成。即使对话始终礼貌,也仍可能在没有可用预订结果的情况下结束。
工具选择和工具参数也需要分别关注。选择订单查询工具,与提供正确的账户标识符是两回事。合理的工具选择搭配错误参数,仍可能导致运营失败,尽管对话行为本身无误。
技能增加了另一项证据要求。技能是智能体为完成任务而加载的可复用指令文件。AWS 的技能检查会在工具调用层级评估选择和遵循情况。对指令遵循情况的评估需要已加载的技能正文及其后的会话上下文。
因此,在庆祝之前,缺失结果值得调查。如果必要的调用或指令内容从未进入评估过程,沉默就无法证明合规。团队需要区分已评估的成功与未评估的行动。
轨迹检查引入了另一种视角。轨迹是执行期间采取的工具行动序列。AWS 描述了与预期路径进行精确顺序、顺序一致和任意顺序比较的方法。这些检查需要参考轨迹,而不仅仅是一条看似合理的最终回复。
企业必须决定哪些顺序约束至关重要。在采购前要求审批体现了一种有意义的依赖关系。强制独立查询采用任意固定顺序,则可能惩罚可接受的替代方案。
这正是指南以结果为先的方法变得关键之处。预期路径应编码业务要求,而不应只是复刻开发者最先记录下来的那条路径。
同样的推理也适用于知识工作。构建可搜索知识库的团队,需要区分文档检索与完整且有依据的回答。找到相关文件只是中间行动。智能体是否恰当地使用了该文件,需要额外证据和不同的判断。
AgentCore 评估模式将发布证据与实时监控区分开来
AgentCore 评估模式决定证据何时可用,以及团队如何使用这些证据。按需评估接受调用方提供的会话跨度。在线评估监控抽样的生产活动。批量评估则通过服务端编排处理多个会话。
AWS 的批量评估文档指出了一个重要边界:按需评估和批量评估可以接受真值数据,而在线评估不能。真值数据是指提供的参考材料,例如预期响应或成功断言。
生产监控评分与基于参考的发布测试回答的是不同问题。
固定回归测试套件,即针对先前已支持行为的测试,使团队能够在受控条件下比较变更。同一批案例可以揭示:一次提示词修订是否改善了某项要求,却损害了另一项要求。
实时监控揭示的是另一件事:当真实用户带来测试编写者未预见的请求时,会发生什么。其价值来自与生产行为的接触,包括陌生语言、不断变化的工作流,以及意料之外的需求组合。
二者都不能取代对方。精心整理的数据集可能与当前使用情况脱节。生产样本可能遗漏不常见的失败,或缺少作出明确判断所需的参考信息。
以一个示例客服代理为例,发布数据集可能包含已知的退款资格场景。每个案例都包含相关政策和预期结果。在线监控随后检视已部署代理如何处理真实对话,而并非每个请求都附有预先准备好的答案。
实时评分下降应当触发调查。但这并不能自动证明是模型发生了变化、用户请求变得更难,还是采集到的证据不完整。解读这一信号需要核查这些替代解释。
批量结果也需要在平均值之下接受审视。AWS 提供汇总摘要和会话级详细信息。总体改善可能与某个特定工作流、语言模式或请求类别中的严重失败并存。
假设某代理在模型变更后更擅长处理常规请求,但当用户修订先前指令时可靠性下降。总体平均值可能会提高。该版本是否可以接受,取决于受影响行为的重要性和发生频率。
多维度自定义评估器解决了一个相关的报告问题。它们通过一次共享的评判调用,为具名标准返回独立评分。AWS 文档说明,这些维度共享同一个模型和评估层级。
其优势在于,能够更清楚地看到独立失败的标准。问题解决、政策合规和语气可以保持彼此独立,而不会消失在混合评分之中。团队随后可以为每项结果设置不同后果。
其局限在于共享执行。一旦评判调用失败,可能影响所有维度;而需要不同证据或模型的标准则应放在其他位置。因此,即使整合检查能减少对相同上下文的重复阅读,它仍会带来设计取舍。
对工程领导者而言,其含义在于组织层面。发布门禁、生产告警和探索性分析应有明确分工。把它们都称为“评估”,并不会使它们的证据同样适合每一项决策。
托管评分仍将判断、隐私与运营成本留给团队承担
AgentCore 需要对话内容来重建和评估行为。AWS 的遥测文档将提示词、补全内容以及工具输入和输出列为相关证据。遥测是指应用程序为监控和分析而导出的执行记录。
这带来了实际的张力。识别泄露所需的信息本身可能包含敏感材料。评估处理私人记录的代理时,团队需要考虑评估证据如何收集、访问、保留和审阅。
托管评估器能够减少基础设施工作,但不会免除团队对证据或结论的责任。
脱敏说明了其中的困难。移除敏感信息可以减少暴露,但也可能移除评估是否发生泄露所需的上下文。适当的设计取决于评估器必须回答什么问题。
例如,经过掩码处理的账户标识符可能仍保留足够结构,以检查代理是否始终使用了请求的账户。但它可能不足以判断响应是否暴露了未经授权人员的详细信息。这一区别应在上线前影响证据设计。
基于模型的评判还增加了另一项限制。LLM-as-a-judge 使用语言模型根据指令评估行为。其结果是一种模型判断,而不是对事实或操作正确性的自动保证。
Anthropic 的代理评估指南将模型评分器描述为灵活但非确定性的工具,并强调与人工审阅者进行校准。该指南还区分了响应转录内容与环境的最终状态。这为任何认为托管评分可以消除验证工作的解读提供了有益的制衡。
这里的比较侧重于重点差异,而不是对供应商之间进行量化竞赛。AWS 的实践手册组织了评估器选择与执行。Anthropic 的指南强调评估设计、评分器权衡和结果核查。两份来源都没有证明某一种托管评分能够普遍预测代理可靠性。
当审阅者对成功标准存在分歧时,人工校准尤其重要。政策所有者自身解释不一致时,评判器无法可靠地将该政策操作化。审查分歧可以揭示不明确的指令、不完整的证据,或奖励了错误行为的评分标准。
运营成本也应得到同样具体的考量。更多评估器、更长上下文、重复调用和更大样本,都会增加评估所需的工作量。相关的商业问题是,每一项新增检查是否会改变决策,或检测到有意义的失败。
能够识别高成本遗漏的专用评估器,可能值得其运营负担。与现有指标同步变化的冗余评分,可能价值有限。团队需要有证据来作出这种区分,而不能因数量更多就假定覆盖面更广。
派生评估器带来了额外的责任归属。选择评判模型让团队获得控制权,但也意味着模型适用性成为他们的责任。一个作为助手表现良好的模型,仍应针对特定评判任务接受评估。
安全判断也需要类似谨慎。干净的样本并不能证明获得了普遍保护,而可疑响应值得在其评分之外进一步调查。对于关键行动,权限和确定性控制,即无需模型判断即可执行的规则,仍然重要。
Amazon Bedrock AgentCore Evaluations 的可信承诺在于让测量更易获得。现有来源并未证明其在每一种评估器、工作负载和失败类别中都具有独立的准确性比较。买方在审查采用主张时,应始终清楚看到这一验证缺口。
接下来应关注什么:一致性、覆盖范围与决策
下一阶段应依据运营证据而非产品目录规模来判断。未来数月中,最有价值的信号将涉及评估器结果是否与人工判断一致、是否覆盖真实失败,以及是否影响发布决策。
最有力的证据将展示评估捕捉到了哪些错误,以及团队因此作出了哪些改变。
第一个信号是其在代表性案例中与合格审阅者的一致程度。公开比较应说明任务、提供的证据、评判标准,以及如何解决分歧。如果关键边缘案例仍未被检验,那么在常规示例上的一致性信息价值较低。
例如,客服部署应将遗漏的泄露与错误的泄露标记分开。这些错误带来不同的运营后果。仅报告总体一致性,可能掩盖对业务最重要的区别。
在相关案例中持续保持一致,将增强对所选评估器组合的信心。持续存在的分歧则意味着需要缩小范围、修订标准、改进证据或更换评判器。无论哪种结果,都比一个没有解释的质量评分提供更有用的信息。
第二个信号是生产失败能否转化为可复现的评估案例。当观察到的遗漏或工具错误能够为保护未来版本的测试提供信息时,监控系统才真正证明其价值。
这需要的不只是存储对话。团队需要足够的上下文来理解预期行为,并复现相关条件。否则,事件就会变成一个仍然难以利用的轶事。
如果有证据表明组织会反复将实时失败转化为发布检查,这将支持该实践手册的实际价值。反复发生却从未改变测试套件的事件,则会削弱持续评分提升可靠性的主张。
第三个信号是评估是否改变了具体的部署决策。一份有用的报告会指出回归问题,解释受影响的行为,并描述由此导致的延期、回滚或针对性修复。
这将把测量与问责联系起来。它还会揭示:当一次发布产生混合结果时,团队是否保留彼此独立的要求。更好的语气不应自动补偿较差的隐私行为。
对企业买方而言,这些信号意味着采购沟通应更精准。要求供应商展示一个具有代表性的失败案例,解释评估器为何拒绝它,并说明随后发生的产品变更。询问哪些重要行为仍处于当前评估范围之外。
对开发者而言,立即可做的行动是检查一个仪表盘未捕捉到的近期失败。识别识别该失败所需的证据,再决定现有评估器是否适用。如果失败需要提供参考材料,就将其保留在受控测试中。如果它依赖实时上下文,就明确该上下文如何进入评估。使用 Amazon Bedrock AgentCore Evaluations 让这些决策可被审查,然后与对结果负责的人员一起复核分歧。哪些不可接受的行为仍会通过你当前的发布检查?



