top of page

Amazon Bedrock AgentCore Evaluations:為何 Agent 成功不能只靠一個分數

4 日前
讀畢需時 12 分鐘

AWS 於 11 月 10 日發布一份 agent 評估指南,指出完成任務與安全地完成任務需要分開衡量。Amazon Bedrock AgentCore Evaluations 將 AWS 編寫、DeepEval 及 AutoEval 評估器整合至同一服務。實際問題在於每個評估器衡量哪種行為,以及其證據是否支持與分數掛鈎的業務決策。

評估器是一種根據既定準則檢查 agent 行為的評分機制。一段成功的客戶支援對話,仍可能包含未經授權的資料披露。一個研究答案可以聽來具說服力,卻遺漏用戶要求的比較。這些失敗案例挑戰了一項假設:整體評分良好,就代表 agent 已準備好投入生產環境。

壓力落在需要解釋品質儀表板實際證明了甚麼的開發人員及企業買家身上。Anthropic 早前的評估指引提供了有用參考:評核 agent 時,除了回應內容,亦要檢視其行動及最終狀態。AWS 的指南透過受管理的評估器目錄處理同一根本問題。執行檢查變得更容易;決定何謂可接受行為,仍然是產品責任。

Amazon Bedrock AgentCore Evaluations 將業務成果置於指標名稱之前

11 月的發布是一份評估指南,而非 AgentCore 本身的推出。其貢獻在於提供具體方法,將業務期望與可觀察的 agent 行為連結起來。

AWS 的 agent 評估指南建議先從成果出發,識別支撐成果的行為,並在合適層級選擇評估器。這種框架很重要,因為吸引的指標名稱可能掩蓋團隊衡量的內容與客戶所需之間的不匹配。

當指標結果能回答特定營運問題時,該指標才會變得有用。

以一個說明性的客戶支援部署為例。業務希望客戶毋須不必要地升級處理,也能解決符合資格的退款申請。友善的回覆固然重要,但不能證明退款是否已完成。同樣地,完成退款亦不能證明 agent 有否披露另一名客戶的資料。

這些成果需要不同證據。對話顯示客戶要求甚麼,以及 agent 承諾了甚麼。工具結果顯示所要求的操作是否成功。政策要求則界定哪些行動獲准許。有用的評估會連結這些紀錄,而不是將流暢語言視為它們的替代品。

研究工作流程亦會出現同一問題。Agent 或會產出易讀的市場摘要,卻跳過了要求中的來源比較。輸出看似完成,因為它有結論。但基礎任務仍未完成,因為用戶要求的是更具體的內容。

這不僅為工程師帶來壓力,亦影響產品經理。如果驗收準則只寫着「有幫助的答案」,評估器便會承繼這種模糊性。儀表板無法解決產品規格從未處理的分歧。

較強的規格會識別可觀察的失敗情況。它會區分遺漏答案與錯誤答案、不恰當行動與失敗行動,以及有理據的拒絕與不必要的放棄。這些區分賦予評估器組合明確目的。

這亦是為何將啟用檢查的數量最大化,並非可靠的評估成熟度指標。重疊指標可能增加審查工作,卻未能涵蓋某項缺失要求。一組小而審慎的檢查,能提供比按名稱選出的龐大目錄更清晰的證據。

新聞價值正在於責任的轉移。AWS 在既有平台內提供更多評估工具。團隊仍須確立哪些結果應阻止發布、觸發調查,或為日後改進提供參考。

對買家而言,隨之而來的問題很具體:當供應商報告 agent 品質時,該項衡量代表哪種客戶成果?若沒有這種連結,分數描述測試會比描述產品更清楚。

AgentCore 評估器比較的關鍵在於控制權與覆蓋範圍

AgentCore 評估器比較始於所有權。AWS 的內建評估器使用客戶不能直接修改的預設模型及提示詞。它們為常見行為提供標準化起點,所需配置工作較少。

受管理的第三方選項採用相近的運作模式。AgentCore 託管評估器邏輯並選擇模型。客戶不能選擇受管理的函式庫版本。AWS 明確區分其經基準測試的內建評估器與第三方評估器,後者的品質不獲其背書。

根據第三方評估器文件,DeepEval 覆蓋的行為包括任務完成度、對話完整性、知識保留、工具使用及個人資料洩漏。AutoEval 提供名為 Security、Possible 及 Humor 的專門檢查。

有意義的選擇,是先判斷檢查可偵測哪種失敗,然後再看誰控制其運作方式。

ConversationCompleteness 處理 agent 是否在整段對話中應對請求。KnowledgeRetention 關乎較早前分享的資訊。PIILeakage 檢查回覆是否洩露個人資料。這些標籤描述不同關注點;不應將它們當作一般可靠性的可互換指標。

AutoEval 的 Possible 檢查會問 agent 是否嘗試提出解決方案,還是宣告任務不可能完成。這帶來重要的詮釋限制。一次嘗試仍可能不安全、未獲授權或不成功。該維度的正面結果,不能解決那些獨立問題。

同樣地,Security 評估惡意回應。它的存在並不證明整個應用程式可抵禦所有攻擊。應用程式亦包含權限、工具、外部服務及儲存資料,範圍超越任何正被評分的回應。

對需要模型控制權的團隊而言,自訂衍生評估器會保留基礎評估器的邏輯,同時使用客戶選擇的推論方式。AWS 表示,基礎評估器掌握指令、量表及評估層級。另行編寫的自訂評估器,則提供另一條定義專門評分準則的途徑。

這項區分避免一個常見誤解。更改評審模型與重寫評審準則,是兩項獨立介入措施。兩者均可改變結果,但回應的是不同需求,亦帶來不同維護責任。

設想一個遵循機構審批政策的採購助理。標準工具使用檢查或會評估所選工具是否符合請求。業務專屬檢查則可評估採購是否需要在執行前取得批准。兩種結果均不能取代對方。

這項 AgentCore 評估器比較亦揭示了既有 DeepEval 用戶的延續性問題。熟悉的指標名稱有助連結開發及生產實務。但它們本身不能證明本地與受管理環境的分數完全相同。

評審模型、函式庫版本、可用語境及配置均可影響詮釋。比較不同環境的團隊,應將一致性視為需要衡量的事項。共同名稱是有用的組織簡稱,但不足以證明既有門檻可原封不動地轉移。

證據層級決定哪些失敗會變得可見

Agent trace 是包含模型互動及行動的執行紀錄。Session 將跨多輪的對話歸組。Tool call 則記錄特定操作及其參數。這些層級為同一工作流程提供不同視角。

AWS 的提示詞定義區分 session、trace 及工具層級輸入。其評估提示詞範本顯示,session 檢查會接收整段對話的證據,而其他檢查則會以相關語境針對特定回應或呼叫。

選擇錯誤的證據層級,可能令有效分數回答了錯誤問題。

一個相關回覆可以滿足最新訊息,卻放棄較早前的請求。反過來,一段對話可在中途工具出錯後,最終仍達到正確成果。Session 結果與行動層級結果,描述的是該互動的不同面向。

以一個說明性的旅遊助理為例:它被要求尋找行程,並遵守旅客的無障礙需求。較後的回覆可能正確回答行李問題。但該回覆本身不能證明所建議行程仍符合原有約束。

當團隊匯總結果時,這種區別尤其重要。將整段對話的回覆品質取平均,可能掩蓋整體目標是否已達成。即使對話中的回答一直禮貌,最終仍可能沒有可用的預訂結果。

工具選擇與工具參數亦需要分開關注。選擇訂單查詢工具,與提供正確帳戶識別碼並不相同。合理的工具選擇若配上錯誤參數,即使對話行為合理,仍可導致營運失敗。

Skills 帶來另一項證據要求。Skill 是由 agent 為某項任務載入的可重用指令檔。AWS 的 skill 檢查會在工具呼叫層級評估選擇及遵從情況。評估指令遵從度,需要已載入的 skill 內容及其後的 session 語境。

因此,缺少結果值得在慶祝前先調查。若所需的調用或指令內容從未進入評估,沉默不能證明合規。團隊需要區分已評估的成功與未評估的行動。

Trajectory 檢查引入另一種視角。Trajectory 是執行期間採取的工具行動序列。AWS 描述了相對於預期路徑的完全按序、按序及任意順序比較。這些檢查需要參考 trajectory,而不只是看似合理的最終回覆。

業務必須決定哪些序列約束不可或缺。要求在採購前取得批准,表達的是有意義的依賴關係。強制獨立查詢採用任意次序,則可能懲罰可接受的替代方案。

這正是指南的成果優先方法變得重要之處。預期路徑應編碼業務要求,而不是單純複製開發人員首次記錄的路線。

同樣的推理亦適用於知識工作。建立可搜尋知識庫的團隊,需要區分文件檢索與完整且有依據的答案。找到相關檔案只是中間行動。Agent 是否恰當使用該檔案,則需要額外證據及不同判斷。

AgentCore 評估模式將發佈證據與即時監察分開

AgentCore 評估模式決定證據何時可取得,以及團隊如何使用。按需評估接受由呼叫方提供的工作階段跨度。線上評估會監察經抽樣的生產環境活動。批次評估則透過服務端編排處理多個工作階段。

AWS 的批次評估文件指出一項重要界線:按需評估及批次評估可接受真實標準答案,而線上評估則不可。真實標準答案是指所提供的參考資料,例如預期回應或成功斷言。

生產環境監察分數與以參考資料為基礎的發佈測試,回答的是不同問題。

固定的迴歸測試套件,即針對過往已支援行為的測試,讓團隊可在受控條件下比較變更。同一批案例可揭示某次提示詞修訂是否改善一項要求,同時損害另一項要求。

即時監察則揭示另一件事:真實用戶帶來測試作者未曾預料的要求時,會發生甚麼情況。它的價值來自接觸生產環境行為,包括不熟悉的語言、不斷改變的工作流程,以及意想不到的要求組合。

兩者不能互相取代。精心整理的資料集可能與當前使用情況脫節。生產環境樣本可能遺漏罕見失敗,或缺乏作出明確判斷所需的參考資料。

以一個示範性的支援代理為例,發佈資料集可包含已知的退款資格情境。每個案例均包括相關政策及預期結果。線上監察其後會檢視已部署代理如何處理真實對話,而並非每項請求都附有預先準備的答案。

即時分數下降應觸發調查,但不會自動證明是模型改變、用戶請求變得更困難,還是所擷取的證據變得不完整。解讀這個訊號需要核查這些可能性。

批次結果亦需要在平均值之下作進一步審視。AWS 提供整體摘要及工作階段層級的詳細資料。整體改善可以與某個特定工作流程、語言模式或請求類別中的嚴重失敗並存。

假設一個代理在模型變更後更擅長處理日常請求,但當用戶修訂早前指示時可靠性下降。整體平均值或會提升。該次發佈是否可接受,取決於受影響行為的重要性及發生頻率。

多維度自訂評估器處理另一個相關的報告問題。它們透過共用的評判呼叫,就已命名準則傳回獨立評分。AWS 文件指出,這些維度共用模型及評估層級。

優點是能更清楚看見獨立失敗的準則。解決程度、政策合規及語氣可保持分開,而不會消失於混合評分之中。團隊其後可為每項結果設定不同後果。

限制在於共用執行。一個失敗的評判呼叫可影響所有維度,而需要不同證據或模型的準則應放在其他地方。因此,整合檢查即使可減少重複閱讀相同脈絡,仍會形成設計上的取捨。

對工程領導者而言,這項含意屬於組織層面。發佈閘門、生產環境警報及探索性分析應有明確角色。把它們全部稱為「評估」,並不代表其證據同樣適合每一項決策。

託管評分仍將判斷、私隱及營運成本留給團隊

AgentCore 需要對話內容,以重建及評估行為。AWS 的遙測文件指出,提示詞、完成內容,以及工具輸入與輸出均屬相關證據。遙測是指應用程式為監察及分析而匯出的執行紀錄。

這帶來實際張力。用以偵測資料披露的資訊,本身可能含有敏感資料。評估處理私人紀錄的代理時,團隊需要考慮評估證據如何收集、存取、保留及審閱。

託管評估器可減少基礎設施工作,但不會免除團隊對證據或判決的責任。

遮蔽處理說明了當中的困難。移除敏感資訊可降低暴露風險,但亦可能移除評估是否發生披露所需的脈絡。合適設計取決於評估器必須回答的問題。

例如,經遮蔽的帳戶識別碼可能保留足夠結構,用以核查代理是否始終使用所要求的帳戶。然而,它可能不足以判斷回應是否披露未獲授權人士的資料。這項差異應在推出前塑造證據設計。

以模型為本的評判亦帶來另一項限制。LLM-as-a-judge 使用語言模型,根據指示評估行為。其結果是模型判斷,而非對事實或營運正確性的自動保證。

Anthropic 的代理評估指引形容模型評分器具彈性但非確定性,並強調應與人工審閱者校準。它亦區分回應逐字稿與環境的最終狀態。這可有效平衡任何把託管評分理解為毋須再做驗證工作的說法。

這項比較關乎側重點,而非供應商之間經量度的競賽。AWS 的操作手冊組織評估器選擇及執行流程。Anthropic 的指引則著重評估設計、評分器取捨及檢查結果。兩個來源均未證明某一個託管分數可普遍預測代理可靠性。

當審閱者對成功與否有分歧時,人工校準尤其重要。若政策擁有人本身有不同解讀,評判無法可靠地將該政策操作化。審閱分歧可揭示不清晰的指示、不完整的證據,或獎勵了錯誤行為的評分準則。

營運成本同樣值得具體說明。更多評估器、更長脈絡、重複呼叫及更大樣本,都可增加評估所需工作。相關的商業問題是,每一項新增檢查是否改變決策,或偵測到有意義的失敗。

能識別高成本遺漏的專門評估器,可合理化其營運負擔。與既有指標同步變動的冗餘分數,可能增益甚微。團隊需要證據支持這項區分,而非假定更多評估器便代表覆蓋更廣。

衍生評估器帶來額外的擁有權。選擇評判模型讓團隊擁有控制權,但亦令模型適切性成為其責任。一個作為助手表現良好的模型,仍應針對特定評判任務接受評估。

安全判斷同樣需要審慎。乾淨樣本並不能證明提供普遍保護,而可疑回應值得在其分數以外進一步調查。權限及確定性控制,即無須模型判斷而執行的規則,對於具重大影響的行動仍然重要。

Amazon Bedrock AgentCore Evaluations 可作出的可信承諾,是令衡量更容易取得。現有來源未能證明所有評估器、工作負載及失敗類別之間的獨立準確度比較。買方在審視採用主張時,應令這個驗證缺口保持清晰可見。

下一步值得留意:一致性、覆蓋範圍及決策

下一階段應由營運證據而非目錄規模來評估。在未來數月,最有用的訊號是評估器結果是否符合人工判斷、涵蓋真實失敗,以及影響發佈決策。

最有力的證據將顯示評估捕捉到哪些錯誤,以及團隊因此作出了甚麼改變。

第一個訊號,是在具代表性的案例中與合資格審閱者達成一致。已發表的比較應說明任務、所提供證據、評判準則,以及如何解決分歧。若具重大影響的邊緣案例仍未經審視,即使日常例子上的一致性也較少參考價值。

例如,一個支援部署應區分遺漏的披露與錯誤的披露標記。這些錯誤帶來不同的營運後果。只報告整體一致性,可能掩蓋對業務最重要的差異。

在相關案例中持續一致,將加強對所選評估器組合的信心。持續分歧則指向應縮窄範圍、修訂準則、改善證據,或更換評判。無論結果如何,都比沒有解釋的品質分數提供更有用的資訊。

第二個訊號,是生產環境失敗能否轉化為可重現的評估案例。當觀察到的遺漏或工具錯誤可用於建立保障日後發佈的測試時,監察系統便證明其價值。

這需要的不只是儲存對話。團隊需要足夠脈絡,以理解預期行為並重現相關條件。否則,事件只會成為難以運用的軼事。

若有證據顯示組織會反覆把即時失敗轉化為發佈檢查,將支持該操作手冊的實際價值。若重複發生的事故從不改變測試套件,則會削弱持續評分可提升可靠性的主張。

第三個訊號,是評估是否改變具體的部署決策。一份有用的報告應識別迴歸問題,說明受影響的行為,並描述由此產生的延遲、回滾或針對性修正。

這會將衡量與問責連結起來,也會揭示團隊在發佈出現混合結果時,是否保留不同要求之間的區分。較佳語氣不應自動補償較差的私隱行為。

對企業買家而言,這些訊號意味著應展開更精準的採購對話。要求供應商展示一個具代表性的失敗案例,解釋評估器為何拒絕它,並指出後續的產品改變。詢問哪些重要行為仍未納入目前評估。

對開發者而言,眼前行動是檢視近期一宗儀表板遺漏的失敗。識別辨認它所需的證據,然後決定現有評估器是否合適。若失敗需要提供參考資料,便在受控測試中保留它。若它取決於即時脈絡,便建立該脈絡如何傳達至評估的機制。使用 Amazon Bedrock AgentCore Evaluations 令這些決策可供檢視,然後與對結果負責的人員審閱分歧。哪些不可接受的行為,仍可通過你目前的發佈檢查?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page