AWS 更新 AgentCore Runtime,加快啟動並支援更大型工作階段
AWS 於 11 月 12 日宣布更新 AgentCore runtime,將隔離式代理工作階段擴展至 8 個虛擬 CPU 及 32 GB 記憶體。此版本亦改變了啟動行為、記憶體使用方式及儲存空間存取。其核心承諾針對一項實際部署難題:代理需要足夠空間完成工作,但並非每個工作階段都需要昂貴且持續運作的環境。
AWS 表示,這次更新保留硬件隔離,同時降低啟動及維持工作階段所需的資源開銷。然而,隔離運算與獲授權行為仍屬不同責任。一個代理即使留在獲分配的環境內,仍可能濫用範圍過大的權限。
這項分野令營運自訂代理基建的團隊,以及評估託管替代方案(包括 Microsoft 的 Azure SRE Agent)的買方面臨壓力。眼前的問題是 AWS 能吸收多少基建工作;更長遠的問題則是,隨着代理承擔更長時間的工作,工作階段身分、已儲存檔案與應用程式權限能否維持一致。
AgentCore Runtime 更新擴展工作階段能力
AWS 正提升隔離式工作階段可處理的工作量,同時改變工作階段的啟動及資源使用方式。
Runtime 是執行應用程式程式碼的環境。AWS 在此版本中擴展該環境,同時維持獨立的執行邊界。每個無伺服器工作階段均使用 Firecracker microVM,這是一種提供硬件隔離的輕量級虛擬機器。
Runtime 公告指出,現時支援最高 10 GB 的容器映像檔。容器映像檔會封裝應用程式程式碼及其相依項目。較大的套件讓團隊有更多空間容納代理所需的函式庫及工具。
當代理的工作不只是生成回應時,這些改動尤其重要。試想一個工程助理檢視程式庫、執行建置、調查故障,並準備建議改動;其執行環境必須能在整項工作期間容納相關工具及暫存檔案。
這個例子說明較大型工作階段的重要性,但並不構成任何效能結果。更多可用資源可為較繁重的工作提供容量,卻無法證明特定程式庫的建置速度,亦不能保證代理會選擇正確的修復方法。
對比較規格的買方而言,這項分別相當重要。記憶體上限描述可用的配置;啟動時間則衡量工作階段生命週期的一部分。兩者都不能衡量最終工作成果的質素。
因此,這次發布改變的是一項部署限制,而非解決整個代理問題。團隊在隔離環境內獲得更多空間,但仍要決定哪些工具應置於其中、信任哪些相依項目,以及哪些操作需要監管。
對維護自家執行服務的團隊而言,這會改變與託管基建方案的比較方式。相關替代方案還包括配置環境、更新環境、觀察故障,以及在工作中斷後清理所需的工程投入。
當內部平台服務特定需求時,這些投入可能合理。AWS 的發布提高了這種理由的門檻;團隊現在需要說明託管工作階段無法滿足哪些需求。
這種壓力應促成更具體的採購討論。買方不必只比較代理支援的籠統說法,而可以檢視哪些工作負載受現有限制所阻,並進一步詢問擴展後的環境能否移除這些限制,同時不引入不可接受的營運約束。
公告指出,此功能已在北美、南美、歐洲及亞太地區的 AWS Regions 提供。機構應先核實其具體部署地點,再把這項地理覆蓋視為完全符合自身需求。
更快啟動令自訂基建承受壓力
當使用者把環境準備視為代理回應時間的一部分時,啟動速度便相當重要。
AWS 的 runtime 功能文件以較狹窄的指標說明這項改善。文件指,使用 2 GB 映像檔時,P75 啟動時間為 1.9 秒,相較以往的 29.7 秒。
P75 指第 75 百分位數,即四分之三已測量觀察值落在該點或以下。這項限定十分重要;百分位數指標並不承諾每個工作階段都會在報告的時間內啟動。
該公司把更快啟動歸因於還原快照,即已初始化代理環境的已儲存副本。這種方式改變了準備工作發生的時點:在建立快照前完成的工作,可在工作階段開始時重用。
商業層面的含意直接明確。若環境準備對使用者而言變得不那麼明顯,團隊便較少理由只為避免啟動延遲而維持備用環境,這會削弱預先保留基建以應付需求的論據。
不過,runtime 啟動時間與實用回應時間仍是不同指標。代理或許能迅速啟動,卻可能要等候模型、擷取文件,或聯絡另一項服務;使用者實際感受到的是合計的延遲。
因此,有用的評估應涵蓋完整工作流程:記錄工作階段何時可用、代理何時開始有實質意義的工作,以及使用者何時收到有用結果。這能把基建改善與其他環節的延遲區分開來。
這項分別可保護買方及供應商免受誤導性比較影響。當 runtime 改善移除了可量度的樽頸,便值得獲得肯定;但它不應因量度從未檢視的應用程式行為而得到額外評價。
承受即時壓力的,是那些自訂系統主要用於補償環境準備緩慢的團隊。他們必須以相同應用程式及工作負載,比較其營運負擔與託管替代方案。
具備專門相依項目的團隊則面對另一個問題:他們需要證據證明,更快的環境啟動在真實的初始化、網絡存取及工具行為下仍能維持。規模較小的示範無法為他們解決這個問題。
快照還原亦引入遷移考量。AWS 警告,在初始化期間建立的憑證、隨機種子、時間戳記及連線需要審慎處理,因為還原後的工作階段會繼承快照狀態。部署程序亦需要時間準備該快照。
這意味着,更快的工作階段啟動涉及應用程式生命週期的決策。開發人員必須區分可重用的初始化程序,以及屬於個別工作階段的數值。若只把遷移視為配置改動,便會忽略這項分別。
對企業買方而言,這成為責任歸屬問題:必須有人檢視代理的初始化行為、批准遷移,並解讀任何故障。託管執行可減少基建工作,但應用程式相容性仍需要明確的負責人。
透過這次發布來說明 AgentCore runtime,其實際意義在於:AWS 正把更多準備工作移入平台。其價值取決於應用程式能否安全利用這些準備工作,以及使用者能否感受到由此帶來的改善。
記憶體計費更貼近實際工作
經濟層面的改動,關乎資源在工作期間的運作方式,尤其是代理在有實質行動之間暫停時。
AWS 表示,代理釋放記憶體後,runtime 會在數分鐘內回收記憶體,而閒置代理會縮減至零。對於暫停的多輪工作負載,該公司聲稱每個工作階段的記憶體使用量最多可降低 68%。
公告亦提到,穩定工作負載可採用已承諾的記憶體基準。該基準設立可計費的最低額度,並容許突增至基準的四倍。這些是不同的使用模式,買方應分開評估。
這項分別對互動式工作尤其重要。使用者可能要求代理調查問題、檢視其發現,並在稍後提供澄清。即使資源需求改變,對話在這些暫停期間仍能保持價值。
持續繁忙的工作則會形成不同的經濟特徵。若代理不斷處理檔案或執行工具,便較少機會釋放資源。因此,宣稱的降幅不應被視為普遍適用的節省假設。
AgentCore runtime 更新改變了財務及工程團隊需要共同提出的問題。他們需要了解何時可回收記憶體、應用程式如何釋放記憶體,以及工作階段實際暫停的頻率。
這需要觀察行為,而非依賴代理這個標籤。對話式介面可以掩蓋密集的背景工作;一個看似複雜的助理,可能大部分時間都在等候人員回應。
解讀縮減至零時也應抱持同樣謹慎。買方應識別哪些資源已停止消耗容量,以及哪些周邊服務仍在運作。儲存空間、模型呼叫及外部工具,都應納入較廣泛的應用程式評估。
商業成果也取決於能否成功完成工作。若故障迫使用者重新開始,同一次較便宜的嘗試所創造的價值便有限。重複工作可抵銷表面的效率提升,並增加挫折感。
這使「已完成且可接受的工作」成為有用的評估單位。團隊可比較達到質素要求的工作所消耗的資源,然後調查節省是源自更佳利用率,還是不完整的工作。
一個示例研究助理可說明為何這點重要:它可能收集來源資料、等候編輯意見,然後按修訂後的要求繼續工作。只有在恢復後的流程運作正確時,暫停期間的資源回收才有價值。
這個例子屬分析情境,而非已報告的客戶成果;其目的是說明,基建經濟效益與應用程式連續性需要一併評估。
已承諾基準亦涉及另一項判斷。可預測的需求可能令最低配置合理,而不規則需求則需要更仔細審視。買方應按觀察到的工作負載建模,而非假設每個代理都能從同一安排中受益。
這正是此次發布為維持大量保留容量的平台團隊帶來壓力的地方。他們需要證明足以合理化這些資源的營運效益。當託管替代方案提供更靈活的用量模式時,單憑熟悉的基建並不是有力的解釋。
儲存空間存取令信任邊界更複雜
獨立的執行環境並不會自動為代理提供正確範圍的已儲存資訊存取權。
AWS 表示,代理可透過檔案系統動態掛載及儲存工作內容,包括支援 FUSE 的 Amazon S3。FUSE 讓應用程式可透過檔案系統介面使用儲存系統。
這讓儲存空間在代理程式的工作環境內更易於存取。不過,公告將另一項功能留待日後推出。它表示,計劃在 re:Invent 前透過附有工作階段標籤的憑證,提供按工作階段劃分儲存資料夾範圍的功能。
截至 11 月 17 日,這項措辭描述的是一項承諾。不應將它改寫成已普遍強制執行、正在保護每個工作階段的功能。
這個分別相當重要,因為運算部署位置與資料授權回答的是不同問題。運算隔離處理程式碼在哪裏執行;授權則決定該程式碼可讀取或變更哪些資訊。
設想一個為客戶準備報告的助手。為它提供獨立環境有助約束其執行範圍;但如果其憑證同時容許存取其他無關客戶的文件,單靠該環境並不能修正這項權限設定。
這個例子並非指稱服務存在漏洞,而是說明儲存方面的說法需要精確解讀。無論檔案系統介面變得多方便,存取控制都必須與預定工作相符。
AWS 的檔案系統設定文件提供了儲存整合的實作背景。買方應連同其應用程式所使用的身分識別和權限,一併檢視該設定。
影響不只限於機密文件。代理程式亦會建立中間檔案、部分結果和日誌。機構需要決定哪些輸出應保留,以及工作完成後誰可取回它們。
因此,持久化與執行隔離應一併評估。刪除執行環境不一定會刪除儲存在其他地方的工作成果;反過來說,保留檔案也不代表另一個工作階段應獲得存取權。
對知識型應用程式而言,這會成為熟悉的資訊管理問題。一個可搜尋的知識庫有助讓技術資料可被檢索。對檢索到的資料採取行動的代理程式,則會帶來額外問題,包括修改權限及下游影響。
關鍵決定涉及每個步驟的權限。獲准閱讀設計文件,並不自然等同獲准編輯程式庫、傳送訊息或發布生成的報告。
因此,計劃中的資料夾範圍限制值得關注,但不應被視為完整解決方案。更狹窄的儲存憑證可加強工作階段與其工作空間之間的關係;但應用程式的行為仍決定代理程式會在該獲授權範圍內嘗試哪些操作。
因此,對 AgentCore runtime 安全性的實用解讀應當具體:平台提供執行邊界及輔助控制措施;機構仍必須把這些控制措施連繫到使用者、工作項目及已儲存的成果。
隔離仍讓應用程式擁有者面對重要決策
硬件隔離限制執行環境;應用程式權限決定當中可用的權限範圍。
AWS 的工作階段安全性指引明確將工作階段與使用者的對應工作交予應用程式後端處理。它亦將權限、相依套件、執行指令及輸入驗證的責任交予客戶。
文件補充了一項值得注意的儲存條件:檔案系統權限資訊可以儲存,但未必會在工作階段內強制執行;代理程式在其中作為唯一使用者運作。因此,熟悉的權限中繼資料不應被假定為內部邊界。
這些細節令此次發布的核心張力更清晰。受管理環境可減省大量營運工作,但仍把具重大影響的應用程式決策留給客戶。買方在將結果責任歸於平台前,須了解這個分工。
提示詞注入,即試圖引導代理程式偏離原有行為的惡意內容,正好說明兩者的分別。敵對文件可影響代理程式,而無須逃離其虛擬機器;其後果仍可能完全發生在原已授予的權限範圍內。
因此,機構需要考慮代理程式跟隨錯誤指示時會發生甚麼事。範圍狹窄的能力可限制後果;廣泛權限則會令同一錯誤帶來更大影響。
這也是競爭比較比功能清單更具參考價值的地方。Microsoft 在其執行隔離架構中,將其營運助手 Azure SRE Agent 描述為把推理、工具執行、身分處理及網絡控制分隔開來。
這些產品服務不同用途,因此比較並不能證明誰整體勝出。不過,它顯示買方為何應檢視權限的配置位置。憑證與執行控制措施的位置,和執行環境同樣重要。
比較 runtime 時,應問的是程式碼啟動後能做甚麼,包括它可檢索的資訊、可聯絡的服務,以及無須進一步審核便可作出的變更。
應用程式可以為具重大影響的操作保留審批,同時容許較低風險的準備工作繼續進行。例如,工程助手可先調查並提出變更建議,然後才獲授權合併或發布變更。
這個例子描述的是架構選擇,而非產品的預設保證。其重要性在於將有用的自主性與不受限制的權限分開。runtime 提供執行這個選擇的場所,但不會代機構作出選擇。
AWS 在公告中列舉客戶帳戶中由代理程式執行工程工作的案例。Okta 描述了程式碼檢查、測試執行及建議的程式庫變更,並配合受身分管治的控制措施。這些說法提供部署背景,但仍屬供應商挑選的客戶證詞。
獨立評估仍須把基礎設施行為與應用程式結果連繫起來。有用的證據包括:失敗的存取嘗試遭拒絕、不正確的工作階段路由被拒,以及具重大影響的操作遵循預定審批規則。
這些結果比泛稱代理程式安全執行更具啟示性,因為它們描述了針對既定要求的可觀察行為。
對企業買方而言,責任問題迫在眉睫。安全團隊需要界定可接受的權限,應用程式團隊需要實作它,平台團隊需要證明執行效果。此次發布改變了它們的基礎設施選項,但沒有免除這些角色。
三個訊號將顯示升級的實際表現
下一階段應按已交付的控制措施、貼近現實的量度,以及已完成的工作來評估。
第一個訊號是所公布的按工作階段劃分儲存資料夾範圍功能能否交付。AWS 已將這項承諾連繫到 re:Invent。買方應留意說明憑證、資料夾和工作階段身分如何連結的文件。
若能交付,將加強平台可對齊執行邊界與持久工作空間邊界的論點;推出安排不清晰或只適用於狹窄範圍,則會限制機構可多廣泛地依賴這項說法。
重要證據將會說明強制執行的行為。買方需要了解工作階段要求不同資料夾、憑證變更,以及工作結束時會發生甚麼事。這些細節決定該功能是否符合應用程式的要求。
第二個訊號是針對特定工作負載的啟動及記憶體改善證據。AWS 已發布量度結果,但買方仍需要來自與自身應用程式相似的結果。當基準測試的條件明確時,其參考價值會更高。
這些證據應區分環境啟動與完成有用工作所需的時間,亦應展示在暫停、恢復互動及持續需求下的行為。這些條件可揭示哪些應用程式最受惠。
若具代表性的工作負載持續出現改善,將加強遷移的理據;若結果集中於狹窄條件,則支持更具選擇性的決策。兩種結果都比把宣傳中最大的改善視為普遍預期更有用。
第三個訊號是機構能否以較少營運投入完成更多可接受的工作。這結合了應用程式可靠性、資源消耗,以及團隊承擔的維護負擔。
更快啟動可以改善體驗,卻未必減少維持應用程式可靠所需的工作;較低記憶體消耗可改善資源利用率,卻不能修正權限問題。買方需要證據證明整個系統有助推進其實際目標。
對正在評估 AgentCore runtime 更新的團隊而言,下一步是選擇一項具代表性的工作,並訂立明確成功準則。所選工作應包括貼近現實的相依套件、一次暫停或中斷、持久化輸出,以及具意義的存取邊界。除了啟動及資源量度外,亦應比較完成結果和營運投入。遷移前先檢視初始化狀態,然後測試代理程式是否只能接觸其工作所需的資訊和操作。把計劃中的儲存範圍限制功能,與現時可用的控制措施分開看待。利用這些發現判斷受管理 runtime 是否真正減輕團隊負擔。當執行速度提升後,問問哪項限制仍然存在:基礎設施容量、應用程式可靠性,還是授予代理程式的權限。



