Amazon Bedrock 新增由代理主導的遷移指引
AWS 於 11 月 12 日發布 Amazon Bedrock 遷移指引,為編碼代理提供一套先從探索現況、而非直接改動正式環境開始的遷移程序。此新增功能針對由客戶自行管理、用於透過檢索文件為應用程式提供答案的知識庫。其界線相當重要:代理協助準備替代方案,但何時可正式服務用戶,仍由團隊負責決定。
該指引納入 amazon-bedrock skill,這是一套供編碼代理使用的任務指示及參考資料套件。它先進行唯讀評估,並預設止於可供審核的計劃。可選的實作方式會在原有系統旁建立受管替代方案,或產生基礎設施即程式碼,以及透過既有部署流程部署的設定檔。
這讓已在運行以文件為基礎的應用程式的團隊面臨一個具體選擇:他們可以繼續自行管理檢索基礎設施,或在毋須立即放棄既有系統的情況下評估 AWS 的受管替代方案。核心問題是,減少基礎設施工作是否足以彌補檢索行為改變、應用程式更新,以及重新進行驗收程序所帶來的成本。
Amazon Bedrock 遷移從經審核的計劃開始
這項公告改變了團隊準備遷移的方式,但正式環境的驗收決定仍由團隊掌握。
根據 AWS 的遷移指引,代理會先檢視現有設定,然後才提出變更建議。流程會區分可直接沿用的設定、需要調整的設定,以及沒有受支援受管對應方案的設定。受阻的設定會被排除,而非在未明確說明下轉換。
這種分類為審核人員提供的內容,比一份自動產生的部署檔更有用。替代設定會說明目標系統包含甚麼;對應資料亦會解釋來源系統的各項假設如何處理,包括那些無法在不作改動下保留的假設。
對工程經理而言,這是兩項不同的審核工作。確認資源存在,只能證明佈建成功;確認某項設定為何改變,才能判斷建議的目標系統是否仍適合該應用程式。
當既有系統累積了多位負責人作出的決定時,這種區別尤其重要。基礎設施工程師可能了解儲存方案的選擇,而應用程式開發人員則了解篩選條件;但兩者未必知道早期團隊為何選擇某種特定的文件處理方式。
書面的遷移計劃提供了一個整合這些決定的地方。其價值取決於審核人員能否將每項建議變更追溯至既有要求。即使目標設定通過語法檢查,無法解釋的替換仍值得深入調查。
並行建立替代方案亦改變了風險討論的方式。審核人員可在保留可運行參考系統的同時評估候選系統。這讓分歧更容易透過比較解決,而非揣測替代方案將如何運作。
不過,這並不能取代預先界定成功標準的需要。若團隊在沒有驗收準則下開始測試,便可能不斷發現新的理由,去批准或否決目標系統。針對具代表性的問題、存取預期及可接受失敗情況的共識,應先於最終決定達成。
該公告描述的是一套工作流程,而非發表顯示遷移一貫成功的獨立證據。因此,讀者應區分有文件記錄的程序與量度得出的正式環境成果。清晰的流程可提升可審核性;但流程本身既不能證明檢索品質,也不能證明商業價值。
對採購方而言,這使計劃成為值得及早評估的交付成果。它有否揭示遺漏的資訊?有否識別需要指定負責人的決定?有否將技術不相容性與可由某人重新考慮的偏好區分開來?
這些問題讓討論緊扣應用程式,也說明代理願意停下來為何重要。找出阻礙負責任遷移決定的依賴關係,比產生一個看似完整的答案更有用。
基礎設施團隊面對不同的權責決定
受管檢索把營運責任轉向 AWS,但應用程式擁有人仍須界定何謂有用的行為。
AWS 的受管知識庫文件說明,服務會負責資料擷取、儲存、索引及檢索基礎設施。預設值包括受管嵌入模型及重排序模型。嵌入會將內容以數值形式表示,方便比對;重排序則按相關性重新排列候選結果。
由客戶管理的路徑,則讓團隊自行選擇及運行底層儲存系統。這種差異為遷移故事帶來實際利害關係。企業正決定檢索系統的哪些部分值得直接控制,以及哪些部分只消耗維護工作,卻沒有服務獨特需求。
對支援多個應用程式的平台團隊而言,減少重複的基礎設施工作顯然具吸引力。每套獨立的儲存設定都會帶來容量、監控、權限及權責方面的決定。將這些決定標準化,可讓團隊把注意力轉向應用程式行為。
不過,這個論點取決於工作負載。有些團隊刻意維持對檢索基礎設施的直接存取,因為他們需要特定控制。受管目標系統應根據這些要求評估,而不應被視為自動的架構升級。
工程組織面臨的壓力,是要解釋現有的自訂設定。某項設定過去可能解決了特定問題,至今仍可能不可或缺;它亦可能只是因為沒有人重新檢視原有約束,而一直保留下來。
遷移規劃提供了區分這兩種情況的機會。它把對彈性的抽象偏好,轉化為對應用程式實際使用內容的具體審核。該審核可以支持遷移,也可以支持維持現狀。
以一個搜尋產品文件的支援助理為例。其用戶關心答案是否反映正確的產品版本及政策,卻很少關心是哪個儲存系統找出該段文字。
對這類應用程式而言,運行檢索儲存系統只是達成目標的手段。若受管替代方案符合相關要求,便更容易重新考慮基礎設施的擁有權;若它失去必要的篩選行為,營運簡便性也不足以決定取捨。
知識擁有權亦始終有別於基礎設施擁有權。AWS 營運儲存系統,無法判定哪項內部政策具權威性;單憑兩份互相矛盾的文件均成功被索引,也無法化解當中的衝突。
這種區別適用於個人及團隊知識。資訊品質與檢索基礎設施處理的是相關問題,但替換後者並不會修復前者。
財務方面的說法也應採取同樣嚴謹的態度。減少基礎設施工作可能具有價值,但節省多少取決於實際使用量及被替換的資源。團隊應評估遷移期間的重疊運行情況,以及預期的穩定期工作負載。
因此,可合理辯護的採購問題應具體明確:哪些責任會消失、哪些仍會保留、哪些會變得更重要?回答這個問題,需要應用程式擁有人與基礎設施擁有人共同審核。任何一方都無法單獨建立完整理據。
Bedrock 受管檢索改變應用程式契約
可接受請求的目標系統,仍可能與它所替代的系統有不同表現。
最直接的例子是檢索請求本身。受管查詢使用 managedSearchConfiguration,而客戶管理的請求格式則使用 vectorSearchConfiguration。這些欄位指定搜尋行為,因此,僅更改目標識別碼並不足以完成應用程式更新。
AWS 的查詢設定文件亦指出中繼資料篩選存在差異。受管路徑不支援 startsWith 及 stringContains 運算子。保留的系統中繼資料使用底線作前綴名稱,可能影響讀取這些欄位的應用程式邏輯。
這些細節令 Bedrock 受管檢索不僅是基礎設施決定,也成為相容性問題。僅用於內部除錯指令碼的欄位,與用來強制執行應用程式範圍的篩選條件,影響並不相同。審核人員需要知道每項依賴關係出現在哪裏。
設想一個支援應用程式,利用產品系列前綴縮窄結果。若該行為依賴不受支援的運算子,即使資源成功部署,應用程式需求仍未解決。團隊需要一個明確替代方案,以及證明其保留原定界線的證據。
這個例子說明,為何自動產生的設定應與呼叫端程式碼一併審核。基礎設施檔案描述目標系統,而應用程式程式碼則表達用戶如何與其互動。單獨審核其中一方,都會令部分遷移內容未被檢視。
結果數量也需要同樣審慎處理。AWS 將 numberOfResults 記錄為最大值,而非保證值。把較少結果視為服務失敗的應用程式,可能會錯誤解讀有效回應。
更廣泛的啟示是,操作名稱並不能界定完整契約。輸入、預設值、中繼資料、排序及失敗處理都會影響行為。熟悉的名稱可能令變更看來比實際後果更小。
Microsoft 提供了一個有用的比較,但並非本故事的主要對手。其代理式檢索文件描述一條多查詢管線,將檢索到的資料結合起來供應用程式使用。可選的模型式查詢規劃被標示為預覽功能。
這項比較顯示,另一家雲端供應商也正圍繞更高層次的知識介面組織檢索功能。不過,這並不能證明功能、遷移工作量或效能等同;要得出這些結論,須另行按工作負載進行比較。
對現有 AWS 客戶而言,眼前的決定仍是在現行檢索安排與建議的受管替代方案之間作出。轉換供應商會引入額外問題,並分散對已公布遷移路徑的評估焦點。
因此,在任何人將 Amazon Bedrock 遷移視為例行資源建立工作前,應先進行應用程式相容性審核。有用的產出是一份已改變預期的清單,並將每一項分配至程式碼、設定、測試或明確決定。
這種做法亦可提升問責性。當結果改變時,團隊可以調查一項已有記錄的假設,而不是追問代理整體而言是否做得好。具體預期令批准及否決都更容易辯護。
權限感知搜尋仍依賴已驗證的身分
受管理的文件篩選無法取代應用程式驗證使用者身分的責任。
存取控制清單(ACL)會記錄哪些身分可存取文件。AWS 的 ACL-aware retrieval 文件指出,受管理的檢索會依據應用程式提供的身分進行篩選。該服務不會驗證終端使用者身分。
這個界線對遷移審查有實際影響。搜尋結果即使與問題相關,對提出問題的人而言仍可能不適合。因此,檢索驗收必須納入存取權限相關問題,而不只是檢查預期文件是否出現。
以一個涵蓋一般政策及受限制人事資料的員工助理為例。權限廣泛的管理員帳戶或許能正確檢索兩者,但這個結果幾乎無法說明一般員工是否只會取得適當的內容子集。
透過具高權限的開發身分進行測試,可能會掩蓋這項差異。應用程式實際的身分流程需要獨立審查,包括它如何取得及傳遞使用者識別碼。只有在呼叫端提供可信身分時,文件權限模型才有用。
AWS 文件將電郵地址列為 ACL 比對時的使用者識別碼。連接系統之間的地址不一致,可能導致缺少搜尋結果。文件亦區分支援即時權限檢查的連接器,以及依賴所提供或已同步資訊的連接器。
這些事實令身分一致性成為檢索品質的一部分。沒有找到答案,可能反映的是存取權限不一致,而非搜尋相關性不足。將每個空白回應都當作排序問題,會令調查走錯方向。
分析上的結論很直接:團隊需要為不同失敗類別提供獨立解釋。缺少內容、存取遭拒、權限過期,以及不相關的相符結果,不應被歸納成單一的檢索失敗標籤。
這亦影響哪些人必須參與驗收。搜尋工程師可以評估相關性,但身分管理負責人了解帳戶對應及生命週期規則。內容負責人則知道哪些文件應維持受限制狀態。
改變檢索基礎設施的遷移,可能會揭示這些群組之間的分歧。即使這會拖慢批准流程,亦是有用資訊。無法解決的權限假設本身已構成應用程式風險,無論現時是哪個系統處理請求。
對編碼代理的評估而言,同一原則亦適用於審查者要求的證據。一份具說服力的摘要應說明測試使用的身分,以及預期的存取界線。若成功查詢清單缺少這個脈絡,便仍存在重大缺口。
Bedrock 受管理檢索可以提供權限感知篩選,但團隊仍必須評估周邊應用程式流程。這包括身分缺失、不一致,或關聯存取權最近有所變動時會發生甚麼情況。
最有力的驗收論證結合相關性與排除性。獲授權使用者應能找到所需資訊,而受限制資料應維持在其搜尋結果之外。只測試成功路徑,會形成對替代方案不完整的理解。
檢索品質需要部署成功以外的證據
資源配置成功回答的是基礎設施是否已建立;評估回答的是應用程式是否仍然有用。
AWS 的 retrieval evaluation metrics 區分內容相關性與內容覆蓋度。相關性關乎檢索到的文字是否切合問題;覆蓋度則關乎檢索材料是否相對於預期參考資料,包含回答問題所需的資訊。
這個區分為遷移討論提供比泛稱「準確度」更佳的基礎。某段文字可以涉及正確主題,卻不含回答所需的細節。反過來,有用資訊亦可能出現在同時包含干擾材料的結果之中。
以政策助理為例,當問題涉及例外情況時,僅找到政策標題並不足夠。檢索材料必須包含該例外本身,否則後續的答案生成步驟便會從不完整證據開始。
同一問題亦適用於技術支援。疑難排解指南可能與某個裝置系列相關,但未必適用於所要求的版本。檢索審查應反映使用者實際需要答案的條件。
這些都是應以具代表性的任務,而非方便展示的示範,作為驗收基礎的原因。熟悉的問題容易展示系統,困難的問題則會揭示替代方案能否保留使用者依賴的行為。
比較舊系統與新系統仍然有用,但兩者一致並非最終目標。原有系統同樣可能傳回不足夠的文件。在有人將變更標記為倒退之前,改變了的結果值得審查。
這令預期證據扮演重要角色。審查者應知道哪些來源資料支持答案,以及原因何在。這讓他們能夠區分有益的變更與偶然相似。
評估亦應保留檢索與答案生成之間的區別。模型可以根據不完整的脈絡寫出流暢回應。只閱讀最終答案,可能會忽略被看似合理的語言掩蓋的檢索弱點。
AWS 亦分別列出答案衡量指標,包括正確性、完整性、忠實性及引用品質。這些類別進一步說明,有需要同時檢查提供給模型的證據及其產生的回應。
該公告並未提供獨立工作負載基準,以證明遷移指南帶來普遍改善。這個限制應影響文章的結論。現有證據支持一套已記錄的遷移方法,但應用程式層面的效益仍有待團隊自行證明。
營運證據應與相關性證據並列。替代方案可能在安靜的測試期間回答正確,卻在正常流量下有不同表現。因此,延遲、失敗處理及維護工作量都應納入驗收討論。
對 Amazon Bedrock 遷移而言,最有用的成果是一套審查資料包,將設定決策連結至觀察到的應用程式行為。它應讓分歧清晰可見,而非將一切壓縮成整體通過。
這正是編碼代理協助可被評估的地方。問題在於它是否有助產生易於理解的變更及可重現的證據。沒有這些產物的精美解釋,幾乎無法為審查者提供批准投入生產使用的依據。
留意相容性、工作負載結果及營運工作量
下一步證據應來自受支援的設定、具代表性的評估,以及持續營運。
首先,留意 AWS 是否擴展或釐清遷移相容性。實際訊號是文件說明先前較難處理的設定如何對應至受管理目的地。與既有需求相關的具體答案,比一般產品公告更具資訊價值。
這很重要,因為相容性決定可遷移的範圍。一個可處理常見設定的流程,已能幫助部分團隊。若要更廣泛採用,便需要清楚處理那些令其他環境較難遷移的設定及相依關係。
若這些對應變得更完整,評估遷移的理由便會加強。若重要需求仍未獲支援,保留現有架構仍是合理結果。負責任的計劃應容許得出這個結論。
其次,留意來自具代表性工作負載的已發布結果。有用的報告應描述來源材料、查詢選擇、篩選要求及評估方法,並解釋改善結果,以及目的地表現較差的情況。
缺少這些脈絡的標題準確度數字,仍會留下太多未解決問題。買家需要了解受測應用程式是否與自身相似,也需要足夠細節去區分檢索行為改變與評估條件改變。
顯示有用答案及正確存取處理的證據,會加強對受管理路徑的信心。圍繞關鍵篩選或身分整合的重複問題,則會縮窄它對受影響應用程式的吸引力。
第三,留意遷移期後的營運工作量。初始資源建立清晰可見,亦容易展示。更重要的問題是,在一般內容更新及使用者請求恢復後,應用程式需要多少關注。
團隊應尋找有關事故調查、內容新鮮度、權限變更及持續擁有權的證據。這些經驗將有助確立基礎設施整合是否整體減少工作,還是將工作轉移至應用程式整合。
這些訊號讓預期與公告保持相稱。AWS 已記錄一條協助編碼代理準備遷移的路徑,但並未消除工程判斷在需求、證據及生產責任方面的必要性。
對考慮 Amazon Bedrock 遷移的讀者而言,請先識別現有應用程式必須保留的行為。要求一份唯讀評估,將這些需求連結至建議目的地。在評估所生成的變更前,讓應用程式、內容及身分管理負責人參與審查。然後以植根於實際工作的問題比較檢索,包括不應傳回任何受限制資料的個案。讓決策維繫於你可以檢查及重複驗證的證據。一份有用的計劃應解釋為何遷移合理、哪些事項仍未解決,以及哪些觀察結果足以支持保留原有方案。以這個標準判斷受管理路徑是否值得承載生產流量。



