top of page

Amazon Bedrock Claude 結構化輸出將 JSON 強制規範移至生成過程

54 分鐘前
讀畢需時 12 分鐘

AWS 表示,Amazon Bedrock Claude 結構化輸出現已涵蓋兩個 Bedrock 端點,將 JSON 格式強制規範由應用程式修復環節移入模型生成過程。結構化輸出會限制回應遵循預先聲明的格式,讓開發人員可在語言模型與下游軟件之間建立更清晰的契約。這項改動針對格式錯誤,同時仍由開發人員負責解讀及處理返回的資訊。

AWS 於 2026 年 10 月 19 日宣布擴展支援。其核心承諾針對維護自訂程式碼的團隊,這些程式碼用於修復格式錯誤的回應,或要求模型再次嘗試。這類工作會與應用程式真正的目的互相爭奪資源:擷取有用資訊、路由請求或協調行動。

Google Gemini 同樣提供基於 schema 的回應,成為有用的業界參考。當前壓力落在仍把模型輸出視為不可預測文字、需要清理的應用程式團隊身上。他們如今要決定哪些修復可淘汰、哪些檢查仍有必要,以及如何區分這些責任。

Amazon Bedrock Claude 結構化輸出涵蓋兩個端點

AWS 指出,功能涵蓋所有可在 bedrock-runtime 及 bedrock-mantle 端點使用的 Anthropic Claude 模型。端點是應用程式傳送請求所經的服務位址。因此,這項公告關乎整合覆蓋範圍,也關乎回應格式。

此版本將 JSON Schema 輸出格式與嚴格工具使用配對。JSON Schema 描述預期資料結構,而嚴格工具使用則把已聲明的結構套用於模型生成的工具引數。AWS 在其 Claude structured outputs 公告中介紹這兩項機制。

營運上的改變是,開發人員可以要求強制執行的結構,而非反覆要求模型遵從格式指示。

當模型置身於較大型的軟件流程中時,這個分別尤其重要。閱讀回應的人可以略過開場白,或識別明顯的格式錯誤。預期接收特定記錄的軟件,一般需要就接收內容達成更明確的協議。

在該協議下,既有的修復邏輯值得重新檢視。部分程式碼存在,只因模型偶爾會以解釋性文字包裝回應。其他程式碼則處理遺漏資訊、服務失敗,或需要更多證據才能作出的決定。這些類別需要不同處理方式。

這項公告提供理由檢視累積下來的複雜度。它並不代表每個應用程式都有相同的清理負擔。已在使用另一種強制輸出機制的團隊,面對的遷移決定與完全依賴提示詞的團隊不同。

跨端點覆蓋對維護多條整合路徑的機構同樣重要。若一項功能僅透過部分基礎設施提供,可能需要各自實作或設定例外。更廣泛的可用性,讓預期的回應契約有機會變得更一致。

不過,端點名稱不應暗示周邊能力完全相同。AWS 的推理端點比較明確確認兩者均支援結構化輸出,同時區分其更廣泛的功能。當中列出 Runtime 的跨區域推理,以及 Mantle 的伺服器端工具執行。

這項分別讓新聞保持在適當脈絡之中。機構選擇端點時,仍須考慮其應用程式如何運作。共同支援某項回應功能,並不會消除有關執行、權限、對話管理或部署位置的決定。

「所有 Claude 模型」這個說法亦須附帶其可用性條件。讀者不應把公告理解為每個模型均存在於每個區域。關鍵問題仍是目標模型與功能能否在實際部署路徑上配合運作。

對現有 Bedrock 客戶而言,這主要是簡化既有整合的機會。對新專案而言,這改變了一項架構假設:回應結構可以成為服務能力,而非應用程式修復工作。

壓力轉向維護 JSON 修復工作的團隊

最明確的壓力對象,是維護防禦性格式程式碼的工程團隊。JSON 是交換結構化資料的文字格式,常把模型回應連接至一般應用程式邏輯。當連接失敗時,開發人員必須同時調查模型及周邊軟件。

當服務已提供所需契約時,原生結構強制規範令格式相關工作更難被合理化。

以一個示例性的支援路由應用程式為例。其模型讀取客戶訊息,並產生類別、緊急程度評估及說明。路由系統隨後把該記錄發送至適當佇列。

格式錯誤會令路由系統完全無法讀取記錄。分類錯誤則會產生可讀記錄,但其中包含錯誤判斷。兩者都會干擾工作流程,卻需要不同補救方法。

修改引號的重試可處理第一個問題。它無法保證客戶的請求屬於所選佇列。把兩種失敗當作同一問題處理,會令可靠性報告的資訊價值降低。

因此,Amazon Bedrock Claude 結構化輸出的實際好處,部分在於組織層面。團隊可把涉及回應契約的失敗,與涉及解讀的失敗分開。當應用程式行為不如預期時,這種區分可令責任歸屬更清晰。

基礎設施團隊可調查失敗請求或不完整回應。應用程式團隊可檢視擷取欄位是否反映來源。業務負責人則可決定某項分類是否值得自動執行。

這種分工也改變團隊評估既有中介軟件的方式,即連接服務的軟件。只修復回應語法的元件,其角色將變得更狹窄。協調工作流程、管理權限或保留證據的元件,則保有獨立用途。

沒有根據可宣稱整個開發人員工具類別已經過時。許多整合在格式以外仍從事有用工作。有意義的問題是,每一層是否仍處理應用程式實際遇到的失敗。

企業買家在審視供應商示範時,亦應採用相同區分。乾淨的記錄證明整合可產生可用形態,卻不代表該記錄準確反映來源,或足以支持穩妥決策。

這個分別對知識工作流程尤其相關。文件可能含有互相矛盾的日期、含糊的擁有權,或其後被其他來源修正的陳述。格式正確的結果可保留這些問題,亦可把它們隱藏在整齊的欄位背後。

把擷取功能連接至可搜尋知識庫的團隊,應保留存取底層證據的能力。結構化記錄有助軟件整理資訊。來源文件則幫助人們判斷該整理方式是否反映實際寫下的內容。

因此,最有力的商業理據將指出哪些工程工作會消失,以及釋放出的注意力會投向何處。「較少格式修復」是一項可具體評估的說法。「可靠自動化」則需要更全面交代準確度、例外情況及行動控制。

受約束生成改變整合契約

受約束解碼會在生成期間限制模型可選的輸出,使其持續符合要求的結構。重要的轉變發生於回應到達應用程式之前。開發人員不再只依賴模型是否願意遵從格式指示。

生成期間的強制規範處理格式變異的源頭,而非在交付後修復每個回應。

提示詞可以用仔細的語言描述所需結構。但該指示仍令應用程式依賴回應是否遵從描述。生成約束則把描述中獲支援的部分,轉化為模型可輸出內容的限制。

這正是此功能值得關注、而不只是另一項回應格式設定的原因。應用程式與模型的關係改變了。它不再接收任意文字並嘗試還原記錄,而是透過明確契約請求一項記錄。

這個分別不代表一般 JSON 解析會消失。解析會把返回文字轉換為應用程式程式碼可使用的物件。可移除的負擔是從格式錯誤輸出中自訂復原,而非讀取結構化資料這項基本工作。

Anthropic 的結構化輸出行為把回應格式與嚴格工具輸入分開。開發人員可獨立或一併使用這些機制。其文件亦指出,拒絕回應及輸出長度限制屬應用程式必須處理的例外情況。

這種區分對既產生報告又請求行動的應用程式很重要。最終報告有回應契約。擬議工具呼叫則有輸入契約。強制規範其中一項,並不會自動建立另一項。

設想一個示例性的文件處理工作流程:它擷取發票資料,並提出相符的帳戶分錄。擷取結果需要可預測的欄位。擬議行動需要接收函式能理解的引數。

業務仍須判斷發票是否屬於所選帳戶。這個問題取決於證據及業務規則。包含有效帳戶識別碼的欄位,並不證明該識別碼指向正確客戶。

因此,嚴格工具使用改善了生成建議與可執行軟件之間的邊界。它為接收系統提供更可預測的物件以供檢查。授權仍是另一項決定,即擬議操作是否應繼續。

Schema 設計也成為產品決策。必填欄位可表達應用程式預期取得資訊,但來源未必包含該資訊。設計人員需要明確方式表示不確定性或缺乏證據。

否則,整齊的契約可能鼓勵具誤導性的介面。應用程式看似完整,因為每個預期位置都有值。讀者可能忽略該值來自來源,還是來自缺乏支持的推論。

相關的設計問題是:當證據不完整時,該記錄代表甚麼。可容納不確定性的 schema,讓下游軟件有機會作出適當回應。隱藏不確定性的 schema,則令該軟件可作出的有用選擇更少。

這正是格式改進與產品質素交匯之處。結構強制執行令已宣告的合約更可靠,同時亦令合約中的弱點變得更關鍵,因為其他系統可以更順暢地使用其輸出。

AWS 加入邁向已宣告輸出合約的更廣泛趨勢

Google 的 Gemini structured outputs 文件同樣描述由所提供 JSON Schema 規管的回應。它將這項能力定位於擷取、分類及供工具使用的結構化輸入。AWS 的公告因此屬於模型整合中既有的發展方向。

競爭焦點正逐漸轉為合約的質素及涵蓋範圍,而非模型能否模仿 JSON。

這比將結構化輸出視為獨特的模型智能主張更有用。產生預期的格式,與理解複雜文件,是兩種不同能力。供應商可以改善前者,而無須證明自己在後者更具優勢。

對買家而言,這改變了比較流程。一個看似正確的示例回應,並不足以作為選擇平台的完整依據。相關比較應包括實際 schema、實際文件及實際部署要求。

供應商支援的 schema 子集很重要,因為生產環境的合約不只有欄位名稱。有些應用程式需要受限制的值、嚴格控制的文字,或複雜的關係;另一些則只需要類型可預期、相對簡單的記錄。

這些應用程式不應獲得相同的相容性評估。一項功能可能適合直接的分類任務,但面對要求更高的資料合約時,則可能需要額外工作。廣泛的市場宣傳措辭無法解答這個特定應用程式的問題。

獨立研究提供了一種有用方式來組織評估。JSONSchemaBench research 檢視效率、約束涵蓋範圍及所產生輸出的質素。這些維度提供的框架,比只計算成功解析的回應更全面。

該研究不應被表述為對這次 10 月 Bedrock 發布的基準測試。它支持的是一種評估方法,而非對新公告作出效能判定。AWS 需要提供針對該版本的證據,才能支持這個更強的結論。

對企業團隊而言,效率關乎產生可用結果所需的資源和時間。涵蓋範圍關乎系統是否遵守預期合約。質素則關乎回傳內容是否能完成任務。

這些維度彼此互動,但不能混為一談。一份易讀卻包含錯誤客戶名稱的記錄,仍然是差劣結果。一次準確的擷取若反覆未能符合應用程式要求的合約,同樣會帶來營運工作。

因此,眼前的競爭壓力落在脆弱的整合假設上。以「禮貌地要求,然後修正」為核心建立的系統,現在多了一個原生替代方案。團隊需要說明,為何每項餘下的修正或轉換仍應保留在其架構中。

這並不代表應只根據結構化輸出支援來選擇供應商。現有基礎設施、模型適用性和營運要求依然相關。但這確實要求將回應合約視為平台的一部分來評估,而非把它當作附帶的提示行為。

對 AWS 而言,這項公告擴展了 Claude 現有分發渠道的用途。對客戶而言,關鍵問題是其所選部署能否支援應用程式實際需要的合約。這比泛稱哪個模型能寫出更乾淨的 JSON,更是一項具體的決策。

Schema 合規仍留下準確性與文件問題

AWS 自身文件存在一個明確的驗證缺口。公告和端點比較均指出 Mantle 支援,但一般的 Bedrock structured-output guide 仍表示 Mantle 上的 Messages API 會拒絕相關格式參數。

這些說法互相矛盾。較新的公告和明確的端點註記指向支援範圍擴大,但並未解釋與指引相衝突之處。開發人員應先驗證預定的請求路徑,才可把不同文件示例視為可互換。

現有證據支持所報告的擴展,但相互矛盾的指引限制了讀者對每項部署細節作出高度確信推論的程度。

同一指引描述的是 JSON Schema 的支援子集,而非不受限制的支援。它將數值邊界及字串長度限制列為不受支援的功能,亦說明語法編譯與快取,因此 schema 複雜度會影響請求行為。

這些細節收窄了「符合 schema」的含義。生產環境 schema 可以表達服務並不會強制執行的要求。應用程式需要區分已強制執行的結構,與仍由自身承擔的要求。

例如,一個示例排程系統可能預期數值時長處於允許的業務範圍內。收到一個數字可確立其類型;要確立該時長是否可接受,則需要在某處強制執行相關限制。

這與事實準確性不同。一個時長可以符合業務範圍,卻仍錯誤表述來源文件。完整的可靠性評估需要保留這兩個問題,而不是把成功驗證當作最終結果。

AWS 的公告本身亦指出,拒絕回應和 token 限制都是需要處理的情況。token 限制會約束可產生輸出的數量。若生成在完成前停止,應用程式不能假定自己已收到承諾的完整記錄。

這些例外很重要,因為應用程式會透過完整的服務互動處理回應。回應內容、完成狀態及下游行動,同屬一個營運序列。只看回應內容會忽略決定下一步所需的資訊。

適當的做法是有針對性地簡化。若原生強制執行已覆蓋格式修正,而團隊自身測試亦支持該決定,團隊可以移除相關修正工作;但仍應保留針對不完整執行、不受支援要求或不準確解讀的檢查。

安全邊界同樣值得分開處理。格式正確的指令,仍可能要求執行使用者沒有權限進行的操作。接收系統必須獨立執行存取控制,不能取決於所建議參數與其 schema 的符合程度。

此外亦存在量度風險。遷移後,儀表板可能顯示解析失敗減少,卻忽略擷取質素的變化。一個更整潔的技術指標,可能令工作流程看似更健康,卻未能證明業務成果有所改善。

因此,買家應在錯誤真正造成影響的層面要求證據。若應用程式負責路由請求,就應檢查路由決策;若它擷取責任,就應將這些責任與來源作比較。格式成功是這項工作的有用基礎,但其角色應有清晰界限。

Bedrock 推出後值得關注的事項

未來數月應可釐清這次擴展在實際部署中的表現。最有用的訊號涉及文件一致性、應用程式效能,以及現有修正程式碼的去向。每一項都提供不同方式,測試公告的實際價值。

最有力的證據,將顯示哪些工作得以消失,同時仍能保留準確結果和受控行動。

首先,留意 AWS 是否會協調其互相矛盾的 Mantle 指引。一般指引、端點比較和可運作示例之間的對齊,將提高人們對已聲明涵蓋範圍的信心。若分歧持續,整合驗證仍會是客戶關鍵路徑上的工作。

這是一個具體的發布訊號,而非對未披露路線圖的預測。文件應讓開發人員無須反向推敲矛盾指示,也能識別受支援的請求。清晰示例亦會令失敗情況更容易診斷。

模型及區域資格同樣屬於這項觀察。當團隊能找到其預定部署及相關限制時,廣泛的公告才會在營運上真正有用。精確的相容性資訊可提升擴展支援的價值。

其次,留意是否出現使用具代表性應用程式工作負載的評估。有用的結果應區分格式失敗、不完整回應、錯誤的擷取值和行動失敗。將它們合併為單一成功率,會掩蓋系統哪個部分有所改善。

效能報告亦應區分新的 schema 與重用的 schema。編譯帶來的條件與日常請求不同。經常變更合約的應用程式,需要與這種行為相符的證據。

同一原則亦適用於文件難度。整潔的示例證明某功能可在受控情況下運作;凌亂的輸入則揭示周邊工作流程能否處理缺失資訊、歧義及互相衝突的證據。

若結果顯示格式失敗減少,而任務準確性未有減弱,將加強遷移的理據。若結果顯示人工修正持續存在,便需要更仔細檢視 schema 設計、不受支援的限制或整合選擇。兩種結果均不能單憑精美展示推斷出來。

第三,留意團隊能否淘汰既有格式程式碼,而無須在其他地方重建同等複雜度。移除一個復原迴圈的遷移,帶來具體的維護效益;僅把迴圈搬遷的遷移,則值得作出更保留的評估。

最有力的說法應描述被移除的程式碼原本做甚麼,以及現在由甚麼處理該責任。它亦應指出為保障事實正確性及安全執行而保留的檢查。這個區分可令工程改進同時讓開發人員和買家理解。

Amazon Bedrock Claude structured outputs 為團隊提供理由,重新評估靈活語言生成與可預期軟件輸入之間一項熟悉的取捨。眼前機會比「到處都可實現可靠自動化」的承諾更狹窄,也更具可操作性:它關乎將受支援的格式保證移入服務之中。

先從一個你已了解其格式失敗情況的工作流程開始。使用實際遇到的文件和例外情況,比較其現有修正負擔與新的回應合約。保留將擷取值連結至其來源的證據,並在具影響力的行動周邊維持授權檢查。記錄哪些失敗消失、哪些仍然存在,以及哪些變得更易診斷。然後利用這些結果,決定更廣泛的遷移是否有利於應用程式。你的團隊能否移除格式工作,同時令餘下的可靠性責任更容易看見?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page