Amazon Bedrock agentsにSpring AIのリファレンスアーキテクチャ
AWSは11月11日、Javaアプリケーションをツール、会話メモリ、マネージドデプロイメントへ接続するAmazon Bedrock agents向けリファレンスアーキテクチャを公開した。サンプルでは、使い慣れたSpringの開発パターンをエージェントアプリケーションに取り入れている。同時に重要な区別も維持されている。エージェントをデプロイしたからといって、その判断が信頼できると証明されるわけではない。
この公開は、エージェント導入時に既存のソフトウェア基盤をどこまで維持できるかを検討するエンタープライズJavaチームを対象としている。SpringアプリケーションをAIモデルや関連サービスと接続するフレームワークであるSpring AIがアプリケーション層を担う。エージェントのホスティングと運用のためのAWSサービスであるAmazon Bedrock AgentCoreが、支援インフラを提供する。
中心にある緊張関係は、馴染み深いアプリケーションエンジニアリングと、馴染みの薄い意思決定の振る舞いの間にある。サービスはネットワークレベルでは正しくリクエストに応答していても、不適切なアクションを選ぶ可能性がある。AWSはこれらの層を接続する実践的な出発点を提供するが、導入側には依然として、結果、権限、復旧に関する証拠が必要となる。
Amazon Bedrock agentsで何が変わったのか
AWSが提供したのは実装リファレンスであり、新しいBedrockモデルの発表でも、自律性の信頼性を確立するものでもない。
Java agent architectureは、旅行アシスタントと文書処理システムを扱っている。サンプルは、ツール呼び出し、会話メモリ、レジリエンス、デプロイメントを接続する。ツール呼び出しとは、モデルがアプリケーション機能をリクエストし、周辺ソフトウェアがそれを実行する仕組みである。
文書システムでは、ルーティングと評価ルールが使われる。並列の専門エージェント実行は任意の拡張機能にとどまり、バッチエンドポイントは文書を順次処理する。デモ用のガードレールサービスも、本番用Bedrock Guardrailsとは異なる。分散トレーシングと自動評価フィードバックループには、追加実装が必要である。
こうした境界は重要である。アーキテクチャ図は、調達時に重大となる区別を圧縮してしまうためだ。図はサービスへの接続を示せても、すべてのデプロイメントでそのサービスが設定されていることまでは示さない。コンポーネントがある機能をサポートしていても、サンプルが現実的な条件下でその機能を実行しているとは限らない。
開発者にとって、このリファレンスはアプリケーションコードの配置先に関する不確実性を減らす。エンジニアリングマネージャーにとっては、フレームワークを選ぶ前に確認できる具体的な対象となる。セキュリティレビュー担当者にとっては、洗練されたチャットのデモでは見えにくい疑問を明らかにする。
リファレンスアーキテクチャの証拠としての役割は、顧客デプロイメントの報告とは異なる。アプローチを説明し、実装材料を提供する。それは、組織固有の文書種別、アクセス制御、運用条件、業務例外をまたいだ性能を実証するものではない。
旅行情報を取得し、旅程を提案する社内アシスタントを考えてみよう。説得力のある回答は、有用な対話を示す。しかし、航空券の購入、予約変更、他の従業員の嗜好の開示を許可する根拠にはならない。
同じ区別は文書処理にも当てはまる。項目を正常に抽出することと、その項目に基づいて取引を承認することは異なる。アプリケーションチームは、解釈が終わる地点と、重大なアクションが始まる地点を特定する必要がある。
このため、この公開はJavaの構文を超えて重要である。議論を、エンタープライズチームがレビューできるアプリケーション境界へと移している。アーキテクチャはチームに出発点となる語彙を与える一方、受け入れ基準は各自のワークロードで定義しなければならない。
したがって、直近の変化は普遍的なものではなく実践的なものだ。開発者には、モデルとの対話からデプロイ済みサービスへ至る具体的な経路が一つ増えた。それでも、どの判断を自動化に委ねるべきか、どれに確認が必要か、どれをエージェントの権限外にとどめるべきかを決める必要がある。
サンプルを検証可能な出発点として扱うことで、その価値はより明確になる。チームは、自律運用という広範な約束を受け入れる前に、個々の境界を検討できる。
Javaチームは既存スタックを維持できるが、新たな判断を引き受ける
負荷がかかるのは、エージェントのデモを責任ある業務サービスへ変換しなければならないアプリケーション所有者である。
agent sample repositoryには、Javaバックエンドと独立したブラウザインターフェースが含まれる。文書化されたデプロイメントでは、ARM64コンテナイメージをビルドし、Amazon Elastic Container Registryに保存し、Terraformを通じてAgentCore Runtimeをプロビジョニングする。
コンテナイメージは、実行用のアプリケーションコードと依存関係をまとめたものだ。Terraformは、インフラストラクチャを設定として記述する。これらの選択により、クラウドアプリケーションをすでに運用しているチームにとって、デプロイメント経路は馴染み深いものとなる。
ただし、リポジトリのセットアップ要件は、フロントエンドやインフラストラクチャのツールバージョンなどを含め、ブログのウォークスルーの一部と異なる。開発者は、選択したリビジョンに付随する要件を確認すべきだ。コピーした前提条件リストで、実際にデプロイするソフトウェアのレビューを代替してはならない。
より大きな組織上の利点は継続性にある。チームは、既存のコードレビュー、リリース承認、運用責任の枠組みでエージェントを評価できる。モデルが関与するという理由だけで、別の開発プロセスを導入する必要性を減らせる。
一方で、継続性は誤った親近感を生むリスクもある。従来のアプリケーションの挙動は、多くの場合、開発者が記述した明示的な分岐に従う。エージェントは、その分岐の中にモデルが選択するアクションを導入する。馴染み深いデプロイメント機構があっても、その選択が同じように予測可能になるわけではない。
したがって、プラットフォームチームは異なるレビューの問いに直面する。アプリケーションが起動するかを確認することは必要だが、それだけでは不十分である。レビュー担当者は、モデルがどのアクションをリクエストでき、周辺コードが何を許可するのかも理解する必要がある。
たとえば、従業員アシスタントが経費システムへアクセスできるとする。払い戻し規則を読むことと、経費精算を申請することは異なる権限を表す。両方の操作に同じ会話インターフェースを与えても、その結果の違いまで消してはならない。
プロダクトマネージャーにも関連する責任がある。エンジニアがテストできるほど明確に、サービスが許可する結果を記述する必要がある。「経費に関する質問を処理する」という表現は、サポート対象のリクエストと必須の承認ポイントを特定するよりも曖昧さが大きい。
運用チームは別の境界を引き継ぐ。エージェントは、利用不能なインフラ、誤った解釈、不適切なツール選択、未解決の業務例外によって失敗する可能性がある。ユーザーがそれらをすべて「悪い回答」と表現したとしても、各失敗には異なる対応が必要になる。
サポートチームにも、何が起きたかを説明する記録が必要だ。最終回答だけでは、失敗した検索、繰り返されたアクション、失敗したエスカレーションを隠してしまう可能性がある。有用な運用上の証拠は、ユーザーのリクエストと、その結果として生じたアプリケーションの挙動を結び付けなければならない。
こうした判断を文書化するチームでは、searchable knowledge baseによって設計上の前提と運用ガイダンスを利用しやすい状態に保てる。この文書はレビュー担当者と保守担当者を支援するものであり、エージェントの会話メモリとは区別すべきである。
アーキテクチャ上の機会は、確立済みの責任分担を維持しつつ、新しい意思決定層を追加することにある。管理上の課題は、誰かがその層を明示的に所有するようにすることだ。そうでなければ、モデルの挙動はアプリケーション開発、インフラ運用、業務ポリシーの間に取り残される可能性がある。
この責任の問題は、より広い自律性に先立って解決すべきである。責任を割り当てる前にアクセスを拡大すると、後のインシデントの診断と解決が難しくなる。
ツール呼び出しでは、アプリケーションが実行境界となる
モデルはアクションを提案できるが、そのアクションが受け入れ可能かどうかはアプリケーションコードが判断しなければならない。
Spring AIのtool callingドキュメントは、モデルが関数をリクエストし、フレームワークが対応するツールを実行するループを説明している。結果は後続処理のためにモデルへ返される。このドキュメントでは、この構成と、モデルに基盤となるアプリケーションインターフェースへの直接アクセスを与えることを明確に区別している。
この分離は、アーキテクチャを評価するうえで最も有用な方法である。モデルによるリクエストは、提案された意図を表す。ツール周辺の実装が、その意図を外部アクションへ変換するかどうかを決める。
旅程の手配を求めるリクエストを処理する仮想的な旅行アシスタントを想像してみよう。天気を調べることは情報提供である。部屋を予約することは外部システムを変更する。この違いは、モデルにとって両方のツールが似て見える場合でも、認可と確認の挙動に反映されるべきだ。
説明的なツール名だけでは、その境界は確立されない。モデルに注意するよう指示することも同様である。モデルがリクエストを誤解したり、誤解を招く情報を受け取ったりしても有効であり続けるチェックが、アプリケーションには必要だ。
入力検証は、提供された値がアプリケーション要件を満たすかを確認するものであり、この問題の一部に対応する。目的地は存在し、日付は解釈可能で、リクエストは許可されたリソースを参照していなければならない。こうしたチェックは、重大な実行の前に行うべきである。
認可は別の問いを扱う。特定されたユーザーが、要求された操作を実行できるかどうかである。有効な引数であっても、権限のないアクションを記述している可能性がある。こうしたチェックを曖昧な「安全な出力」という概念にまとめると、失敗の特定が難しくなる。
ツール設計は復旧にも影響する。検索は通常、業務状態を変更せずに繰り返せる。申請を繰り返すと、作業が重複する可能性がある。同等のリクエストを繰り返しても追加の業務効果が生じない性質である冪等性は、アクションを再試行できる場合に重要になる。
これはアーキテクチャから導かれるエンジニアリング上の含意であり、すべてのサンプルツールがその保護を実装している証拠ではない。サンプルを適用するチームは、各ツールの実際の挙動を確認すべきだ。会話上のラベルよりも、許可される副作用の方が重要である。
同じ規律は、ツールがモデルへ情報を返す場合にも適用される。応答には、不完全な記録、予期しないテキスト、エラーメッセージが含まれる可能性がある。すべての応答を信頼できるコンテキストとして扱うと、下流の問題が誤った推奨につながりかねない。
アプリケーション所有者は、ツールが失敗したときにエージェントへ何を見せるかを決めるべきである。明確な失敗結果は、モデルに不確実性を説明する機会を与える。成功に見える空の結果は、根拠のない回答を促しかねない。
インターフェースにも、完了に関する誠実な説明が必要である。モデルが流暢な応答を生成したからといって、要求された操作が成功したとは限らない。成功は、その操作を担うシステムからの証拠に基づくべきだ。
ここで、アーキテクチャにおける馴染み深いアプリケーションパターンが役立つ。既存のサービス境界は、権限の強制、記録の検証、結果の記録を行える。モデルは、それらの権威になることなく、その境界内で動作できる。
最も堅牢な実装は、会話が複雑になってもこの分担を維持する。ツールの追加は、有用な能力を拡大しながら、実行判断を検証可能かつ制約された状態に保つべきである。
メモリとマルチエージェントのルーティングはレビュー対象を広げる
追加のコンテキストや専門家ロールは、正確性を自動的に高めるのではなく、検証すべき振る舞いを増やす。
会話メモリは、後のやり取りに備えて情報を保持する。これにより、継続するタスクにおいてアシスタントの有用性は高まるが、保持されたコンテキストは所有権、正確性、削除に関する問題も生む。
記憶された設定が、知らないうちに恒久的な権限へ変わってはならない。従業員が目的地を変更したり、依頼を撤回したり、以前の発言を訂正したりすることはあり得る。すべての過去メッセージを同じ鮮度の情報として扱わず、こうした変更を解決するための振る舞いがアプリケーションには必要だ。
メモリは、別の場所に保存されている記録との関係も明確にする必要がある。会話では承認が説明されていても、業務システムには承認記録がないかもしれない。取引を担当するシステムは、引き続き権威ある情報源であるべきだ。
アイデンティティは、この区別をとりわけ重要なものにする。AWSのランタイムセキュリティガイダンスでは、バックエンドがユーザーとセッションの対応関係を強制しなければならないとされている。ランタイムの分離だけでは、提示されたセッション識別子が要求元ユーザーに属することは保証されない。
分離とは実行環境を分けることである。認可とは、誰がリソースにアクセスできるかを決定することである。この二つを混同すると、インフラ保護とアプリケーションアクセスの間に隙間が生じる。
仮想的なサポートアシスタントを考えると、この問題がわかりやすい。実行環境が分離されていても、アプリケーションが別の顧客の会話を読み込む可能性はある。環境を保護しても、どの履歴を取得するかという誤った判断は修正できない。
専門家へのルーティングは、別種の境界を導入する。ルーターは、リクエストをどの処理経路に送るかを選択する。専門エージェントは、その後により限定されたタスクを処理する。この構成は責任範囲を明確にできる一方、最初のルーティング判断が新たな検証対象となる。
契約書と財務添付資料を組み合わせた文書を考えてみよう。法務コンテンツを示すラベルがあっても、関連するすべての質問が法務上のものだとは限らない。アプリケーションには、曖昧さ、混在する資料、サポート対象外のリクエストに対する方針が必要である。
評価器は、さらに別の区別を加える。ルールベースの評価器は、設定された条件に照らして出力を確認する。モデルベースの評価器は判断を生成する。どちらも有用になり得るが、故障モードと証拠としての価値は異なる。
ルールは欠落フィールドを一貫して検出できても、入力済みフィールドが正確かどうかは立証できない。モデルレビュアーは不整合を見つけられるが、元のモデルと前提を共有している可能性がある。一致だけを証明として扱うべきではない。
関連する業界比較は、アーキテクチャ上のものだ。Anthropicのエージェント設計パターンは、事前定義されたワークフローと、自らの処理を動的に指示するエージェントを区別している。そのガイダンスは、シンプルで組み合わせ可能なアプローチを推奨し、タスクが必要とするときに複雑さを加えることを勧めている。
この視点は、複数エージェントを必然的な到達点と見なす考え方への有益な対抗軸となる。予測可能な処理経路は、自らの処理順序を選択するシステムよりも検査しやすい場合がある。動的な振る舞いには、ワークロード固有の正当化が必要だ。
Javaチームにとって、判断はタスクの不確実性に従うべきである。既知の手順で作業を確実に処理できるなら、追加の調整には測定可能な利益が必要となる。専門家というラベルだけでは、その利益は生まれない。
並列処理にも同じ検証が必要だ。独立した作業は同時に実行できるが、依存関係のある作業には依然として順序が必要である。結果を統合するには、不一致、出力欠落、部分的な失敗に対するルールも必要になる。
実務上の問いは、レビューと復旧の負担を考慮した後で、追加の調整が受け入れ可能な成果を改善するかどうかだ。この問いは、利用するフレームワークやクラウドサービスにかかわらず重要であり続ける。
レジリエンスはサービスを利用可能に保つが、判断を正しくはしない
復旧メカニズムは運用上の障害に対処する一方、成果の品質には別個の証拠が必要である。
リトライは、失敗後に操作を繰り返す。サーキットブレーカーは、障害が発生している依存先への呼び出しを一時的に停止する。タイムアウトは、操作が待機する時間を制限する。これらのメカニズムはサービスの振る舞いを制御するのに役立つが、いずれも回答が正確かどうかを決めるものではない。
アプリケーションは、不正確な推奨を迅速に返すことができる。また、業務操作を部分的に完了したまま、適切に失敗することもある。したがって、インフラの健全性とタスクの完了には別々の定義が必要だ。
仮想的な文書アシスタントでは、完了の成功には正確な抽出、適切なルーティング判断、記録された処理結果が求められるかもしれない。構文的に有効な応答を受け取ったことは、その連鎖の一部しか示さない。
構造化出力は、生成された情報を定義済みの形式に配置するものであり、アプリケーションコードによる結果の利用を容易にする。しかし、情報がソースと一致することまでは保証しない。正しく書式化された日付でも、誤った日付である可能性がある。
信頼度にも同様の注意が必要である。結果に付随するスコアは、チームが自らのワークロードにおいて何を予測するものかを理解して初めて有用になる。高いスコアが、欠けた証拠や明示的な業務上の制約を自動的に上書きしてはならない。
人によるレビューにも運用上の実質が必要だ。結果にフラグを付けることと、責任を負う人が評価できる場所に置くことは異なる。レビュープロセスには、担当者、関連する証拠、処理結果、その後のアクションへの明確な影響が必要である。
誰にも届かないアラートは、意味のある監督を提供できない。届いたアラートであっても、レビュアーがソース資料を確認できなかったり、結果を修正できなかったりすれば不十分だ。チームは完全な引き継ぎを検査する必要がある。
コンテンツ制御は、問題の別の部分に対処する。Bedrock Guardrailsは、望ましくないコンテンツや機密情報を含む入力およびモデル応答に対し、設定可能なフィルタリングをサポートする。こうした制御は、存在するというだけで有効と見なすのではなく、アプリケーションのユースケースに照らして評価すべきだ。
コンテンツフィルタリングと取引の認可は、依然として異なる責務である。丁寧で一般的なリクエストであっても、他人の記録へのアクセスを求めている可能性がある。応答がコンテンツポリシーを満たしていても、ユーザーに認可権限のない業務アクションを説明していることがある。
したがって、このアーキテクチャでは複数の境界における証拠が求められる。チームは、ユーザーが何を要求し、モデルが何を提案し、アプリケーションが何を許可し、外部システムが何を完了したのかを把握する必要がある。
可観測性とは、システムの振る舞いを説明する助けとなるシグナルを収集することである。有用なシグナルは調査を支援するが、それを収集すること自体がリリース判断を生むわけではない。どの成果がデプロイを正当化するかは、依然として誰かが定義しなければならない。
評価とは、代表的なタスクを用いて明示的な基準に対して振る舞いをテストすることである。エンタープライズエージェントでは、通常のリクエスト、曖昧な入力、利用不能な依存先、未認可のリクエスト、以前のコンテキストに対する訂正を含めるべきだ。
目的は、ユーザーがサービスに依存する前に失敗を明らかにすることである。成功するやり取りを中心に最適化されたデモでは、同じ問いには答えられない。作業が受け入れ可能だったかを示さず、リクエスト数だけを表示するダッシュボードも同様である。
プライバシーも、この評価に含める必要がある。会話全文やツールの結果を記録すると、機密情報の独立した収集物が作られる可能性がある。チームは、どの証拠が必要か、アクセスと保持をどのように運用するかを決めるべきだ。
Amazon Bedrockエージェントでは、リリースの境界はサポート対象タスクに従うべきである。社内リサーチアシスタントと財務記録を変更するアプリケーションでは、異なる受け入れ基準が必要になる。同じフレームワークを共有していても、運用上のリスクが同じになるわけではない。
これがここでいう本番運用への準備の実践的な意味である。すなわち、提供する特定のサービスに対して定義された振る舞い、強制された境界、測定可能な成果、実行可能な復旧を備えることだ。
自律性を拡大する前に注視すべき点
次に有用となる証拠は、現実的な運用条件のもとで、アーキテクチャを再現可能なビジネス成果へ結び付けるものになる。
今後数か月で最初に注視すべきシグナルは、ワークロード固有の評価証拠である。チームは、文書化されたタスク、明確な受け入れ基準、識別可能なアプリケーションバージョンに結び付いた結果を探すべきだ。
最も有益な証拠には、失敗したケースと、それに伴う修正が含まれる。それは、開発者がシステムの限界を理解しているという確信を強める。成果の証拠を伴わない、より広範な機能一覧では、中心的な不確実性は解消されない。
評価では、成功した自動化と、人による救済を通じて完了した作業も区別すべきである。レビューは適切な設計上の選択になり得る。しかし、その貢献を隠せば、自律的な性能を評価しにくくなる。
二つ目のシグナルは、完全でテスト済みのアイデンティティ境界である。有用な実装上の証拠は、認証済みユーザーを許可されたセッション、メモリへのアクセス、ツール実行へ結び付けるものになる。
ここでは、成功した会話と同じくらい否定テストが重要である。あるユーザーが別のユーザーの履歴を取得できないことを示せれば、デプロイの根拠は強まる。クライアントが提供するアイデンティティ値に依存すれば、その根拠は弱まる。
ツールの権限にも同じ検証を適用すべきである。権限が狭く限定されたアシスタントは、広範なアクセスと曖昧な保護策を持つアシスタントよりも、運用上の主張を明確にできる。拡大は、より限定されたサービスが意図どおりに振る舞うという証拠に従うべきだ。
三つ目のシグナルは、部分的な失敗からの復旧が実証されていることだ。チームは、アクション開始後に依存先が失敗した場合、応答が中断された場合、またはレビューが必要になった場合の制御された振る舞いを探すべきである。
有用な証拠は、操作が繰り返されるか、不完全な作業をどう識別するか、誰がそれを解決できるかを示す。復旧の成功は、運用設計への確信を強める。フォールバックメッセージだけでは、完了は不確実なままだ。
これらのシグナルは、すべてのエージェントが汎用的な自律作業者になることを求めるものではない。限定されたアプリケーションでも、明示的な承認ポイントを維持しながら有用な結果を提供できる。関連する尺度は、定められた権限の範囲内で、サポート対象の作業を完了できるかどうかである。
AWSは、Javaチームに検討すべき具体的なアーキテクチャを提供した。その長期的な意義は、チームがそれを適応した後に何を検証できるかにかかっている。なじみのある開発パターンは導入を進めやすくするが、振る舞いに関する証拠は導入を正当化しやすくする。
リファレンスを採用する前に、限定されたタスクを選び、成功した完了が何を意味するかを書き出そう。エージェントが読み取れる記録、要求できる操作、承認を必要とする判断を特定する。次に、失敗やアクセス拒否のケースを含む代表的な作業に対して実装を評価する。その結果をアプリケーションの設計判断とともに保持し、将来の変更時に明確な比較基準を持てるようにする。証拠が次の権限またはワークフローを裏付ける場合にのみ、範囲を拡大する。Amazon Bedrockエージェントにとって、有用な出発点となる問いは具体的である。最初のリクエストから最終的なビジネス成果まで、エージェントが停止しなければならない場面も含めて、チームが検証できるタスクは何か。



