Black Hat NOCが明らかにしたAIセキュリティにおける人間の限界

Black HatのNOCは2億8500万件のアラートを処理してGoogle Newsに取り上げられたが、最も明確な発見は自律型AIセキュリティへの期待に疑問を投げかけるものだった。カスタムエージェントは調査を加速したものの、どの脅威が重要か、また自動化された結論に慎重さが求められるのはいつかを判断したのは、依然として経験豊富なアナリストだった。

ネットワーク・オペレーション・センター（NOC）は、ラスベガスで開催されたBlack Hat USA 2026で2万3000人超の参加者を守った。その環境には、敵対的な研究トラフィック、ライブのトレーニング演習、感染端末、実際の攻撃が混在していた。この組み合わせにより、文脈なしでは通常のアラート件数がほとんど役に立たなくなった。

対立構造はAI対人間のアナリストではなかった。自動化が約束するものと、極めて曖昧なネットワーク内で必要となる判断との対比だった。NOCの経験は、エージェントが役立つ領域、市販製品が不足する領域、そして人間の権限がなぜ中心的であり続けるのかを示した。

Black Hat NOCが実際に直面したもの

Black Hatのネットワークでは、ほぼすべてのシグナルが不審に見えるため、脅威検出は分類問題となった。

Black Hat USAは8月1日から8月6日まで、Mandalay Bay Convention Centerで開催された。主要カンファレンスは最終2日間に行われ、その前に4日間の専門トレーニングが実施された。プログラムには、マルウェア、検出エンジニアリング、プライバシー、暗号技術、AIエージェント、自律型エクスプロイトを扱う200以上のセッションが含まれていた。

NOCチームは会場の既存インフラを監視するだけではなかった。イベント向けに選定した機器へ、すべてのルーター、スイッチ、ファイアウォール、無線アクセスポイントを置き換えた。この統制により、トラフィックに調査や緩和策が必要になった際、チームは即時に対応できた。

NOC field reportによると、100人を超える人員がこの運用を支えた。アナリスト、研究者、エンジニア、脅威ハンターが、Palo Alto Networks、Corelight、Cisco、Arista、Lumen、Jamfの技術とともに活動した。

イベントの規模は劇的に変化していた。初期のNOCは、1500人規模のカンファレンスを3人で守っていた。2026年には参加者数が2万3000人を超え、トレーニングクラスも100を超えた。

より大きな問題は、単純なボリュームだけではなかった。Black Hatでは、ほとんどの企業ネットワークなら即時エスカレーションを招く活動が認められている。参加者はセキュリティツールを実行し、マルウェアを研究し、攻撃を再現し、トレーニングで学んだ手法を試す。

こうした許可された活動は、チームが「Black Hat positives」と呼ぶものを生む。これは、カンファレンスが想定し許可する行動を正確に検出した結果だ。偽陽性ではないが、それでもブロックすることは誤った対応になる。

この区別は重要である。従来のセキュリティ自動化は、不審な活動には封じ込めが必要だと想定しがちだからだ。Black Hatでは、その前提が授業を中断させたり、正当な研究を妨げたりしかねない。アラートがインシデントになる前に、文脈が必要となる。

ネットワークが利用可能になってから15分以内に、ある人物が内部サーバーを攻撃した。この早期の活動は、チームがインフラを即座に統制する必要性を示した。同時に、本物の脅威が許可された実験と並行して現れることも示している。

カンファレンス終了時までに、チームは2億8500万件の情報アラートを受信した。それらのシグナルを1710万件の特定済み脅威に絞り込み、実際にブロックしたのはわずか383件だった。この大幅な削減は、生のアラート量が運用リスクについてほとんど語らないことを示している。

1710万件の脅威と383件のブロック済みイベントとの隔たりこそ、この話の中心的な数字である。自動化ツールは活動を見つけたが、どの活動に介入が必要かを決めたのは人間主導の分析だった。NOCはブロック件数の最大化を目指していたわけではない。

Black Hatのシニア・ネットワーク運用責任者であるNeil “Grifter” Wylerは、この作業を針の山から針を探すようなものだと表現した。候補はすべて、すでに危険そうに見えていた。本当の仕事は、イベントの境界を越えたより小さな集合を見極めることだった。

この環境は、AIセキュリティの失敗を試す厳しい場となる。モデルは、悪意あり、無害、異常といった単純なラベルに頼れない。意図、場所、時期、ID、カンファレンスのルールを解釈しなければならない。

この成果がGoogle Newsの注目を集めたのは、ベンダーのデモがほとんど提供しないものを提示したからだ。エージェントは、時間的制約のあるライブトラフィックに対して動作し、誤った判断には結果が伴った。その価値は、洗練された応答ではなく、証拠と監督に依存していた。

市販のAIセキュリティツールが不足した理由

利用可能な製品では速度、負荷、文脈に関する要件を満たせなかったため、NOCはカスタムエージェントを構築した。

多くのセキュリティ組織と同様に、チームはアラート生成に機械学習を用いるところから始めた。このアプローチは、アナリストが手作業で確認できる以上のデータにわたる異常行動やパターンを特定できる。ただし、その行動に対応すべきかどうかを自動的に説明するわけではない。

NOCの担当者は複数の既存ツールを評価したが、多くはトラフィック負荷を処理できなかった。また、ネットワークの変化に対して十分な速さで応答できない製品もあった。そのため、チームは独自のワークフローに合わせたソフトウェアを開発した。

この決定は、AIセキュリティ調達における一般的な弱点を浮き彫りにしている。購入者はしばしば、モデルの機能、インターフェースの品質、対応インテグレーション数を比較する。しかし運用上の成功は、テレメトリーの品質、応答時間、システムがローカルルールをどれほど適切に表現できるかに、より大きく左右される。

Black Hatのルールは、特にエンコードが難しい。一つの教室内では脆弱性スキャンが通常の行為でも、カンファレンスのインフラに対しては許容されない可能性がある。同じパケットパターンでも、送信元と送信先によって意味が異なる場合がある。

NOCは、Palo Alto Networksのセキュリティ運用プラットフォームとともに、TrevorというAIチャットボットを使用している。アナリストはアドレスについて質問でき、アシスタントはログから関連情報を取得する。これにより、調査を始めるための機械的な作業が減る。

取得が有用なのは、アラートとそれを裏付ける証拠との距離を縮めるからだ。また、これは自律的なインシデント対応よりも範囲が狭い。Trevorは、端末を封じ込めたりユーザーを非難したりする広範な権限を与えられることなく、アナリストを支援する。

チームは2026年のイベントで、NOCgenticと呼ばれるより大規模なシステムを導入した。このマルチエージェント・プラットフォームは、質問を専門コンポーネントに振り分け、テレメトリーを照会し、推奨される次のステップとともに回答を返す。現在では公開されたNOCgentic repositoryがプロジェクトを文書化している。

マルチエージェント・プラットフォームでは、単一のモデルにあらゆる段階を任せるのではなく、タスクに特化した複数のAIコンポーネントを用いる。一つのコンポーネントがネットワーク上の証拠を取得し、別のコンポーネントが質問を解釈したり回答を準備したりできる。ルーティングは焦点を改善できるが、セキュリティ制御を必要とする接続も増やす。

NOCは、NOCgenticを経験の浅い脅威ハンター向けのアシスタントとして位置づけた。その狙いは、レベル1オペレーターのそばにより深い分析支援を置くことだった。この位置づけが重要なのは、専門知識をシステムが配分を助けるものとして扱っているためだ。

チームはまた、制約の少ないバージョンであるSOCgenticも開発した。そのインターフェースであるPostcogは、Precogsと呼ばれるセンサーと連携する。これらの名称は、犯罪が起きる前に予測が届く映画Minority Reportを参照している。

ユーモアはストレスの多い作業中でもインターフェースを受け入れやすくしたが、基盤となる設計は真剣なものだった。アナリストは、反復的なアラートの調査で疲労に直面する。有用なアシスタントは、最終判断を担うことなく、文脈を取得し、質問を提案し、証拠を整理できる。

NOCの経験には、AI支援によるソフトウェア開発も含まれていた。2024年、チームは既存製品に必要な機能がなかったため、Rustベースのネットワーク診断ツールFragglePacketを作成した。Black Hat USA 2026では、AIが開発者による71の機能追加を支援した。

追加機能には、攻撃経路のプロービング、パケットファジング、パケットキャプチャのリプレイ、段階的なHTTPS分析、ルールベースの診断エンジンが含まれていた。パケットファジングは、変更された入力を送信して障害を特定する。パケットキャプチャのリプレイは、記録済みのトラフィックを再現し、制御されたテストを行う。

機能数を独立した検証と混同すべきではない。AIはコード生成を加速できる一方で、欠陥、安全でない前提、不必要な複雑さを持ち込む可能性もある。生成された変更には、なおテストとレビューが必要だ。

AIセキュリティの失敗は、しばしばここから始まる。チームはモデルがコードや調査を生み出す速さを測定する一方、未知の条件下でも結果が正確であり続けるかを見落とす。速度は有用な成果物とレビュー義務の両方を増やす。

Black Hatのカスタムアプローチが成功したのは、テレメトリーと運用手順に結びついていたためだ。大半の企業は、この環境をそのまま再現できない。より小規模なチーム、限られた予算、分断されたログ、インフラに対する統制の弱さを抱えている。

報道によれば、NOCは選定されたテクノロジーパートナーから寄贈されたリソースで運営されている。リーダーたちは、これらの企業をアクセスを購入したスポンサーではなく、運用上のパートナーと説明した。この違いにより、チームは多くの企業セキュリティグループには組み合わせられないツールを利用できる。

したがって、Google Newsを通じてこのプロジェクトを知る組織は、表面的な結論を避けるべきだ。教訓は、すべてのセキュリティ運用センターに複数の自作エージェントが必要だということではない。自動化は、既に整備されている証拠、権限、対応プロセスに適合しなければならないということだ。

Google Newsが浮き彫りにした自動化と判断の隔たり

NOCにとって最も強力なAIの安全策は、自動化された推奨を拒否できることだった。

チームは、人間がループ内に残ることを繰り返し強調した。この表現は曖昧なマーケティング用語になり得るが、Black Hatはそれに具体的な意味を与えた。人が文脈を解釈し、ノーと言う権限を保持した。

この権限は、ネットワークに許可された攻撃的活動が含まれていたため不可欠だった。エージェントはエクスプロイトを正確に検出しても、それが起きた理由を誤解する可能性がある。文脈なしに検出結果へ対応すれば、攻撃を阻止するのではなく研究を妨げかねない。

この問題は、セキュリティ運用における長年の課題に似ている。検出システムは技術的なパターンを認識し、インシデント対応者はビジネスへの影響を判断する。AIはこの作業の速度と提示方法を変えるが、その区別をなくすものではない。

Black HatはAIを、証拠の収集、テレメトリーの検索、プロファイルの構築、次のステップの提案に用いた。流暢な回答を最終的な証明として扱ったわけではない。アナリストは介入前に、基礎となるネットワークデータを調べることができた。

この証拠優先のアプローチは、大規模言語モデルの弱点に対抗する。モデルが生成するのは確率的にもっともらしい言語であり、保証された事実ではない。ツールに接続されると、誤ったデータを選んだり、クエリを誤解したり、根拠のない結論を出したりする可能性もある。

NOCが以前アジアで行った作業は、有用な例を提供した。あるエージェントは、ユーザーアカウント識別子と思われるものを含む平文通信を検出した。アナリストは最初の説明を受け入れず、調査を続けた。

トラフィックは、会議録画に関連するアプリケーションからのものだった。その後のリクエストでTencentのアプリケーション・プログラミング・インターフェースキーが露出したと、network investigationは報告している。チームはその認証情報を使用しなかったため、権限は不明のままだった。

その抑制も分析の一部だった。証拠は認証情報が露出したという主張を裏付けていたが、攻撃者が何にアクセスできたかまでは示していなかった。責任あるワークフローでは、憶測で埋めるのではなく、その不確実性を保持した。

同じイベントでは、2種類のリモートアクセス型トロイの木馬を検知したデバイスに関する別の事例もあった。リモートアクセス型トロイの木馬、すなわちRATは、攻撃者が侵害したシステムを制御できるようにする。複数の独立した検知結果により、偶発的な誤分類の可能性は低くなった。

The Profilerと呼ばれるAIコンポーネントがネットワーク証拠を分析し、そのデバイスはおそらくテクノロジー記者のものだと推定した。その後、人間のスタッフが登録情報と社内の報道関係者ネットワークを用いて、対象を絞り込んだ。

その記者には警告が送られ、企業のセキュリティ担当者に連絡する前にデバイスをシャットダウンするよう助言された。エージェントは特定作業を迅速化したが、結論の検証と慎重を要するやり取りは人が担った。

この一連の流れは、実践的なヒューマン・イン・ザ・ループのモデルを示している。AIが探索時間を短縮し、アナリストが証拠を評価し、権限を持つスタッフが対応を決定した。各段階には明確な責任があった。

一方で、プライバシー上のトレードオフも浮き彫りになる。通信から個人の身元を推定することは、感染したデバイスを持つ人を守る助けになり得る。同じ能力でも、明確なルール、相応性、説明責任なしに組織が使えば、侵襲的なものになりかねない。

Black Hatの特殊な環境が、この懸念を解消するわけではない。カンファレンス参加者は、防御目的で運用される高度に監視されたネットワークに接続する。企業の従業員、顧客、訪問者には、異なる期待や法的保護がある可能性がある。

セキュリティ責任者は、エージェントを導入する前に、何を推論できるかを定義すべきだ。また、身元に関する結論について、保持期間の上限、アクセス制御、エスカレーションルールも必要となる。推論が正しくても、ガバナンス上のリスクを生む場合がある。

もう一つの懸念は、詳細で自信に満ちた機械の推奨を信頼しがちになる自動化バイアスだ。AIが生成する調査サマリーは、矛盾する証拠を省いていても、しばしば完結しているように見える。経験の浅いアナリストは、特にその見せ方の影響を受けやすい。

NOCは、エージェントをシニア人材の専門性を拡張する手段として活用しようとした。回答が証拠と推論の限界を示すなら、トレーニングを改善できる。ジュニアスタッフが独立した確認なしに推奨を承認するようになれば危険だ。

別のインシデント対応に関する警告も、この点を補強している。Gartnerのアナリスト、Craig Porter氏は、社内AIエージェントが認可された権限の範囲内で動作していても、意図しない事象を引き起こし得ると述べた。

Porter氏は、悪意ある攻撃者が存在しないまま有害な結果を生むシステムを、従来のインシデント対応では十分に扱えないと論じた。セキュリティチームは、挙動、設計、意思決定を調査しなければならない。これは、通常のマルウェア封じ込めを超えて責任範囲を広げるものだ。

Black HatのNOCは、防御側から同じ概念上の境界に直面した。認可されたエージェントでも、データの取得、行動の推奨、ソフトウェアの生成を行う一方で、リスクを生むことがある。権限があることと、正しいことは同義ではない。

Google Newsでの配信により、この話題はセキュリティ運用の外にいる読者にも届くかもしれない。そうした読者にとって重要な点はシンプルだ。AIセキュリティは、攻撃者がモデルをジェイルブレイクしたときだけ失敗するわけではない。

防御側がエージェントに過大な権限、弱い証拠、不明確な目的を与えた場合にも失敗する。モデルは指示に従っていても、誤った結果を生み出し得る。人によるレビューは、インシデント後に追加するのではなく、ワークフローに組み込んで設計しなければならない。

NOCはAIの攻撃面での限界も明らかにした

2026年のAI活用攻撃は高速で目立ちやすかったが、防御側はこの優位性が続くと考えるべきではない。

Black Hatのチームは、現在のAI主導型攻撃は比較的検知しやすいと判断した。Wyler氏によれば、これらは高速に動く一方で、ステルス性に欠けていた。その挙動は、カナリア、ハニーポット、その他のデセプションシステムを含む多くのセンサーを作動させた。

カナリアとは、不正アクセスを明らかにするために監視されるリソースだ。ハニーポットは、防御側が不審な挙動を観察できるよう、魅力的な囮を提示する。自動化された攻撃者が多くのシステムに無差別に触れる場合、どちらも有効に機能する。

この発見は、自律型サイバー攻撃に関する最も警戒すべき予測を複雑にする。エクスプロイトの高速化が、より優れた回避を自動的にもたらすわけではない。あらゆるものを試すエージェントは、処理量、反復、不自然なアクセスパターンによって自らを露出させる可能性がある。

ただし、この制約にセキュリティチームが長く安心してはならない。モデルとエージェントフレームワークは改善しており、攻撃者はプロンプトやツールアクセスを洗練できる。失敗した試行からのフィードバックを利用して、ノイズを減らすことも可能だ。

Black Hatの公式2026年アジェンダも、この変化を反映していた。ある基調講演は、AIによって攻撃能力が低コスト化する状況でのシステム防御に焦点を当てた。別の講演は、エージェント時代の脆弱性研究を取り上げたと、基調講演スケジュールは示している。

懸念はAI生成マルウェアにとどまらない。エージェントは、偵察の自動化、脆弱性のテスト、公開情報の組み合わせ、確立されたセキュリティツールの実行を行える。その優位性は、新たなエクスプロイトよりも、しばしば連携と持続性から生まれる。

そのため、ネットワーク証拠の重要性は増している。エンドポイント制御は1台のデバイスで起きたことを記録できる一方、ネットワークテレメトリーはどのシステムが通信したかを示す。どちらの視点も、単独では十分ではない。

NOCが活動を判別できたのは、インフラを管理し、複数の情報源を統合していたためだ。多くの企業には、その可視性がない。クラウドサービス、リモートデバイス、サードパーティーアプリケーション、暗号化された通信により、証拠は異なる所有者の間に分断される。

テレメトリーが不完全な組織では、防御エージェントに与えられる文脈も不完全になる。その結果として生成されるサマリーは、欠落したデータに基づいていながら確実に見えることがある。これはモデルの問題になる前の、可観測性の問題だ。

企業には、より厳しい運用上の制約もある。Black Hatは、参加者が特殊なセキュリティ環境に入るため、積極的な監視と迅速な介入を許容できる。病院、銀行、製造業者は、可用性、プライバシー、規制対象のプロセスを守らなければならない。

NOCがブロックした383件の脅威は、慎重な抑制を示している。より多くをブロックしても、必ずしもセキュリティが向上したとは限らない。正当な業務を妨げ、対応チームへの信頼を損ねた可能性もある。

このトレードオフは、自律型封じ込めに直接当てはまる。アカウントを無効化したり、システムを隔離したりするセキュリティエージェントは、攻撃を迅速に止められる。同じ行動が、収益、患者ケア、生産、進行中の調査を中断することもある。

人の承認は遅延をもたらすが、それを取り除けば、文脈を誤読する可能性があるソフトウェアに運用上の権限が移る。適切な設計は、可逆性と影響に左右される。低リスクの行動には、高影響の判断より多くの自動化を適用できる。

たとえば、エージェントはアラートに所有者データや直近のネットワーク活動を安全に付加できる。封じ込めの推奨を準備することもできる。実稼働データベースの隔離には、より高い基準と強固な認可が必要だ。

NOCは、非常に経験豊富な人員の恩恵も受けていた。オペレーターは、異常な環境の中で何が通常なのかを理解していた。モデルが過去のチケットを読むだけで、その組織的知識を置き換えることはできない。

チームには、エージェントが取得できるよう整備された運用コンテキストが必要だ。これには、資産の所有者、承認済みテスト期間、業務上の依存関係、エスカレーション先が含まれる。検索可能なナレッジベースは、認可された調査に必要なこうした情報の保持に役立つ。

ドキュメントだけでは不十分だ。セキュリティチームは、プレッシャー下でもエージェントが正しいルールを取得できるかをテストしなければならない。また、各推奨に影響した証拠も記録すべきだ。

懐疑的な見方は依然として必要である。報告された結果の大半は、NOCを運用する参加者からのものだった。彼らの主張は真剣なライブ導入を描写しているが、独立したベンチマークを構成するものではない。他の組織では異なる結果になる可能性がある。

FragglePacketへの71件の追加は印象的に聞こえるが、機能の量は信頼性を測るものではない。NOCgenticのリリースは有用な透明性を提供するが、公開コードはすべてのモデル応答が正確だったことを証明しない。

読者は3つの主張を分けて考えるべきだ。AIは明らかに、チームによる情報の取得と整理を支援した。ソフトウェア開発と脅威ハンティングを加速したと報告されている。しかし、専門家による検証の必要性をなくしたわけではない。

この区別により、記事は現実に根ざしたものになる。Black Hatは、エージェントの生産的な活用を示したが、自律型セキュリティ運用の準備が整ったことを示したわけではない。最も信頼できる成功は、ソフトウェアと人の統制された協働から生まれた。

セキュリティチームが次に注視すべきこと

次の試金石は、Black Hatの証拠優先モデルが、より静かな攻撃、通常の予算、より広いエージェント権限の下でも持ちこたえるかどうかだ。

最初の兆候は、Black Hat USA 2027における攻撃のステルス性だ。2026年には、AI主導の活動が多くの防御制御を作動させたと報告されている。意味のある変化は、エージェントがスキャンのノイズを減らし、デセプションシステムに遭遇した後に適応する場合に現れるだろう。

そうなれば、NOCにはより強力な行動分析と、より優れたシステム横断の相関分析が必要になる。これは、現在の検知上の優位性が一時的だという懸念を裏付けることになる。ノイズの多い挙動が続けば、短期的な自律型攻撃に関する主張は弱まる。

2つ目の兆候は、NOCgenticの独立した導入だ。プロジェクトの公開リリースにより、他チームはアーキテクチャを検査し、ワークフローをテストし、失敗を報告できる。通常のセキュリティオペレーションセンターから得られる証拠は、Black Hatでの追加デモンストレーションより重要になる。

導入は、文書化された調査、レビュー時間、訂正率、運用インシデントを通じて測定すべきだ。ダウンロード数やリポジトリへの注目は、関心を示すものであって、セキュリティ上の価値を示すものではない。有用な評価では、支援を受けたアナリストと既存のワークフローを比較しなければならない。

3つ目の兆候は、組織が防御エージェントにどれだけの権限を与えるかだ。情報の取得や要約は、アカウント停止、エンドポイント隔離、ファイアウォール変更、認証情報ローテーションとは異なるリスクを伴う。製品は、こうした区分を「自動化」というラベルの下でますます曖昧にしている。

セキュリティチームは、すべての行動について明確な境界を求めるべきだ。エージェントが変更を推奨するのか、準備するのか、実行するのかを把握しなければならない。ログには、リクエスト、証拠、モデル応答、人による承認、最終結果を保存する必要がある。

こうした制御は、エージェントが認可どおりに動作しながら害を生んだ場合にも役立つ。調査担当者は、なぜシステムが行動したのか、どの情報を用いたのか、誰がその権限を承認したのかを再構築する必要がある。通常のマルウェア対応手順だけでは、これらの問いに答えられない。

Black Hatの結果は、近い将来におけるエージェントの最も安全な役割が、分析の加速であることを示唆している。エージェントは証拠を収集し、ログを結び付け、不足している問いを特定し、対応計画を下書きできる。重要な意思決定の権限は、人が保持すべきだ。

この形でも、十分に大きな価値を生み出せる。アナリストはコンソール間の移動やクエリの整形に費やす時間を減らせる。シニア人材は、経験の浅いチームメイトがより一貫して働けるよう、調査パターンを体系化できる。

ただし、チームは生成された説明を証拠として扱うべきではない。根拠となるパケット、ログエントリ、身元記録、設定こそが証拠である。エージェントのサマリーは、その情報へのインターフェースにすぎない。

Google Newsの読者は、ベンダーが人間による監督をどのように説明しているかにも注意を払うべきだ。「Human in the loop」という言葉は、組織がその「ループ」を定義していない限り、ほとんど意味を持たない。不透明な行動を日常的に承認するだけの担当者では、保護は限定的だ。

実効性のある監督には、時間、相反する情報へのアクセス、そしてモデルの判断を却下する権限が必要となる。レビュー担当者には、オートメーション・バイアスやモデルの限界を扱う訓練も欠かせない。そうでなければ、人間による承認は儀礼的なものになる。

Black HatのNOCは、より強固なモデルを示した。アナリストがネットワークとイベントのルールの双方を理解していたからだ。技術的には悪意あるトラフィックであっても、認可された演習に属するものだと見極められた。このような文脈に基づく権限を自動化するのは難しい。

最後の教訓は、AIがBlack Hatで失敗したということではない。この技術は、セキュリティ分野でも特に厳しい環境の一つで、意味のある業務を担った。その限界が明らかになったのは、チームが実際の曖昧さに対してAIを用いたからこそだ。

NOCの経験は、単純な自動化の物語を、より有用な運用の物語へと置き換える。AIは速度を高め、専門知識へのアクセスを広げ、圧倒的な量の証拠を整理する助けとなった。一方で、カスタムエンジニアリング、広範なテレメトリー、そして人間による抑制も求められた。

セキュリティ責任者は、抽象的な約束を買うのではなく、まず一つのワークフローを検証すべきだ。繰り返し発生する調査を選び、その証拠を定義し、エージェントの権限を制限し、速度と並行して修正も測定する。記録がそれを裏付ける場合にのみ、権限を拡大すべきである。

次のGoogle Newsの見出しは、おそらく、より高速なエージェントやより大規模な攻撃に焦点を当てるだろう。より重要なのは、組織がそれらのエージェントの行動を再構築し、異議を唱えられるかどうかだ。Black Hatの答えは「可能」だった。人が説明責任を負い続けたからである。

この基準は、あらゆる導入の指針となるべきだ。アナリストは証拠を検証し、推奨を拒否し、より大きな損害を生むことなく行動を元に戻せるか。いずれかの答えが曖昧なら、そのエージェントにより広い権限を与える準備はできていない。