CTech AIセキュリティ調査：自動化が人間の研究者に求められる水準を引き上げる
CTechのAIセキュリティ調査では、自動化が現在、研究業務のかなりの部分を担っている一方、それを監督する人間に対する期待も高まっていることが分かった。9月18日に実施されたこの調査には、イスラエルのサイバーセキュリティ企業に所属するセキュリティ研究者30人が参加した。参加者は、AIがログ解析、ドキュメントレビュー、初期コードスキャン、並行調査を担当していると述べた。
この効率化には、明確な逆転現象が伴う。調査が高速化しても、適切な判断の重要性が下がるわけではない。不十分な前提、不完全な指示、過剰な権限が、機械の速度で損害を引き起こす機会を増やすことになる。
そのためセキュリティ研究者は、手作業による調査から、オーケストレーション、検証、説明責任へと移行している。新たな対抗相手は、単なるAIモデルや自動化された攻撃者ではない。信頼できる人間の判断を欠いた自動化だ。
この変化は専門研究チームの枠を超えて広がっている。企業は環境内をエージェント、サービスアカウント、application programming interfaceキー、その他の非人間アイデンティティで満たしつつある。その多くは、機密データを読み取ったり、接続されたシステム全体で操作を実行したりできる。
一方で攻撃者も、同様の自動化を使って脆弱性を探索し、悪用を加速できる。防御側は、生成された結論をすべて信頼することなく自動化しなければならない。また、その作業を行うエージェント自体も保護する必要がある。
その結果、この職業には厳しい新基準が求められている。研究者には、モデルに疑問を投げかける技術的な深さ、エージェントを制御する運用上の規律、そして正確な目標を定義するコミュニケーション能力が必要だ。
CTech AIセキュリティ調査が示す変化
AIは反復的なセキュリティタスクを吸収し、研究者の価値を手作業による成果から、方向付け、検証、技術的判断へと移している。
セキュリティ研究者調査は、イスラエルのサイバーセキュリティ業界で働く30人の専門家から回答を集めた。これは統制された生産性研究ではない。現役の研究チームが変化する業務をどのように捉えているかを、構造的に示したものだ。
調査に参加したすべての企業は、AIがログ解析、ドキュメントレビュー、初期コードスキャンなどのタスクを引き継いだと回答した。回答者の4分の1は、この技術を個人の成果を増幅する力として明示的に表現した。
Asteliaの創業研究エンジニアであるYuval Barakは、この調査で最も強い生産性に関する主張を示した。彼によれば、エージェントが労力を要する作業を処理することで、研究者一人ひとりの成果は従来のおよそ10倍に高まったという。
この数値は、独立した監査を受けた業界ベンチマークではなく、一人の実務家による評価を反映したものだ。それでも、根底にあるワークフローの変化は、回答全体で一貫して見られた。
従来、研究者は仮説を検証する前に、ログを収集し、ドキュメントを検索し、コードパスを比較し、潜在的な発見を整理する必要があった。現在では、エージェントがその複数の工程を同時に実行できる。
人間の役割は、より早い段階で始まり、より遅い段階で終わる。研究者は問いを定義し、ツールを選択し、アクセスを制限し、証拠を検討し、報告された脆弱性が本物かどうかを判断しなければならない。
Linx Securityの最高技術責任者組織に所属するセキュリティ研究者、Roy Itzhakyは、この役割を掘削者ではなくディレクターに例えた。エージェントが複数の経路を探索する一方で、研究者はそれらの経路を整合させ、結果を判断する。
この違いは重要だ。研究は、システムがどれだけ多くの手掛かりを生み出すかで測られるものではない。信頼できる発見には、再現性、関連性、そして証拠による裏付けが必要である。
自動スキャンは、品質を向上させずに仮説の数を増やす可能性がある。また、自信に満ちた文章や説得力のある技術的成果物の背後に、不確実性を隠すこともある。
モデルは疑わしいコードを特定し、もっともらしい攻撃経路を提案するかもしれない。それでも研究者は、その経路に到達可能か、既存の制御がそれを阻止するか、悪用によって意味のある影響が生じるかを判断しなければならない。
同じ原則はドキュメント作業にも当てはまる。AIは過去の調査を要約し、関連する発見を提示できる。しかし、その文脈が最新で完全であり、新しい環境に適用可能であることを保証することはできない。
これは、チームが組織的な記憶を管理する方法を変える。Barakは、知識が個々の研究者にとどまるのではなく、チームの資産になり得ると主張した。
その成果を得るには、文書コレクションにチャットボットを追加するだけでは不十分だ。チームには、整理された証拠、追跡可能な判断、そして信頼できる発見と未完の推測を区別するアクセス制御が必要である。
検索可能なナレッジベースは、ソースの文脈を保持する場合、この移行を支えられる。来歴がなければ、検索の高速化によって、有効な知識と同じ速さで古い前提が広まる可能性がある。
したがって、この出来事は単純な生産性向上の物語よりも大きな意味を持つ。AIは、研究者がどこに労力を費やすか、そしてセキュリティ上の失敗がどこからプロセスに入り込むかを変えている。
反復作業は縮小している。一方、自動化された作業を指定し、監督し、検証する負担は増している。
調査の高速化がセキュリティチームに圧力をかける
生産性の向上は新たな基準を生み出し、攻撃者も同様の自動化を利用できるなかで、研究者に検証済みの結果をより迅速に提供するよう求めている。
セキュリティチームは、ワークフローの両側から圧力を受けている。組織はより多くの成果を期待し、敵対者はAIを使って偵察と試行を短縮できる。
CTechのAIセキュリティ調査は、社内の期待がいかに急速に変化したかを示している。エージェントが数分でドキュメントをレビューしたりコードをスキャンしたりできるなら、長い手作業の待ち行列は正当化しにくくなる。
Tenzaiの共同創業者兼リサーチ担当副社長であるOfri Zivは、従来は数カ月間研究段階にとどまっていた作業も、今では数週間以内に評価、強化、提供されなければならないと述べた。この変化は、研究のパフォーマンスを製品提供に直接結び付ける。
チームが検証を維持できれば、迅速な提供は防御を改善し得る。しかし、早すぎる発見、ノイズの多いアラート、不十分にテストされた制御を助長する可能性もある。
この圧力は、脆弱性管理で特に明らかだ。組織は悪用可能な弱点を見つけ、優先順位を付け、修正を開発し、変化する環境全体でその修正を検証しなければならない。
GoogleのMandiantチームも同様の運用モデルを説明している。同チームのエージェント型レビュー・フレームワークは、複数のエージェントを構造化された検証と人間の専門知識に組み合わせている。
このフレームワークは、専門家がソースコードを調査し、悪用経路を見つけ、潜在的な脆弱性をテストすることを支援するために設計されている。その構造は重要である。制約のないモデル探索は、時間を浪費したり、根拠のない結論を生み出したりする可能性があるからだ。
速度だけでは、防御側が従来から抱える不利を解消できない。攻撃者には機能する経路が一つあればよい一方、防御側は多くの資産、アイデンティティ、アプリケーションにまたがる露出を減らさなければならない。
AIは防御側がその作業を並列化する助けになる。同時に、攻撃者が検索を自動化し、公開された手法を適応させ、公開状態のシステムをより頻繁に調査することも支援する。
Google Cloudは、脆弱性の公開から積極的な悪用までの期間が、2025年後半には数週間から数日に短縮されたと報告した。この観察は、継続的な発見とより迅速な防御的検証の必要性を裏付けている。
これは、AIがすべての悪用期間短縮の原因であることを証明するものではない。ただし、なぜ定期的なセキュリティ作業が現在の運用環境と両立しにくくなっているのかを示している。
年に2回実施するペネトレーションテストは、環境の一時的な姿を捉えるにすぎない。新しいコード、権限、サービス、統合により、その見方は提供直後に古くなる可能性がある。
CTech調査に参加した4社は、独自のAIハッカーまたは社内トレーニング環境を構築したと回答した。これらのシステムは攻撃を継続的にシミュレートし、本番環境で弱点がどのように現れるかをテストする。
調査参加者は、これらのプログラムについて誤検知ゼロの基準を説明した。この基準は証拠を必要とする目標であり、AIセキュリティツールに一般的に備わる性質ではない。
誤検知には依然として現実的なコストが伴う。調査時間を消費し、エンジニアリングチームを中断させ、ユーザーに将来の警告を無視する習慣を与える可能性がある。
見逃しはより危険だ。エージェントは、学習データや利用可能なツールがその攻撃を表現していないために、新しい手法を見落とす可能性がある。
したがって、セキュリティリーダーは検証済みの成果を通じて自動化を判断しなければならない。有用な指標には、再現可能な発見、検知カバレッジ、修復時間、エージェントの結論が却下された割合などがある。
研究者に求められる対応は明確だ。チームは反復的な発見を自動化する一方で、レビュー、テスト、証拠管理への投資をより大きくしなければならない。
この圧力は続く可能性が高い。組織が研究パイプラインに自動化を組み込めば、より遅い手作業中心の処理能力に戻ることは難しくなる。
より難しい問いは、チームが生成される成果と同じ速度で判断力を拡張できるかどうかだ。この問いが、現在セキュリティ研究が直面する中心的な対立を規定している。
AIセキュリティ研究者は掘削者ではなくディレクターになりつつある
この職業における主要な対立は、人間の速度と機械の速度ではなく、人間の判断と監督されない自動化の間にある。
AIセキュリティ研究者は、すべての調査工程を自ら完了することによって価値を生む時代ではなくなっている。その価値は、どの工程を、どのような制約の下で、どのような証拠要件を伴って実行すべきかを決定することに、ますます依存している。
この役割は技術的なディレクションに似ている。研究者は、別々のエージェントにソースコードのレビュー、ドキュメントの検索、ログの調査、競合する仮説のテストを割り当てられる。
並列作業は探索空間を広げる。しかし同時に、単一の手作業による調査では避けられるかもしれない調整上の問題も生み出す。
エージェントは、複数の分岐にわたって同じ誤った前提を繰り返す可能性がある。関連する文脈を失ったり、魅力的だが実りのない理論を追ったり、矛盾する結論を生み出したりすることもある。
Itzhakyは、この危険を鋭い対比で要約した。かつて雑な思考が失わせたのは午後の時間だったが、今ではエージェントの一群を誤った方向へ向かわせる可能性がある。
この発言は中心的な逆転を捉えている。自動化は行動のコストを下げる一方で、不適切に定義された目標のコストを増幅し得る。
人間のディレクターは、調査目標を境界が定められたタスクへと翻訳しなければならない。各タスクには、対象、許可されたツール、停止条件、十分な証拠の基準が必要である。
研究者はまた、エージェントをどの程度独立させるべきかも決定しなければならない。同じ推論パターンを繰り返す複数のエージェントは、有意義な確認を提供しない。
よりよい設計では役割を分ける。一つのエージェントが仮説を生成し、別のエージェントが前提に異議を唱え、制御されたツールが疑わしい挙動を再現できる。
そのプロセスにも人間によるレビューが必要だ。モデルは学習パターンを共有しており、見かけ上の意見の相違が独立した推論を保証するわけではない。
Terra Securityのサイバーセキュリティ研究者であるOfek Havivは、研究者は速度の面でエージェントと競争しているのではないと主張した。その価値は、エージェントの結果が満たすべき基準を設定することにある。
その基準には技術的な真実だけでなく、組織にとっての関連性も含まれる。理論上の弱点でも、制御によって脆弱な経路に到達できない場合、影響はほとんどない可能性がある。
逆に、エージェントが広範な権限を持つ場合、小さな設定ミスでも重大な露出につながり得ます。発見事項に緊急対応が必要かどうかは、状況によって決まります。
研究者は、生成された回答の背後にあるツールも理解する必要があります。リバースエンジニアリングされたコードをレビューする人は、モデルが動作を捏造している場合や制御フローを読み違えている場合を見極めなければなりません。
Islandのセキュリティリサーチ責任者であるIdan Revivo氏は、モデルにプロンプトを与えられても、ソフトウェアのリバースエンジニアリングを学んだことがない新人について警鐘を鳴らしました。その懸念は自動化への抵抗ではありません。
これは検証能力に関する警告です。モデルが自信を持って誤っているとき、それに異議を唱えられるだけの技術的な深さを持つ人が必要になります。
この要件は、若手研究者に求められる水準を引き上げます。従来、初級レベルの業務では、ログ、コード、システム、一般的な障害モードに繰り返し触れる機会がありました。
エージェントがこうしたタスクを担うようになると、新しい研究者は直感を育てる機会を得にくくなる可能性があります。チームは、監督付きラボ、再現演習、敵対的レビューによって、失われた実践機会を意図的に補う必要があります。
調査では、回答者の5分の1が次世代の研究者に対するAIの影響に言及しました。AxoniusのサイバーリサーチディレクターであるRoey Vilnai氏は、知識へのアクセスが経験レベルを問わず期待値を引き上げたと述べています。
ZenityのセキュリティリサーチディレクターであるTamir Ishay Sharbat氏は、これを補完する見方を示しました。彼は事前の専門的な背景なしにサイバーセキュリティの分野に入り、現在では研究者にとってAI活用は必須だと考えています。
これらの見解を合わせると、トレーニング上の課題が浮き彫りになります。AIは知識へのアクセスを広げる一方で、表面的な能力を専門性と誤認しやすくします。
採用プロセスでは、ツールの利用能力と独立した推論の双方を試す必要があります。候補者はエージェントを指示し、その証拠を精査し、モデルが失敗した場合にも作業を継続できるべきです。
チームは、不可欠なスキルのために手作業の演習も維持すべきです。リバースエンジニアリング、エクスプロイト開発、アイデンティティ分析、ネットワーク推論は、純粋に理論的な知識として存続することはできません。
最も優れた研究者は、機械規模の探索と地に足の着いた技術的懐疑を組み合わせます。いつ自動化し、いつ対象範囲を絞り、いつシステムを停止すべきかを理解しているでしょう。
プロンプトを使いこなす能力だけではなく、この組み合わせこそが、この職業における新たな基準になりつつあります。
非人間アイデンティティが攻撃対象領域を拡大する
セキュリティ業務を行うエージェント自体が、組織が発見、制限、監視、無効化しなければならない特権アイデンティティになります。
CTechの調査では、11社がAIエージェントをセキュリティ境界における大きな変化として挙げました。回答者はこれらのエージェントを、APIキー、サービスアカウント、その他の非人間アイデンティティと同じグループに分類しています。
Semperisのセキュリティリサーチ担当アソシエイトバイスプレジデントであるTomer Bar氏は、一部の顧客組織ではすでに非人間アイデンティティが人の数を上回っていると述べました。同氏は、今後数年でその比率が10対1に達する可能性があると予測しています。
この予測は企業幹部による見通しであり、独立して検証された市場測定ではありません。しかし、その根底にあるアイデンティティの問題は具体的です。
エージェントが有用な作業を行うには、データ、アプリケーション、ツールへのアクセスが必要です。こうした接続により、エージェントにはアイデンティティ、権限のセット、あるいは別アカウントを介した借用アクセスが与えられます。
Sweet Securityのセキュリティ研究者であるOmer Nissim氏は、広範な権限と予測不能な意思決定プロセスを組み合わせる危険性を指摘しました。特に、Model Context Protocolサーバーを介して接続されるエージェントに言及しています。
Model Context Protocol、すなわちMCPは、AIシステムを外部ツールやデータソースに接続するための標準です。その有用性は、こうした接続がどのように認可され、制約されるかに左右されます。
ソースコードへの読み取りアクセスを持つエージェントは、あるレベルのリスクをもたらします。クラウド設定を変更し、メッセージを送信し、コードをデプロイできるエージェントは、別のレベルのリスクをもたらします。
OWASPは、過剰なエージェンシーを、過剰な機能、権限、または自律性を伴う状態として説明しています。予期しない、あるいは操作されたモデル出力が、その後に有害なアクションを引き起こす可能性があります。
根本的な問題は、必ずしも悪意ではありません。曖昧な指示、幻覚による結論、侵害されたツール、または注入されたプロンプトによって、本来は正当なエージェントが別の方向へ誘導される可能性があります。
最小権限の原則は依然として主要な防御策です。エージェントには、現在のタスクに必要なツールと権限だけを与えるべきです。
作業に変更が必要でない場合は、読み取り専用アクセスが望ましいです。影響の大きいアクションでは、別の承認経路と、範囲を限定した認証情報を使用すべきです。
組織には、個別のエージェントアイデンティティも必要です。人間の認証情報をエージェントと共有すると、帰属の特定が難しくなり、システムが操作者になりすますことを許しかねません。
NISTの最近のエージェントアイデンティティに関するガイダンスは、エージェントを独立したエンティティとして扱うことを推奨しています。それぞれに、責任を持つユーザーまたはシステムに紐づく識別子、認証情報、権限を持たせるべきです。
このガイダンスは、静的なAPIキーや長期間有効なベアラートークンのリスクも強調しています。こうした認証情報を取得した人は、特定のアイデンティティを保持していることを証明せずに利用できる場合が少なくありません。
このため、認証情報の保管とローテーションはAIセキュリティの一部になります。エージェントのシークレットは、設定ファイル、ログ、メモリストア、ツール出力、デバッグ記録を通じて漏洩する可能性があります。
人による承認ですべての問題が解決するわけではありません。恒常的な権限リクエストは承認疲れを生み、ユーザーが慎重なレビューなしにアクションを承認するよう促す可能性があります。
より強固な設計では、エージェントに承認済みの運用境界を与えます。その境界では、アクセス可能なリソース、許可されたアクション、時間制限、エスカレーション条件を定義すべきです。
監視では最終回答以上のものを記録しなければなりません。セキュリティチームには、ツール呼び出し、アイデンティティの使用、取得データ、変更されたリソース、承認判断の記録が必要です。
こうした証拠は、インシデント調査と日常的な品質管理を支えます。研究者は、エージェントがなぜある結論に至ったのか、またはあるアクションを実行したのかを再構築できます。
所有者も可視化された状態を維持しなければなりません。Itzhaky氏は、エージェントが従業員、自動化パイプライン、または他のエージェントによって作成され得ると指摘しました。
責任を負う所有者がいなければ、忘れられたエージェントが元のタスク終了後も権限を保持する可能性があります。このパターンは放置されたサービスアカウントに似ていますが、自律的な振る舞いにより露出を予測することはより困難になります。
したがって、検出にはエージェントのインベントリ、認証情報、ツール、データアクセス、親子関係を含めるべきです。無効化では、エージェント本体と、そのエージェントが作成した委任アクセスの両方を終了させなければなりません。
ここで、生産性の物語とセキュリティの物語が交差します。組織は、アイデンティティプログラムで統制できる速度を超えてエージェントを導入できます。
結果として生じるギャップは、新たな研究対象になります。セキュリティチームは、他のあらゆるものを調査するためにエージェントを使いながら、エージェントの振る舞いも調査しなければなりません。
自動化は懐疑的な検証に取って代われない
この調査は実際のワークフローの変化を捉えていますが、生産性と精度に関する最も強い主張には、依然として独立した測定が必要です。
CTechのAIセキュリティ調査は、現場で働く研究者からの貴重な一次的観察を提供しています。ただし、30人のコホートはイスラエルのサイバーセキュリティ業界に集中しています。
公開された記事には、無作為抽出サンプル、標準化された質問票、独立監査済みのパフォーマンスデータが示されていません。読者は、その比率を普遍的な労働力の測定値として扱うべきではありません。
回答者による生産性10倍という推定は、検証済みの発見が10倍に増えたことを証明しなくても、有意義な変化を示す可能性があります。アウトプットは、レポート、仮説、コードレビュー、実験、確認済みの脆弱性を意味し得ます。
これらのカテゴリには異なる価値があります。初期発見が10倍になっても、その大半が再現に失敗すれば、作業量が増える可能性があります。
同じ注意は、偽陽性ゼロという主張にも当てはまります。システムは報告対象を絞ることで誤警報を減らせますが、その選択は見逃す脆弱性を増やす可能性があります。
チームは両面を測定する必要があります。適合率は報告された発見のうち有効なものの割合を示し、再現率はシステムが実際に見つける関連する弱点の割合を示します。
ツールは、明白な問題だけを報告すれば正確に見える場合があります。それでも、微妙な攻撃チェーン、不慣れなソフトウェア、長い文脈的推論を必要とする脆弱性を見逃す可能性があります。
Google Cloudの脆弱性に関するガイダンスは、エージェントがトレーニングデータで十分に表現されていない新しい手法やゼロデイ脆弱性を、気付かないうちに見落とす可能性があると警告しています。
この制約は、人間の専門知識に具体的な役割を与えます。研究者はスキャンのカバレッジが狭すぎる場合を認識し、モデルにとって馴染みのあるパターンの外側でテストを設計しなければなりません。
ハルシネーションも別の懸念です。生成されたレポートは、存在しない関数を引用したり、依存関係を誤解したり、不完全なコードから悪用可能性を推論したりする可能性があります。
したがって、再現は管理された環境で行うべきです。信頼できるパイプラインでは、入力、ツールのバージョン、プロンプト、システム状態、観測可能な結果を保存する必要があります。
エージェントの出力には脅威モデリングも必要です。特にシステムが信頼できないWebサイト、リポジトリ、チケット、文書を読む場合、攻撃者はモデルを操作するテキストを仕込むことができます。
この攻撃は間接プロンプトインジェクションと呼ばれます。悪意ある指示は取得コンテンツ内に隠され、エージェントの振る舞いを別の方向へ誘導しようとします。
防御は、悪い指示を無視するようモデルに伝えることだけに完全に依存することはできません。システムには、隔離されたツール、範囲を限定した権限、コンテンツの境界、重大なアクションに対する明示的な承認が必要です。
研究者は、モデルの確信度と証拠の品質も区別しなければなりません。流暢な説明は、弱い発見を完全なものに見せかけることがあります。
強固なレビュー手順では、いくつかの具体的な問いを投げかけます。その振る舞いは再現できるか。脆弱な経路には到達可能か。悪用にはどの権限が必要か。どの制御がそれを防止または検知するか。
この手順では、却下された仮説も記録すべきです。こうした失敗は、チームがベンチマークを改善し、後続のエージェントが同じ非生産的な経路を繰り返すのを防ぐ助けになります。
セキュリティベンチマークとは、システムの振る舞いをテストするために用いられる、定義済みのタスク集合です。内部ベンチマークには、誤解を招く証拠、部分的なアクセス、ツールの失敗、不慣れな脆弱性クラスを含めるべきです。
本番環境でのパフォーマンスは、ベンチマークスコアより重要です。チームは、エージェントの発見を、その後のインシデント、手作業のレビュー、独立したテストと比較すべきです。
人間のレビュー担当者には、自動化バイアスからの保護も必要です。これは、システムが提示したというだけで機械の推奨を優先してしまう傾向です。
レビュー担当者を交代させる、エージェントの確信度スコアを隠す、独立した再現を要求するといった方法は、このバイアスを減らせます。影響の大きい発見では、発見と承認の間により強い分離が必要です。
懐疑論者の主張は、チームがAIを放棄すべきだという意味ではありません。手作業の研究でも脆弱性を見逃し、誤った仮説を追い、不整合な文書化に悩まされます。
より妥当な結論は、より限定的です。AIは研究能力を拡張しますが、チームが規律ある検証を維持して初めて、その能力は有用になります。
新たに高くなった基準は完璧さではありません。エージェントが何をしたかを説明し、結果を検証し、エラーの影響を封じ込める能力です。
継続的セキュリティが次の試金石となる
次の段階は、継続的な検証、測定可能な研究品質、エージェントアイデンティティに対する強制可能な統制によって評価されるでしょう。
注目すべき最初の兆候は、本番ワークフローにおいて継続的なセキュリティ評価が定期的なテストに取って代わるかどうかです。複数の調査回答者は、年2回のペネトレーションテストでは、ソフトウェアと攻撃者の活動の速度に対応できなくなっていると主張しました。
継続的な評価とは、コードとしての資産、構成、アイデンティティ、外部公開面が変化するたびにテストを行うことを指す。セキュリティを終わりのないスキャナー通知の流れに変えるのではなく、より深い人間によるレビューを補完するものであるべきだ。
Googleは、コードをスキャンし、証明を生成し、修正を構築するエージェント型セキュリティパイプラインについて説明している。同社によれば、この手法は社内の数億行に及ぶコードに適用されている。
このシステムは、発見を再現と修正につなげている点で、有用な指標となる。重要なのは、他の組織も、より小規模なデータセット、チーム、インフラで同様の規律を実現できるかどうかだ。
幅広い導入は、この調査の中心的な主張を強めるだろう。一方、絶えないアラートノイズや低い修正率は、その主張を弱めることになる。
2つ目のシグナルは、企業が人間以外のアイデンティティをどのように管理するかだ。エージェントのインベントリは、孤立したAIポリシー文書ではなく、アイデンティティおよびアクセス管理の一部になるべきである。
有意義な進展には、エージェントごとに固有の認証情報、短命なアクセス、委任された認可、明確な所有者、完全な操作ログが含まれる。組織は、人間の操作者を無効化せずにエージェントだけを停止できるべきでもある。
エージェントの行動を、特定のユーザー、タスク、承認済みの運用境界に結び付ける標準や製品に注目したい。この連鎖により、個人の認証情報を共有せずに説明責任を確保できる。
導入が引き続き広範なAPIキーや汎用的なサービスアカウントに依存するなら、生産性はガバナンスを上回る。その結果は、シャドー管理者や予測不能なアクセス経路に関する懸念を裏付けることになる。
3つ目のシグナルは、採用と研修がどう変わるかである。若手研究者には、コード、システム、エクスプロイト、証拠を直接扱う実践経験が引き続き必要だ。
チームは、AI支援を受ける役割に求める能力をより明確に示すべきである。面接や研修プログラムでは、候補者が捏造された調査結果を見抜けるか、モデルの前提に異議を唱えられるか、結果を手作業で再現できるかを評価できる。
健全な移行では、エージェントの監督を軸とした体系的な徒弟制度が生まれる。経験豊富な研究者は、成功した実行と失敗の両方に研修者を触れさせることができる。
不健全な移行では、基礎的な作業が教育的価値を置き換えることなく取り除かれる。その結果、インターフェースは操作できても、その背後にあるシステムを検証できない研究者が生まれるだろう。
これらのシグナルは、セキュリティ専門家と同じくらいエンタープライズの購買担当者にとっても重要だ。権限、証拠、レビュー、失敗時の対応に関する詳細がなければ、ベンダーのAI活用はほとんど意味を持たない。
購買担当者は、誰が調査結果を承認するのか、エージェントはどのように認証されるのか、どのデータを保持するのか、結果を再現できるのかを尋ねるべきである。また、ツールが失敗した場合や、入力に悪意ある指示が含まれていた場合に、システムがどのように動作するかも確認すべきだ。
開発者は、セキュリティレビューが個々のコード変更により近づくと考えるべきである。フィードバックは速くなるかもしれないが、自動化された指摘にも、修正を支援するのに十分な文脈が引き続き必要になる。
ナレッジワーカーが関心を持つべきなのは、エージェントのアイデンティティに関する問題がサイバーセキュリティツールの範囲を超えるためだ。メール、文書、コード、業務システムに接続されたアシスタントは、どれも過剰な権限を持つ人間以外のアイデンティティになり得る。
CTech AI security surveyが最終的に描いているのは、研究者の消滅ではなく、作業の再配分である。機械はより多くの収集と探索を担い、人間は目的、制約、真実に対してより大きな責任を負う。
証拠が中心に据えられるなら、この仕組みはセキュリティを向上させ得る。組織が生成された活動を検証済みの進捗と取り違えれば、リスクは高まる可能性がある。
実務上の問いは、AIがセキュリティ研究に属するかどうかではもはやない。その規模がチームの監督能力を超える前に、自動化に説明責任を持たせられるかどうかである。
セキュリティベンダーや社内チームに対し、権限、証拠の追跡経路、人間によるレビュー、最終的な処置を含む、エージェント支援による完全な調査結果を1件示すよう求めるべきだ。その記録は、漠然とした生産性向上の約束より多くを明らかにする。
