AIとサイバーセキュリティ: 先進的持続的脅威に対する軍拡競争

AI駆動の検知システムは、組織が高度で持続的な脅威を扱う方法を変えた。

この変化は、過去1年間のセキュリティチームが報告した滞在時間指標に表れています（Reuters）。攻撃グループは現在、既知のマルウェアシグネチャに頼るのではなく、検知モデルを直接テストしています。これにより、防御者はモデル自体の動作を攻撃対象として扱うことを余儀なくされています。

直接的な結果の一つは、レッドチーム演習とモデル再学習スケジュールのより緊密なループです。以前は四半期ごとにルールを更新していたチームが、今では毎週新しい検知ウェイトをプッシュしています。このプレッシャーは、継続的な評価ループを実行できない組織にかかっています。

AIシステムは新たな攻撃ベクトルを露呈する

攻撃者は公開された脅威レポートで自らのモデルを微調整し、良性パターンに一致するトラフィックを生成します。このアプローチは、静的な侵害指標に依存するルールを回避します。セキュリティベンダーは、敵対的サンプルがモデルにコマンドアンドコントロールトラフィックを見逃させる事例を数週間にわたって記録しています（The Verge）。

組織は方程式の両側で同じ制約に直面しています。新規技術に関するラベル付きデータの不足は防御者の訓練を遅らせる一方、攻撃者はより迅速に例を合成できます。

検知速度と偽陽性負荷のトレードオフ

検知ウィンドウの短縮は、アナリストがトリアージしなければならないアラート量の増加を伴います。チームは、エンドポイントおよびアイデンティティログからの文脈的エンリッチメントと組み合わせない限り、モデル信頼度スコアだけではレビュー負担を軽減しないと報告しています（Bloomberg）。

このトレードオフは人員配置モデルに現れます。アナリストの人員をわずか10％しか増やさなかった企業でも、サポートするデータパイプラインなしに新しいモデルを展開した場合、アラート疲労の上昇が見られました。

現在の公開ベンチマークの限界

独立したテストでは、標準データセットでのパフォーマンスが、暗号化トラフィックやカスタムアプリケーションを備えた本番環境にそのまま適用されないことが示されています。いくつかのベンダーは、標的型回避のリスクを減らすため、モデル詳細を公開リーダーボードから非公開にしています（Google Blog）。

この不透明さにより、ラボ条件を再現できない購入者にとって調達比較がより困難になっています。

次の四半期に注目すべき点

主要なクラウドプロバイダーが暗号化コマンドチャネルをカバーするラベル付きデータセットをリリースするかどうかを注視してください。

ベンダーが静的テストではなくライブのレッドチーム演習から持続的な結果を公開するかどうかを観察してください。

調達タイムラインに影響を与えるモデル文書化要件に関する規制ガイダンスを追跡してください。