Brad SmithのAI規制警告、米国の自主規制路線に疑問を投げかける

Microsoft社長のBrad Smithは今週、人工知能には牛乳や洗濯機よりも安全管理が少ないと率直に警告した。AIエージェントの運用上の自由度が高まる中、Brad SmithのAI規制論は、業界の自主規制を重視するワシントンの姿勢に異議を唱えている。

Smithは政府に対し、高度なシステムについてインシデント報告、被害者への通知、独立した評価、緊急制御を義務付けるよう求めている。こうした提案は、責任ある企業は従う一方で慎重さに欠ける開発者は無視できる自主的な約束を超えるものだ。

この対立は、単にMicrosoftと規制緩和の対立ではない。開発スピードの維持を意図した自主的な約束と、強制力を持つ製品安全ルールとの競争である。欧州連合はすでに拘束力のある義務を選択している一方、米国では規制当局にどこまで権限を与えるべきかについて議論が続いている。

Brad SmithのAI規制発言、より高い基準を提示

Smithの中心的な要求は、重大な失敗が日常化する前に、高度なAIに強制力のある安全義務を課すべきだというものだ。

10月11日に公開されたBBCのインタビューで、SmithはAI監督を一般消費者製品に適用される検査になぞらえた。牛乳や洗濯機は確立された安全要件を満たさなければならない一方、多くのAIシステムは同等の発売前審査を受けずに利用者へ提供されている。

このたとえは意図的に鋭いものだった。牛乳規制は汚染、表示、取り扱い、追跡可能性を対象とする。家電製品の規則は電気的危険、エネルギー使用、予測可能な機械的故障を扱う。AIは異なるリスクをもたらすが、Smithの比較は、同様に成熟した説明責任の仕組みが存在しないことを問題視している。

彼の主張には4つの実務的な措置が含まれていた。開発者は緊急制御を維持し、重大なインシデントを記録し、AIを利用した侵害の被害者に通知し、とりわけ重大な影響を及ぼすシステムを公開する前に独立評価を受け入れるべきだという。

キルスイッチとも呼ばれる緊急制御は、システムの挙動が承認された範囲を超えた場合に、運用者がそのシステムを停止または制限できるようにするものだ。一見すると単純に聞こえるが、自律型エージェントはこの考え方を複雑にする。

AIエージェントとは、限られた人間の指示のもとで、複数の手順を計画・実行できるソフトウェアである。システムの閲覧、ツールの呼び出し、コードの作成、データの移動、他サービスとの通信などを行う可能性がある。

1つのモデルを停止しても、分散したワークフローが必ず止まるとは限らない。必要な制御は、認証情報、ネットワークアクセス、ツール権限、複製されたエージェント、下流のアプリケーションまで対象にする必要があるかもしれない。

そのためSmithは、モデルの精度だけでなく運用上の説明責任に焦点を当てた。エージェントが想定された境界を逸脱し、別の組織を侵害した場合、影響を受けた当事者は正式な通知を受けるべきだという。

この提案は、サイバーセキュリティ法やプライバシー法で用いられる侵害通知ルールに似ている。記録を残し、期限を定め、被害者に被害を封じ込めるために必要な情報を提供する。

インタビューで説明された世界的な安全ルールによれば、Smithはまた、AI製品の公開前に外部評価者による審査をいつ行うべきかを政府が決めるよう求めている。彼はAIをツールであると同時に武器でもあると表現した。

Microsoftは長年にわたり、同様の制御策を提唱してきた。同社の2023年のガバナンス・ブループリントでは、電力網、水道システム、交通の流れを含む重要インフラをAIが制御する際の安全ブレーキを求めていた。

AIガバナンス・ブループリントも、AI監督をテクノロジー企業だけに委ねるべきではないと主張していた。Smithの最新の発言は、その立場を自律型エージェントとサイバーリスクを軸にさらに明確にしている。

この変化は重要だ。生成AIはもはやテキストや画像を出力するだけではない。新しいシステムは、ブラウザー、ターミナル、データベース、企業向けアプリケーションを通じて行動を実行できる。

チャットボットの誤りは1人の利用者を誤解させる可能性がある。認証情報を持つエージェントは、人間が介入する前に記録を変更し、機密データを公開し、自動化された一連の行動を引き起こすことができる。

この違いにより、インシデント報告はより重要になる。開発者が出来事を選択的に開示したり、重大インシデントを互いに異なる方法で定義したりすれば、組織は繰り返される失敗を分析できない。

Smithの警告は、AIが文字どおりあらゆる場所で規制されていないことを証明するものではない。プライバシー、消費者保護、差別、製造物責任、著作権、分野別の法律はすでに適用され得る。

彼のより限定的な主張には妥当性がある。米国には、高度な汎用AIと自律型エージェントのために特化して設計された包括的な製品安全の枠組みがない。

この空白が記事の中心的な対立を生んでいる。自主的な協力は有用な慣行を迅速に確立できるが、すべての開発者に同じ最低基準を満たすよう強制するものではない。

政府とAI購入者に圧力がかかる

AI開発者は迅速に動く余地を求めるが、顧客はスピードが説明責任に取って代わっていないことを示す証拠をますます必要としている。

Smithの発言は政策立案者に即時の圧力をかける。高度なAIが主にソフトウェアサービスとして扱われ続けるのか、それとも重大な行為を実行する際には規制対象の製品カテゴリーとなるのか、政府は判断しなければならない。

その答えは、テスト、文書化、監査、責任に影響する。また、エージェントが複数の業界や国境をまたいで損害を引き起こした場合に、どの規制当局が権限を持つかも決める。

医療アシスタント、採用ツール、コーディングエージェント、カスタマーサービスボットは、同じ基盤モデルを利用する可能性がある。それぞれ異なるデータ、権限、責任を与えられるため、リスクも異なる。

一律の承認プロセスでは粗すぎる。一方で、義務的な最低基準がない枠組みでは、組織はベンダーごとに安全基準を個別に交渉することになる。

企業の購入者はすでに、その負担の多くを負っている。セキュリティチームはAI導入を承認する前に、アクセス制御、データ保持、モデルの挙動、ログ、ベンダー契約を精査する。

エージェントがコマンドを実行できるようになると、こうした確認はさらに難しくなる。モデルはベンチマークでは安全に振る舞っても、文書、ウェブサイト、侵害されたツールから予期しない指示を受けると失敗する可能性がある。

プロンプトインジェクションはこの問題を示している。外部コンテンツに隠された悪意ある指示は、利用者がその行為を意図していなかったとしても、エージェントの行動を変更させる可能性がある。

組織は、権限を制限し、システムを隔離し、機密性の高い手順に承認を求めることで、リスクを減らせる。しかし、これらの制御はモデルおよびアプリケーション提供者による明確な文書化に依存する。

義務的なインシデント報告は、購入者がシステム間の失敗を比較する助けになる。標準化された報告書には、影響を受けた機能、システムの権限、失敗した安全策、発生した被害を記録できる。

被害者への通知も同様に重要だ。エージェントの関与を検知した開発者に迅速に連絡する義務がなければ、企業は侵入を封じ込められない。

独立したテストも、情報格差を縮小できる。モデル提供者はより深い技術知識を持つが、迅速な公開と結果の好意的な提示を求める商業的圧力にも直面する。

外部評価者は、管理された条件下で能力を試験し、内部の前提に異議を唱えられる。ただし、その独立性はアクセス、資金、法的権限、利益相反に対する保護に依存する。

MicrosoftのAI安全ルールは、競合他社だけでなくMicrosoft自身にもコストを生じさせる。それによってSmithの立場の重要性は増すが、同社の商業的利益がなくなるわけではない。

大企業はスタートアップよりも容易にコンプライアンスコストを負担できる。そのため、複雑な規制は利用者を保護する一方で、小規模開発者の参入障壁を高める可能性がある。

この緊張関係は、批判者に正当な懸念を与える。大手研究所を念頭に置いて設計されたルールは、すでに大規模な法務、セキュリティ、政策チームを運営する企業に有利に働く可能性がある。

政府は、不可欠な安全策と、管理能力を測るだけの書類作業を分けなければならない。重大な制御喪失事象を報告することには明確な目的がある。技術的なテストを伴わない反復的な文書作成には、それがない。

購入者にも、ベンダーの主張と導入判断を結び付ける内部記録が必要だ。検索可能なAIナレッジベースは、チームが部門をまたいで評価、承認、インシデント、ポリシー変更を保存する助けになる。

文書化だけで安全性を保証することはできない。それでも、誰がシステムを承認したか、どの制御が存在したか、警告後に組織がどう対応したかを明らかにできる。

したがって、圧力は共有される。政府は強制力のある最低基準を定め、開発者は意味のある証拠を示し、顧客は自らの環境内でシステムがどう運用されるかを管理しなければならない。

自主的なAI安全ルールには適用範囲の問題がある

自主規制は協力的な企業の間で最も機能し、規制が最も重要になるのは企業が協力を拒むときだ。

Smithは、自主的な合意が進歩をもたらすことを認めた。同時に、その構造的な弱点も指摘した。責任ある企業は参加するが、最大のリスクを生み出す組織はその枠外にとどまれる。

この違いは、開発がより身近になるほど重要になる。著名な研究所が署名した自主的な約束は、小規模な提供者、海外の事業者、改変モデルを配布する開発者を拘束しない。

同じ問題は公開後にも現れる。共通の基準が定義されていない限り、企業は評価を約束しても、自らテスト、閾値、開示文言を選べる。

自主規制にはなお利点がある。業界団体は議会よりも迅速に技術的慣行を更新し、専門家を集め、政府が新たな能力を理解する前に実験できる。

自主的なテストはすぐに始めることもできる。新法には、起草、公聴会、施行規則、法的異議、規制当局の採用に数カ月を要する場合がある。

最も強力な枠組みは、両方のアプローチを組み合わせるものだろう。法律が最低限の義務を定め、技術基準がそれを満たすための適応可能な方法を定義する。

Smithの立場は、米国の迅速な開発と中国との競争を重視するDonald Trump大統領の姿勢と対立する。政権は、負担の大きいルールが国内企業の動きを鈍らせる一方で、海外の競合企業を前進させる可能性があると主張している。

2026年のホワイトハウス命令は、過度な規制でイノベーションを抑圧しないことが、米国が主導する理由の一部だと述べた。同命令は迅速かつ安全な導入と、政府と産業界のより緊密な協力を強調した。

この連邦AI政策は、異なるリスク理論を反映している。技術的主導権を失うことは、安全でない導入と並ぶ国家安全保障上の危険となる。

この対立は、安全とイノベーションの単純な二者択一ではない。双方は、自らのアプローチこそが国家競争力と公共の安全を守ると主張している。

Smithは、信頼されるシステムほど幅広く採用されると論じる。政権は、時期尚早なルールが現行技術を固定化し、コストを増やし、勢いを失わせる可能性があると主張する。

中国も議論を複雑にしている。米国企業だけに適用されるルールでは、外国の開発者、オープンウェイトの公開、別の法域を通じて導入されるシステムを直接規制できない。

しかし、製品基準は依然として市場アクセスに影響を及ぼし得る。政府は、モデルがどこで訓練されたかにかかわらず、重要分野で使用されるシステムに対して試験、報告、トレーサビリティを要求できる。

航空・医療機器分野も同様の考え方を採用している。メーカーはグローバルに事業を展開しているが、規制市場に参入する前に製品は現地の要件を満たさなければならない。

この視点でAI規制を捉えると、あらゆるモデルを承認することよりも、重大な結果を招き得る導入を管理することに重点が置かれる。文章作成支援ツールに、電力インフラを運用するエージェントと同じ水準の精査を課すべきではない。

リスク分類は柔軟性を維持できる。危険な能力、高度な自律性、機微なデータ、あるいは重要業務へのアクセスを持つシステムに対して、独立した審査を限定的に求めることができる。

しかし、分類そのものが抜け穴を生む。開発者は審査時にシステムを限定的に説明しつつ、後に顧客がはるかに重大な結果をもたらすツールへ接続する可能性がある。

したがって、責任はサプライチェーン全体に及ばなければならない。モデル提供者は中核的な能力を把握し、アプリケーション開発者はワークフローを定義し、導入者はデータと権限を割り当てる。

単独の参加者がリスク全体を把握しているわけではない。実効的なルールは、各当事者が何を文書化し、いつ責任が移転するのかを明確にしなければならない。

Smithによる自主規制への批判は、対象範囲の点で最も強力だ。評判の高い企業が共有する約束だけでは、普遍的な義務を確立したり、それを無視する事業者に結果を負わせたりすることはできない。

その弱点は精度にある。「AIを規制する」という表現は、詳細な閾値なしには実行可能な政策として機能しないほど、多くのシステムと状況を包含している。

欧州は規制が可能であることを示すが、単純ではない

欧州連合は自主原則から執行可能な義務へ移行したが、その段階的な制度は包括的なAI規制がいかに難しいかを示している。

EU AI Actはリスクベースの構造を採用している。特定の慣行を禁止し、汎用AIモデルに義務を課し、機微な分野で使用されるシステムには追加的な管理を適用する。

複数の規定に関する執行権限は2026年8月から適用され始めた。透明性義務により、利用者は特定のAIシステムとやり取りする場合や、指定された合成コンテンツに接する場合に通知を受けなければならない。

このルールは、システミックリスクを伴う汎用AIモデルも対象とする。該当する提供者には、評価、文書化、サイバーセキュリティ、リスク軽減に関する義務が課される。

AI Actの枠組みは、すべてのアプリケーションを同じようには規制しない。EUによれば、リスクが最小限のシステムの大半は、追加の義務的管理の対象外にとどまる。

これは、政府が包括的な制限と完全な自主規制の間で選ばなければならないという考え方に直接異を唱える。規制当局は、潜在的な害が大きい領域に義務を集中させることができる。

しかし、実施スケジュールは実務上の摩擦を明らかにしている。複数の高リスク用途に関する規則は2027年12月まで適用されず、規制対象製品に組み込まれたAIへの要件は2028年まで延長される。

基準、ガイダンス、規制当局の能力、試験手法には時間が必要だ。執行が予測可能になる前に、企業にも分類と文書化に関する明確性が求められる。

したがってEUのアプローチは、Smithの主張を支持しつつ、その緊急性には条件を付ける。法律の成立はプロセスの始まりではあるが、有能な評価者や信頼できる評価手法を即座に生み出すわけではない。

汎用AIモデルの試験は、とりわけ難しい。モデルは、ツールへのアクセス、ファインチューニング、システムプロンプト、または独自データとの統合後に、異なる能力を示し得る。

リリース前の評価は危険な能力を特定できるが、下流で生じるすべての構成を再現することはできない。継続的な監視と導入後の報告は依然として必要である。

法律は競争上の懸念も生む。コンプライアンスには法務の専門知識、技術文書、継続的なリスク管理が必要となり、小規模な提供者はその資金を確保しにくい可能性がある。

支持者は、高リスク製品には安全コストが伴うべきだと反論する。医療コンプライアンスが高価だからという理由だけで、スタートアップが患者を守る義務を免除されるわけではない。

批判者は、ソフトウェアは物理製品より速く変化すると指摘する。固定的なルールは時代遅れになり、手続き的なコンプライアンスを優遇し、実務上のリスクを減らさないままオープンな研究を抑制するおそれがある。

どちらの懸念も妥当だ。規制は不十分な対象範囲によって失敗し、重大な害を放置することがある。また、過剰な対象範囲によって失敗し、セキュリティエンジニアリングではなく書式に資源を向けてしまうこともある。

EUでの執行経験は、Brad SmithをめぐるAI規制論争に証拠をもたらすだろう。規制当局は、恣意的な障壁を作らずに要件が透明性と説明責任を高めることを示さなければならない。

英国は異なる道をたどっている。AI市場全体を対象とするEU型の横断的法律を避けつつ、技術的な評価能力に投資してきた。

Smithは、AI Security Instituteの存在により、英国はグローバルな安全性の取り組みを主導するのに適した立場にあると述べた。同研究所はAI Safety Instituteとして発足し、2025年にセキュリティ重視の任務を与えられた。

その活動には、高度な能力、サイバー悪用、防護策、政府の備えに関する研究が含まれる。security instituteの使命は、高度なAIガバナンスを支えるため技術研究を行う国家支援組織だと説明している。

その専門性は国際的な試験基準を支え得る。しかし、研究機関が自動的に情報開示を強制し、リリースを阻止し、違反に罰則を科す権限を持つわけではない。

Smithは、技術的能力と法的義務が相互に補強し合うことを求めている。英国は前者を整備してきた一方、後者については議会がなお選択を迫られている。

グローバルな主導には協力も必要だ。開発者が国境を越えてモデル、重み、サービスをリリースできる場合、一国が採用した基準の到達範囲は限られる。

単一の世界規制当局よりも、共通の報告形式と評価手法の方が実現しやすいかもしれない。各国は異なる執行制度を維持しながら、互換性のある試験を相互に認めることができる。

Microsoftの立場にも独自のストレステストが必要だ

Microsoftによるより強いルールの主張には説得力があるが、政策立案者は誰が利益を得るのか、提案された管理策が実際に機能するのかを検証すべきだ。

Microsoftは、クラウドインフラ、セキュリティサービス、職場向けソフトウェア、AIシステムを、厳しい規制を受ける組織に販売している。明確な国家ルールは、こうした顧客の不確実性を減らし得る。

同社には広範なコンプライアンス要件を満たす資源もある。特に評価に希少な専門家や高価なコンピューティング資源が必要な場合、小規模な競合企業はより大きな比例コストに直面する可能性がある。

それはSmithの提案が誤りだという意味ではない。むしろ政策立案者は、各措置が今日の最大手ベンダーを固定化せずにリスクを低減するかどうかを検証すべきだということだ。

独立評価はその一例である。要件は説明責任を高め得るが、それは評価者が適切なアクセスを持ち、意味のある知見を公表できる場合に限られる。

提供者が選定した試験だけに全面的に依拠するレビューでは、独立性は限定的になる。システム詳細へのアクセスがないレビューでは、本番環境内で現れる挙動を見逃す可能性がある。

政府の評価者にも熟練した人材が必要だ。機関は、モデルセキュリティ、サイバー運用、分散システムを理解する研究者をめぐり、テクノロジー企業と競争している。

能力の制約は遅延を生み得る。新しいモデルすべてに完全な承認を求めれば、評価待ち行列によって低リスク製品が遅れる一方、審査者が本当に危険なシステムを見逃す可能性がある。

そのため閾値が不可欠となる。評価義務は、定義された能力水準を超えるモデルや、重要インフラを制御するシステムに焦点を当てることが考えられる。

能力の閾値も頻繁な改訂を要する。今日では例外的な能力を特定する評価も、モデルが進歩すれば日常的な試験になる可能性がある。

緊急時の管理策には別の課題がある。中央集権型サービスであれば、アクセスを停止し、認証情報を無効化し、ツールを無効にできる。多くのマシンに複製されたオープンウェイトモデルは、そう簡単には回収できない。

ホスト型システムであっても、キャッシュされたデータ、接続済みのアプリケーション、委任された認証情報を通じて、単一の制御点から抜け出し得る。キルスイッチはモデルのエンドポイントだけでなく、導入全体に対応しなければならない。

インシデント報告は対象範囲に関する疑問を提起する。開発者には、無害なミスと規制当局の注意を要するセキュリティ事象を区別する定義が必要だ。

要件が広すぎれば、軽微なエラーの報告で機関があふれかねない。定義が狭すぎれば、企業が重大なニアミスや下流での害を除外することを許しかねない。

ルールには報告の保護も必要だ。情報開示が即時の法的責任、評判の損害、または機微なセキュリティ情報の露出につながる場合、組織はインシデントを隠す可能性がある。

サイバーセキュリティ政策では、機密性と説明責任のバランスが求められる。規制当局は詳細な報告を受けつつ、他組織の改善に役立つ集約された教訓を公表できる。

Smithの被害者通知に関する提案は、特に注目に値する。AIを利用した侵害の後、標的には迅速な情報提供が必要だが、調査者は提供者が何をいつ把握していたかを確定しなければならない。

AIシステムは、独立して行動することなく攻撃者を支援する場合がある。規制当局は、生成AIソフトウェアのあらゆる使用を個別のAIインシデントとして扱う定義を避けるべきだ。

問うべきなのは、そのシステムが重大な害を導入、加速、または隠蔽したかどうかである。報告は、暴走AIのような劇的なラベルに頼るのではなく、その寄与を説明すべきだ。

Microsoft自身の導入事例も、Smithが推奨する基準の対象となるべきだ。これにはCopilot製品、Azureでホストされるモデル、セキュリティエージェント、商業パートナーシップを通じて提供されるシステムが含まれる。

信頼できるルールは、提供者が好む企業構造に依存してはならない。モデル開発者、クラウドホスト、アプリケーションベンダー、顧客が制御を共有する場合にも、責任は明確でなければならない。

ここでMicrosoftのAI安全ルールには測定可能な成果が必要となる。規制当局は、管理策が検知時間を短縮し、不正な行為を制限し、障害後の復旧を改善するかを問うべきだ。

また、誤った安心感についても検討すべきである。導入時の構成が審査対象システムと異なる場合でも、評価合格がマーケティング上のバッジになり得る。

どの監査も安全を保証できない。独立試験が示すのは定義された条件下での証拠であり、将来のあらゆる利用に対する恒久的な保証ではない。

したがって、Smithの牛乳との比較は修辞的には効果的だが、技術的には不完全である。牛乳は、汚染経路が確立され、検査手法が成熟した標準化済みの物理製品だ。

AIシステムは、文脈に応じて挙動が変わる適応的なサービスである。この複雑さは監督の必要性を強める一方で、製品型規制の設計をより難しくする。

懐疑的な結論は、規制を待つべきだというものではない。ルールは「AI」という大まかなラベルではなく、実際の能力、権限、害に結び付けなければならない。

警告が政策を変えるかを示す3つのシグナル

次の試金石は、政府がAIリスクに関する大まかな合意を、政治的・技術的な精査に耐える具体的な義務へ転換できるかどうかだ。

第1のシグナルは、拘束力のあるインシデント報告提案である。政策立案者は、対象システム、重大インシデント、報告期限、被害者通知、機密性保護を定義すべきだ。

主要な法域がこれらの要素を採用すれば、Smithの主張は比喩から実務的な政策へ進んだことになる。自主的な登録制度や定義のない報告の約束は、より弱い対応にとどまる。

第2のシグナルは、独立評価者へのアクセス拡大である。政府には、資格を持つ研究者が重大な結果を招き得る導入前に高度なシステムを試験できるようにする合意が必要だ。

英国のAI Security Instituteは、そのための基盤となり得る一例を示している。その価値は、開発者が適時のアクセスを認めるか、そして調査結果が導入判断に影響を与えるかにかかっている。

明確に定義された高リスクシステムへのアクセスを義務化すれば、Smith氏の主張はより強固になる。裁量的な協力に依存し続けるなら、自主規制が実務上の境界を依然として定めていることが示されるだろう。

3つ目のシグナルは、EUによる執行の実例だ。当局は、透明性、汎用AIモデルに関する義務、システミックリスク対策が実際の事案でどのように機能するかを示さなければならない。

一貫した執行は、拘束力のあるAI規則が大規模市場全体で機能し得ることを示す。一方で、解釈の食い違いや手続きの遅延は、規制の複雑さに対する懸念を裏付けることになる。

米国は依然として最も重大な不確実性を抱えている。連邦議会では、連邦法による州法の優先、州レベルの規則、製品安全、抑制的な全国的枠組みが議論されてきたが、根本的なトレードオフについては決着していない。

これまでの議会審議で、Smith氏は製品安全と発売前審査における連邦政府の主導を支持した。また、統一的なアプローチを整備する時間を国に与えることにも前向きな姿勢を示していた。

この経緯は、議論にニュアンスを加える。Microsoftは、すべての州が個別の規則を策定することや、すべてのAIアプリケーションが承認を受けることを求めているわけではない。

同社は、高度な能力と重大な影響を伴う導入に焦点を当てた、全国的に一貫性のある枠組みを支持しているようだ。州ごとに規則が分断されればコンプライアンスコストが増えるため、業界リーダーは連邦レベルでの統一を好むことが多い。

federal framework debateは、政策上の落とし穴も浮き彫りにしている。連邦法による州法の優先は義務を簡素化できる一方、議会が保護策を整備せずに州の対応を阻めば、規制の空白を生みかねない。

開発者にとって当面の教訓は、報告義務と監査義務がいずれ到来する前提でシステムを設計することだ。つまり、ログを保持し、ツール権限を文書化し、停止手順をテストし、機微な操作を通常の出力から分離する必要がある。

エンタープライズの購入担当者も、今すぐ同じ証拠を求めるべきだ。調達チームはベンダーに対し、誰がインシデント通知を受け取るのか、どの評価者にアクセスが与えられるのか、管理者がエージェントの権限をどのように取り消すのかを確認できる。

ナレッジワーカーにとっても重要だ。エージェント型ツールは、メール、文書、カレンダー、コードリポジトリ、顧客記録をまたいで行動する機会が増えている。誤った回答は不便にすぎないが、無許可の行為は取り返しのつかない結果をもたらし得る。

チームは、重大な手順には人による承認を維持し、認証情報を最小限に抑え、どの情報源が行為に影響したかを記録すべきだ。こうした統制は、将来の法整備にかかわらず有用であり続ける。

Brad Smith氏によるAI規制への警告が意味を持つのは、強制可能な責任と技術的に信頼できる基準につながる場合に限られる。印象的な比較は議論の扉を開けることはできても、制度設計の作業を解決することはできない。

最良の政策は、すべてのモデルを牛乳パックのように扱うものではない。ソフトウェアがより強い監督を必要とするほどの自律性、アクセス権、または危険な能力をいつ獲得するかを見極めるものだ。

今後3カ月は、具体的なインシデント報告法案、評価者へのアクセス拡大、EUの執行に関する公的な証拠に注目したい。これらのシグナルは、政府が説明責任を構築しているのか、それとも約束の時代を延長しているだけなのかを示すだろう。

組織はその答えを待つべきではない。どのAIエージェントが行動できるのか、どの認証情報を保有しているのか、承認された境界を越えた際に誰が通知を受けるのかを見直すべきだ。そしてベンダーに、ひとつ直接的な質問を投げかけてほしい。安全性へのコミットメントに従うことが任意ではなくなった場合でも、それはあなたを守れるのだろうか。