Letitia JamesのAI内部告発者アラート、フロンティアラボに警戒を促す

ニューヨーク州司法長官Letitia Jamesは9月17日、AI内部告発者アラートを発出し、業界の従業員に対して州の機密報告チャネルを利用するよう促した。この措置は、ニューヨーク州民を危険にさらしかねない、安全でない、または違法なAI開発に関する情報を対象としている。

この発表には重要な補足がある。Jamesは人工知能専用の新しいウェブサイトを立ち上げたわけではない。同氏の事務所は、AI業界の内部関係者に対し、ニューヨーク州が2019年に導入した暗号化内部告発システムの利用を呼びかけている。

この違いは、この動きの重要性を下げるどころか、むしろ高めている。ニューヨーク州は、RAISE Actの施行を数か月後に控え、既存の調査チャネルを新たな執行枠組みと結び付けている。

当面の対立軸は、証拠を求める州の捜査当局と、自社モデルに関する情報の大半を依然として掌握するAI企業との間にある。これらの企業は安全性報告書を公表し、社内通報制度も維持しているが、規制当局がすべてのテスト、事故、あるいは見送られた安全対策を目にすることはほとんどない。

ニューヨーク州は今、その差を埋めるために従業員、請負業者、その他の内部関係者の協力を求めている。彼らが州の報告チャネルを信頼するかどうかが、中心的な問題となる。

Letitia JamesのAI内部告発者アラートは既存ポータルを利用する

ニューヨーク州はAI専用の苦情受付制度を新設するのではなく、既存の報告チャネルの目的と緊急性を変えた。

司法長官による業界向けアラートは、AI企業に関する知見を持つ従業員に対し、違法である可能性のある行為を報告するよう呼びかけている。特にサイバーセキュリティ、経済面、その他の安全上のリスクを注視する領域として挙げている。

この要請は、公になった不祥事や消費者からの苦情にとどまらない。モデルがどのように開発、テスト、保護、または配備されたかを把握できる人々が保有する情報を求めている。

その対象には、危険な能力を評価した研究者が含まれる可能性がある。セキュリティエンジニアは、報告されていない侵害や不十分なアクセス制御に関する証拠を持っているかもしれない。プロダクト担当者は、企業がリリース前に文書化されたリスクを無視したかどうかを知っている可能性がある。

このアラートは特定の企業を名指しせず、特定の開発者が法律に違反したとも主張していない。また、捜査、訴訟、執行上の和解を発表するものでもない。

むしろ、証拠収集への呼びかけとして機能している。Jamesは内部関係者に対し、本来なら企業システム内にとどまる可能性のある情報について、ニューヨーク州にはすでに報告チャネルがあると伝えている。

基盤となる安全なポータルは、匿名での提出と双方向コミュニケーションをサポートしている。利用者には秘密コードが発行され、身元を明かさずに後からメッセージを送れる。

より強固な匿名性を求める人は、Tor Browserをインストールし、ポータルの.onionアドレスにアクセスする必要がある。Torはトラフィックを複数のリレー経由で送るため、利用者の所在地やネットワーク情報を隠すのに役立つ。

提出フォームでは、対象、説明、補足ファイルの入力が求められる。このシンプルな形式により、従業員は捜査当局との継続的なやり取りを維持しながら文書を提供できる。

ただし、司法長官自身の案内には重要な警告がある。送信は匿名にできるが、提出した内容まで匿名または機密に保たれる保証はない。

文書はメタデータ、文体、アクセス記録、あるいはごく少数の従業員しか知らない詳細から作成者を特定し得る。捜査当局は法的手続きの中で情報を使用する必要がある場合もある。

したがって、内部告発を検討する人は二つの別個の問題に向き合う。通信チャネルの安全性と、証拠に含まれる身元特定につながる手がかりの両方を評価しなければならない。

州は2019年10月2日、この内部告発システムを初めて発表した。当時、同事務所はこれを、暗号化された文書転送と匿名の双方向コミュニケーションのためのオープンソースプラットフォームと説明していた。

2026年のアラートは、このインフラをより具体的な執行課題に転用している。高度なAIシステムは外部の人間にとって検証が困難である一方、従業員はテスト、事故、社内の意思決定を直接観察できる。

したがって、この変更は技術的なものではなく制度的なものだ。ニューヨーク州はAI開発を同ポータルの執行対象に置き、内部関係者に名乗り出るよう公に求めた。

ニューヨーク州が今AI従業員に情報提供を求める理由

このタイミングは、現在の任意の情報提供と、2027年1月1日に始まるより強力な開示・執行権限を結び付けている。

ニューヨーク州のResponsible AI Safety and Education Act、通称RAISE Actは、フロンティアモデルの大規模開発者に適用される。フロンティアモデルとは、その規模ゆえに特別な安全上の懸念を生み得る、高度な汎用システムを指す。

この法律は、対象となる開発者に安全性フレームワークに関する情報の公開を求めている。また、特定の重大な被害について、インシデント報告義務を設けている。

Kathy Hochul州知事は2025年12月19日にこの法案へ署名した。州のRAISE Act概要によると、対象開発者はインシデントの発生を判断してから72時間以内に、該当するインシデントを報告しなければならない。

同法はニューヨーク州金融サービス局内に監督機関も設置する。この機関は大規模なフロンティア開発者を評価し、年次報告書を公表する。

対象開発者が必要な報告書を提出しなかった場合、または虚偽の陳述をした場合、Jamesは民事訴訟を提起できる。州の資料では、初回の違反に対する罰金は最大100万ドルとされている。

その後の違反には、最大300万ドルの罰金が科される可能性がある。これらの金額は、単に内部告発の苦情を受け取る行為ではなく、RAISE Actへの違反に関するものだ。

9月のアラートは、法律の施行のおよそ3か月半前に出された。この期間は、司法長官事務所が証拠を集め、報告の傾向を把握し、執行に備える時間を与える。

既存の法律も、同事務所に別の対応手段をすでに与えている。このアラートは、個人情報に対する合理的なデータセキュリティ対策を求めるニューヨーク州のSHIELD Actを引用している。

同事務所は、プライバシー保護や、コンピュータの不正利用、ハッキング、詐欺を対象とする法律にも言及している。そのため、別の法律ですでに対象となる行為が記述されていれば、苦情はRAISE Actを待つ必要がない。

これはAI企業に二つの時間軸をもたらす。

第一の時間軸は、現在の法的義務に関するものだ。セキュリティ障害、プライバシー侵害、欺瞞的行為、コンピュータ犯罪は、すでに監視の対象となり得る。

第二は、新たなフロンティアモデルの枠組みに関するものだ。1月以降、対象開発者はより明確な透明性・インシデント報告ルールの下で運営しなければならない。

内部関係者の記録は、これら二つの時間軸を結び付けられる。社内メッセージは、経営陣がいつインシデントを知ったか、それをどう分類したか、必要な報告が行われたかを示す可能性がある。

72時間の報告ルールは、企業がインシデントの発生を判断したことに依存するため、この証拠は重要だ。従業員が何を知っていたか、組織がいつ知ったか、意思決定者が出来事をどう位置づけたかをめぐって、争いが生じる可能性がある。

このアラートは、従業員をその執行メカニズムの内側に置く。規制当局は、企業の最終的な公開報告書や整えられた安全性フレームワークだけに依存しているわけではない。

その背後にあるプロセスに関する証拠を求めている。

AI安全性の社内制度が外部からの検証に直面する

主要な緊張関係は、AI企業に報告チャネルがあるかどうかではなく、社内制度が外部規制当局を満足させるだけの情報を明らかにするかどうかに移っている。

複数の主要AI開発者は、安全性チーム、インシデント手順、評価プログラム、社内報告ルートを維持している。これらの制度は、配備前に問題を特定し、懸念を技術または法務の専門家へ回すことができる。

たとえばOpenAIは、従業員が管理職、人事、コンプライアンスチーム、法務スタッフ、または24時間対応のインテグリティラインを利用できるとしている。同社はまた、対象となる懸念を提起したことに対する報復を禁じていると述べている。

こうした制度には正当な業務上の目的がある。技術的な報告には外部の捜査当局が持たない文脈が必要になることが多く、社内チームの方が迅速に対応できる場合もある。

しかし、社内審査と規制上の開示は異なる問題を解決する。企業は、社内メカニズムの人員配置、どの所見をエスカレーションするか、どの情報を公開するかを決定する。

州のポータルは、その統制を雇用主から取り除く。社内審査が失敗したと考える場合、報復の可能性がある場合、または法令違反が起きた場合に、従業員へ別の報告先を提供する。

この圧力は、フロンティアAI開発において特に強い。企業は、モデルのトレーニングプロセス、評価、セキュリティ管理、危険な能力について、独占的な情報を保有している可能性がある。

外部研究者は一般に、すべてのテストを再現できない。顧客は社内のインシデントログを検証できない。規制当局はしばしば、商業的圧力に直面している同じ組織による開示に依存する。

こうした情報格差は、長年にわたりAI内部告発をめぐる議論を形作ってきた。

2024年6月、主にOpenAIとGoogle DeepMindに関係する現職・元従業員13人が、より強力な保護を求める公開書簡に署名した。独立系報道によると、このグループは規制当局、取締役会、一般市民に警告する権利を求めていた。

署名者らは、従業員が政府や市民社会には得られない重要なリスク情報を持ち得ると主張した。また、金銭的インセンティブが実効的な監督を妨げる可能性があると警告した。

OpenAIは、匿名のインテグリティラインを含め、従業員が懸念を表明する手段をすでに提供していると応じた。また、厳格な議論の重要性も強調した。

これらの立場は完全に相容れないものではない。企業が信頼できる社内統制を維持しながら、政府も外部報告チャネルを提供することは可能だ。

対立が生じるのは、社内の結論と外部の証拠が食い違うときだ。従業員はテスト結果を重大な警告と見なすかもしれないが、経営陣はリスクを管理可能だと判断する可能性がある。

その場合、規制当局は、企業が適用法を遵守したかどうかを判断するために、生の評価結果、意思決定記録、コミュニケーションを必要とすることがある。企業による保証だけでは、その事実上の争いを解決できない。

ニューヨーク州の動きは、AI開発者に対し、社内記録が司法長官のもとへ独自に届く可能性を見込むよう伝えている。また、コンプライアンスチームにとっても、懸念がどのように受け付けられ、解決されたかを記録する理由が増える。

この圧力は、モデルに直接取り組む研究者にとどまらない。法務、セキュリティ、ポリシー、オペレーション、プロダクトの従業員はいずれも、捜査に関連する意思決定を観察し得る。

請負業者も重要な記録を保有している可能性がある。ただし、法的保護の範囲は、その人物の状況と開示を規律する法律に依存する。

ポータルそのものが、あらゆる職場上の争いを保護された内部告発行為に変えるわけではない。また、AI安全性をめぐるすべての意見の相違が違法行為に関わることを示すものでもない。

これは証拠を提示する経路を作るものだ。捜査当局はなお、事実が自らの権限の範囲内にあるかを判断しなければならない。

カリフォルニア州はAI専用報告制度の姿を示す

ニューヨーク州は、幅広い内部告発ポータルを新たなAI規制と組み合わせる一方、カリフォルニア州はより特化した法定報告ルートを整備している。

カリフォルニア州の「Transparency in Frontier Artificial Intelligence Act」は、州レベルで最も明確な比較対象となる。同法は、大規模なフロンティアAI開発者に対し、破滅的リスクおよび重大な安全性インシデントへの対応方針を説明するフレームワークの公表を求めている。

カリフォルニア州はまた、基盤モデルに起因するリスクを評価、管理、または対処する対象従業員を定義している。こうした従業員は、州司法長官を含む指定された受領者に対し、特定の危険や法令違反を開示できる。

カリフォルニア州司法省は、これらの従業員向けに専用の報告カテゴリーを設けている。同省のAI risk guidanceでは、フロンティア開発者は対象となる開示を妨げたり、開示を行った従業員に報復したりできないとされている。

カリフォルニア州は、従業員からの報告に関する匿名化・集計済み情報を毎年公表する必要もある。この要件により、そのルートがどの程度利用されているかについて、一般市民にも一定の可視性がもたらされる可能性がある。

ニューヨーク州の9月の警告は、利用を促す対象はより広い一方、提示方法は専門性が低い。AI専用の提出カテゴリーではなく、司法長官の一般的な内部告発インフラへと労働者を案内している。

このアプローチには柔軟性がある。プライバシー、サイバーセキュリティ、不正、または他の既存法に関する苦情は、狭いフロンティアリスクの定義に当てはめる必要がない。

しかし、この幅広さは労働者に不確実性を生む可能性がある。技術的な安全性上の懸念が違法行為に当たるのか、あるいは別の規制当局に持ち込むべきなのかを、直ちに判断できないことがある。

ポータルのページ自体は情報の提出方法を説明しているが、AI固有の分類体系は示していない。モデルリスクの例、対象となる職務、またはあらゆる懸念に適用される証拠基準も列挙されていない。

カリフォルニア州の制度は、明確に定義された労働者とリスクの区分に対して、より明示的な指示を提供している。ニューヨーク州の制度は、より幅広い申し立てを受け付け、調査担当者がそれらを分類できる。

どちらの設計も、中心的な難しさを解消するものではない。報告チャネルが有用になるのは、内部関係者がそれを理解し、信頼し、利用すれば意味のある審査が行われると信じられる場合に限られる。

両州はまた、全国的に事業を展開する企業に重複する期待を生み出している。フロンティア開発者は、モデルを構築する州では一つの枠組み、製品が住民に影響を与える州では別の枠組みに直面する可能性がある。

こうした重複は、企業が共通の全国的コンプライアンス基準を採用する後押しになり得る。報告義務が拡大するなか、州ごとに完全に別個のインシデント対応プロセスを維持することは困難になる。

一方で、定義や管轄をめぐる争いも生じ得る。企業は、自社が対象開発者に該当するか、あるいはある事象が適用される閾値を満たすかを争う可能性がある。

コンプライアンス責任者にとって、最も安全な実務対応は慎重な文書化だ。どの評価が実施されたか、誰が結果をレビューしたか、インシデントをどう分類したか、なぜ開示を行った、または見送ったのかを示す記録が必要になる。

こうした記録は、後に規制当局が企業の判断を疑問視した場合に企業を支え得る。また、文書化されたプロセスが無視されたと考える内部告発者を支えることにもなる。

その結果、説明責任には静かな転換が生じている。AI安全性フレームワークは、自主的な声明から、調査で検証され得る記録へと移行しつつある。

匿名チャネルでも内部告発リスクはなくならない

ポータルは通信上のリスクを軽減するが、匿名性、法的保護、または調査の成功を保証するものではない。

Torは、提出物をネットワーク上の発信元まで追跡することを難しくできる。しかし、文書に埋め込まれた識別情報や周辺事情まで取り除くことはできない。

テストレポートには、作成者フィールド、タイムスタンプ、改訂履歴、または特徴的な書式が含まれている場合がある。スクリーンショットからは、アカウント名、ブラウザの詳細、社内プロジェクト識別子、通知バナーなどが明らかになる可能性がある。

文章だけの説明であっても、情報源を特定し得る。会議に出席した人が3人しかいなければ、詳細な説明によって候補はすぐに絞られる可能性がある。

司法長官は、内容が匿名かつ機密のまま扱われることは保証されないと明示的に警告している。労働者は、安全な送信を、その後のあらゆる利用に関する絶対的な約束と解釈すべきではない。

法的保護にも差がある。従来の内部告発法は、疑われる法令違反、不正、公衆安全、または特定の規制上の義務に焦点を当てることが多い。

しかしAI従業員は、まだ被害を生じさせておらず、明確な規制対象でもないリスクをめぐって意見が対立する場合がある。モデル評価は懸念される行動を示すことがあっても、違法行為を立証するものではない。

この隔たりは、2024年のright-to-warnキャンペーンでも表面化した。署名者らは、従業員がまだ法の対象となっていない新興リスクを懸念する場合、通常の内部告発ルールでは不十分になり得ると主張した。

RAISE Actは、具体的な透明性および報告義務を設けることで、この隔たりの一部を縮小する。カリフォルニア州法も同様に、特定のフロンティアモデルリスクに関する開示を定義している。

それでも、どのポータルもすべての境界事例を事前に判断することはできない。事実関係、雇用上の地位、契約、営業秘密に関するルール、適用法令はすべて重要になる。

潜在的な内部告発者は、検証上の問題にも直面する。社内文書が真正であっても、そこから導かれる結論には争いが残り得る。

安全性評価の失敗は、重大な弱点を示しているかもしれない。一方で、通常の導入を表さない、意図的に厳しいテストを反映しているだけかもしれない。

調査担当者は、これらの可能性を区別するために周辺証拠を必要とする。そこには、テスト方法論、その後の緩和措置、意思決定記録、システムの実際のリリース条件が含まれる。

企業には、申し立てに応答する機会が与えられるべきである。従業員の懸念は慎重な検討を促すべきであり、不正行為を自動的に前提とすべきではない。

逆に、内部証拠が別の方向を示している場合、企業の公開安全性報告が問題を決着させるべきではない。州の役割は、記録と法律に照らして両方の説明を検証することだ。

この警告には、実務上の疑問もいくつか残されている。

ニューヨーク州は、同州司法長官室がAI関連の苦情をどれほど見込んでいるかを明らかにしていない。ポータルへの提出について、専任の審査部門、対応目標、または公開報告の予定も示していない。

発表では、調査担当者が緊急のサイバーセキュリティ証拠と、より広範な政策批判をどのように切り分けるかも説明されていない。また、提出者全員へのフィードバックも約束していない。

こうした欠落がポータルを無効にするわけではない。影響を発表だけで判断することはできない、という意味である。

成功する報告制度には、安全な受付、技術的知識を持つ審査担当者、一貫したトリアージ、そして信頼できる執行が必要だ。また、低品質な申し立てによって実行可能な証拠が圧倒されないための手続きも必要となる。

州は、情報源や機密性の高いモデル情報を露出させずに、これらの要件のバランスを取らなければならない。この運用上の課題は、ポータルのリンクを公開することより難しい。

AI開発者と労働者が次に注視すべきこと

この警告が執行ツールになるのか、それとも目に見える影響が限られた公的な呼びかけにとどまるのかは、3つのシグナルで分かる。

第一のシグナルは、RAISE Actが2027年1月1日に施行される前のガイダンスだ。

対象開発者には、安全性フレームワークの開示、インシデント分類、報告手続き、監督機関の期待に関する明確さが必要となる。詳細なルールは、企業が何を文書化すべきかをめぐる曖昧さを減らす。

ガイダンスはまた、労働者が政策上の意見の相違と、潜在的な違反を示す情報とを区別する助けにもなる。義務がより明確になれば、外部報告の評価も容易になる。

ニューヨーク州が詳細な実施資料を公表すれば、この警告は、より広範な執行制度の受付層として映るだろう。ガイダンスが乏しければ、企業と内部関係者が重要な境界を自ら解釈することになる。

第二のシグナルは、AI開発に関連する最初の公的な執行措置、または認められた調査である。

ニューヨーク州は、情報提供が真剣に審査されていることを示すために、内部告発者の身元を明らかにする必要はない。既存法の下で、苦情は文書提出要求、聞き取り、和解、または訴訟につながり得る。

そのような措置があれば、社内の技術的証拠が規制上の証拠になり得ることを開発者に示すことになる。また、コンプライアンスチームが懸案を州に持ち込まれる前に検討するよう促すだろう。

早期に事案が表面化しないことは、失敗を意味しない。複雑な技術調査には時間がかかり、守秘義務により進行中の案件は公の目から隠されることがある。

それでも、目に見える措置は、ポータルが企業のインセンティブを変えたことを示す最も強い証拠となるだろう。

第三のシグナルは、ニューヨーク州がAI関連の苦情に関する集計情報を報告するかどうかだ。

カリフォルニア州の専用枠組みでは、対象従業員からの提出に関する匿名化済み年次報告が求められている。ニューヨーク州の警告は、同等の公表コミットメントを発表していない。

集計値により、どれだけの報告が寄せられたか、どのカテゴリーが中心か、何件が追加審査を受けたかが明らかになる可能性がある。州は、申立人や機密証拠を露出させずにその情報を公表する必要がある。

こうした報告は、労働者がチャネルを信頼しているかどうかを政策立案者が判断する助けになる。また、定義、周知、または調査能力の弱点を明らかにする可能性もある。

AI企業がこれらのシグナルを注視すべきなのは、法的リスク以上の影響があるためだ。社内安全性プロセスへの信頼は、従業員が懸念が公正に扱われると信じられるかどうかに左右される。

信頼できる外部チャネルは、経営陣に問題を慎重に解決する理由を与えることで、社内制度を強化できる。また、社内エスカレーションが失敗した場所を明らかにすることもある。

労働者は、安全な送信と保護の保証を区別すべきである。機密性の高い記録を提出する前に、文書メタデータ、アクセスパターン、守秘義務のルール、適切な法的助言を検討すべきだ。

したがって、Letitia JamesによるAI内部告発者向け警告は、規制上の橋渡しとして捉えるのが最も適切だ。これは既存の匿名ポータル、現在の州権限、そして目前に迫るRAISE Actをつないでいる。

ポータルだけでフロンティアAI開発が透明になるわけではない。その価値は、内部関係者が提供する証拠と、州がそれを調査する能力に左右される。

今後数カ月で、ニューヨーク州がその証拠を明確なルールと執行可能な説明責任へと変えるかどうかが分かるだろう。開発者にとって実務上の問いはすでに差し迫っている。自社の社内安全性記録は、今日、外部の審査に耐えられるだろうか。