xAIの異議申し立ての中で発効したミネソタ州のAIヌード化禁止法

ミネソタ州で初となる、AIによるヌード化技術の州全体での禁止法が8月1日に発効した。イーロン・マスク氏のxAIが直前に異議を申し立てたにもかかわらずだ。この対立は、偽の裸体画像、表現の自由、そして違反1件につき最大50万ドルに達し得る民事罰をめぐる争いとしてGoogle Newsでも取り上げられた。

この要約は直近の出来事を捉えている。しかし、いまミネソタ州、AI開発者、アプリストア、連邦裁判所が直面する、より難しい問題を見落としている。同州は、有害な画像が公開された後に焦点を当てる既存法の多くとは異なり、出力物が配布される前のAI機能へのアクセスを禁じた。

xAIによるミネソタ州での訴訟は、この予防的アプローチが、悪用を防ぐための禁止措置に保護されるべき表現まで巻き込んでいると主張する。一方、ミネソタ州は、この制限は画像を利用した性的搾取を可能にする行為を対象としていると説明する。法律は引き続き有効だが、裁判所はこの憲法上の対立にまだ決着を付けていない。

ミネソタ州が禁止したのは配布だけではなくアクセス

ミネソタ州の中心的な措置は、合成された親密な画像が作成、複製、投稿される前に介入することだった。

ミネソタ州法は、ウェブサイト、アプリケーション、ソフトウェア、プログラム、その他のサービスを管理する者に適用される。こうした運営者は、ユーザーが画像や動画をヌード化する目的で自らのサービスにアクセス、ダウンロード、利用することを許してはならない。また、ユーザーのためにその処理を行うこともできない。

同法における「nudify」とは、元の画像に存在しない親密な身体部位を示すようにメディアを改変または生成することを意味する。その結果は、合理的な人物が当該身体部位を識別可能な対象者と結び付けるほど、現実的に見える必要がある。

この制限は、こうした行為を行うサービスの広告や宣伝も対象とする。この規定により、法律の対象は開発者や直接の運営者にとどまらない。アクセスを支援するアフィリエイト、宣伝者、その他の事業者も法的リスクにさらされ得る。

影響を受けた人は、填補的損害賠償、懲罰的損害賠償、差止命令、弁護士費用、その他の救済を求めて民事訴訟を起こせる。填補的損害賠償は、精神的苦痛や苦悩を含む実損の3倍まで認められる可能性がある。

ミネソタ州司法長官は、違法なアクセス、ダウンロード、利用のそれぞれについて、最大50万ドルの民事罰を求めることができる。回収された罰金は、性的暴行、家庭内暴力、児童虐待、その他の犯罪の被害者を支援する助成金に充てられる。

同法には、サービスが個別の技術的または芸術的な人間の技能を「実質的に適用」することを要件とする場合の免除が含まれる。この文言は、容易に利用できる消費者向けツールと、意味のある人間のコントロールを要する作業を区別する意図があるように見える。

ただし、この例外自体が新たな境界の問題を生む。現代の画像ツールは、ワンタップのモバイルアプリから、詳細なプロンプト、ローカルインターフェース、カスタムコードを通じて操作されるオープンモデルまで幅広い。通常のプロンプト入力がどこで終わり、保護される技術的または芸術的な作業がどこから始まるのかは、最終的に裁判所が判断しなければならない。

この法律はティム・ウォルズ知事が5月7日に署名し、2026年8月1日に発効した。同日以降に生じた法的請求に適用される。

この時系列が重要なのは、xAIが執行開始直前の最終週まで待って緊急救済を求めたためだ。裁判所は法律の一時停止を拒否し、憲法訴訟が続く間、プロバイダーには自らのリスクを評価する責任が残された。

Google Newsの枠組みは、発効日を迎えた禁止法を示している。より重大な変化は、誰かが有害な画像を流通させたと証明される前に、ミネソタ州がツールへのアクセス層に責任を置くと決めた点にある。

この設計により、ミネソタ州のヌード化禁止法は、削除通知、刑事上の拡散、公開後の救済を中心とする法律とは異なるカテゴリーに入る。製品へのアクセス、インターフェース設計、安全対策が法的な問題となる。

ミネソタ州が削除対応ではなく予防を選んだ理由

立法者は、現実的な性的コンテンツが初めて存在した時点で生じる被害は、公開後に虐待的な画像を削除しても元に戻せないと結論付けた。

この法案は、通常の写真が露骨な画像や動画に変えられたとされる女性たちの証言を受けて成立した。モリー・ケリー氏は、知人が自身と、同じ交友関係につながる人々を多く含む約80〜85人の女性を標的にしたと語った。

この出来事は、身近な写真が合成による親密な画像の悪用の素材になり得ることを示した。ユーザーは被害者の私的な画像を必要としない。公開された家族写真、職場の肖像写真、ソーシャルプロフィールだけでも十分な場合がある。

これは、生成された画像が嫌がらせ、恐喝、ストーキング、評判を損なう攻撃、親密な関係における虐待に使われ得るため重要だ。被害者はまた、説得力のあるメディアが偽物であることを証明するよう圧力を受ける可能性がある。

立法者は、公に配布された記録がなくても、作成そのものが被害をもたらすと聞いた。被害者は、他者が無期限に複製可能な現実的な性的表現を保有していると知ることになる。

この懸念は、ミネソタ州のアプローチを連邦のTAKE IT DOWN Actと分ける。同連邦法の枠組みは、合意のない親密な画像の特定の公開を犯罪とし、対象プラットフォームに対して、報告されたコンテンツを定められた期間内に削除することを求めている。

削除システムもなお重要な役割を果たす。被害者に対し、大手プラットフォーム上での継続的な拡散を抑える手段を提供する。ただし、元のユーザーがファイルを作成し、コピーを保存し、私的なチャネルを通じて移動させることまでは防げない。

被害者証言が強調したように、画像は一度作られると、ほぼ封じ込め不可能になる場合がある。匿名投稿、暗号化メッセージ、プライベートグループ、急速な複製により、通知ベースのプロセスで実現できることには限界がある。

そのためミネソタ州は、コンプライアンスの時点をより前倒しした。プラットフォームが虐待的な画像を削除したかだけを問うのではなく、サービスがその画像の作成を可能にしたかを問う。

この選択はAI企業への圧力を強める。開発者は、生成を中立的な技術イベントとして扱い、その後に別途モデレーションを判断することはできなくなる。モデルの入力制御、出力フィルター、ログ記録、位置情報、拒否動作が法的リスクの一部となる。

消費者向け画像ツールは、最も差し迫った圧力に直面する。シンプルなインターフェースは現実的な編集を作るために必要な技能を下げるが、まさにそのアクセスをミネソタ州は制限しようとしている。

アプリストアもこの争いに近い位置にある。AppleとGoogleはヌード化をうたうアプリケーションを削除できるが、安全でない機能は通常の顔交換や編集製品の内部に現れる可能性がある。

2026年の安全性監査では、特定された420製品から選ばれた、条件を満たす155の顔交換アプリを調査した。研究者らは、テスト対象アプリの70％に、ヌードの顔交換を防ぐ技術的安全対策が欠けていることを見いだした。

この研究によると、テスト対象のサービスには、自らをヌード化アプリと説明するものはなかった。この発見は、製品名、ストアの説明、明白な宣伝文言だけに基づく執行戦略を弱体化させる。

問題は単なる宣伝ではなく、機能にある。顔交換、インペインティング、プロンプトによる画像編集には、いずれも良性の用途がある。開発者が有効な安全対策を省けば、同じ機能が合意のない親密な合成画像を支える可能性がある。

ミネソタ州のヌード化禁止法は、この曖昧さに幅広い義務で対応している。サービスがアクセスしやすいインターフェースを通じてヌード化を可能にするなら、良性を装うブランディングは根底にある行為を消し去らない。

しかし、幅広い機能ベースの規則は、多くの合法的用途を持つ汎用画像モデルにも及ぶ。ここで、ミネソタ州の予防的な意図はxAIの憲法上の異議申し立てと衝突する。

Google Newsの記事の本質はミネソタ州対xAI

主要な対立は、ミネソタ州とAI一般の対立ではない。予防的な製品規制と、この法律が合法的な表現を圧迫するというxAIの主張との対立である。

xAIは、Xなどのインターフェースを通じて利用できるチャットボット兼画像生成システム、Grokを運営している。同社はミネソタ州法の発効直前に連邦訴訟を提起した。

同社は、合意のない合成裸体画像を阻止するという州の正当な利益を争ってはいない。異議は、同法が対象とする表現の手段と範囲に関するものだ。

xAIの異議申し立てによると、この法律は合意に基づく制作、自己編集、風刺、芸術作品、その他憲法上保護される画像にも及ぶ。訴状は、そのように主張している。

xAIはまた、誠実に安全対策を講じる企業のためのセーフハーバーがないことにも異議を唱えている。セーフハーバーは、プロバイダーが指定された管理措置を採用していてもユーザーがそれを回避した場合、責任を限定するものだ。

こうした保護がなければ、開発者はフィルター、ポリシー、報告チャネル、執行システムを導入した後でも責任を問われる可能性がある。その可能性は、同社にミネソタ州のユーザーに対してより広範な画像機能を遮断するよう促す。

同法は、運営者がユーザーによる虐待的メディアの作成を支援する意図を持っていたことの証明を明示的には求めていない。その中心的な禁止は、サービスがヌード化目的のアクセス、ダウンロード、利用を許したかどうかに焦点を置く。

同社は親密な部位の定義にも異議を唱える。引用されている定義は、公の場で合法的に露出される身体部位を含み得るため、この制限はポルノやわいせつ表現の禁止よりも広範だと主張している。

ミネソタ州司法長官のキース・エリソン氏は、この問題を異なる形で位置付けている。同氏は、本人の意思に反して作られたAI生成の裸体画像は、対象者の尊厳を奪い、感情面、私生活、職業面での被害を引き起こすと主張する。

この立場は、システムの出力を保護される見解ではなく、虐待の道具として扱う。州法案の提案者らも同様に、この法律を有害な行為に対する規制として説明している。

表現と行為の区別が、この訴訟を左右する。裁判所が同法を内容に基づく表現規制とみなす場合、ミネソタ州は厳格な憲法上の審査に直面する。その際、州は法律の精密さと、より狭い代替手段がないことの両方を擁護しなければならない。

裁判所が自動化されたヌード化へのアクセスを規制可能な行為と扱うなら、ミネソタ州は製品レベルの制限を課す余地をより多く得る。州は、この法律がユーザーとサービスの間の有害な取引を対象にしていると主張できる。

Google Newsの読者は、xAIによるミネソタ州訴訟を、また一つのマスク氏対規制当局の対立として目にするかもしれない。しかし、その人物中心の枠組みでは、問われている先例の重要性を過小評価してしまう。

ミネソタ州を支持する判決は、悪用によって公に流通するコンテンツが生まれる前にAI機能を規制するモデルを、他州に与えることになる。ミネソタ州に不利な判決は、立法者が同意、拡散、立証可能な被害をより狭く対象とすべきだというシグナルになる。

結果はxAIをはるかに超える企業にも影響する。主要プロバイダーの汎用モデルは、写真を編集し、現実的な身体を生成し、詳細な視覚的指示に従うことができる。小規模ベンダーは、こうしたモデルの上に専門的なインターフェースを構築している。

ミネソタ州が勝訴すれば、これらの企業には州ごとの制御策、または最も厳しい管轄区域を満たすほど厳格な全国方針が必要になる。xAIが勝訴すれば、立法者は合意のない出力に焦点を絞った、より狭い定義と救済策へ戻ることになる。

最初の裁判所判断が決着させたのはタイミングであり、合憲性ではない

裁判官が同法の差し止めを拒否したことで執行は始まったが、ミネソタ州法が最終的に修正第1条に基づく異議申し立てを乗り越えられるかどうかは、なお決着していない。

米連邦地方裁判所のDonovan Frank判事は、8月1日の施行日直前にxAIの即時救済申し立てを却下した。この判断では、申し立てのタイミングが重く考慮された。

xAIが緊急介入を求めたのは、Walz州知事が法案に署名してからほぼ3カ月後だった。同社が動いたのは、同法の施行予定日のわずか数日前にすぎない。

裁判所は、当事者が即時の措置を必要とする回復不能な損害に直面しているかを判断する際、緊急性を考慮する。長期間の遅れは、突如として司法介入を要する緊急事態が生じたとの主張を弱めうる。

したがって、この却下を、同法のあらゆる条項に対する最終的な支持と読むべきではない。仮処分命令は、訴訟が進行する間に執行を停止すべきかを扱うものであり、憲法上の主張に対する十分な審理に代わるものではない。

急速に展開するGoogle Newsの報道サイクルでは、この区別は見失われやすい。「裁判官が異議申し立てを退ける」という表現は最終判断のように聞こえるが、「申し立ての遅れを受け、裁判官が緊急差し止めを認めなかった」は、より限定的な手続上の結果を示している。

根本的な争いは依然として重大だ。ミネソタ州議会がこの提案を検討していた段階から、法学者らは適用範囲の広さに懸念を示していた。

Quinnipiac University School of LawのWayne Unger氏は、立法者にはより明確な基準と、nudificationのより狭い定義が必要だと主張した。StanfordのInstitute for Human-Centered Artificial Intelligenceに所属するRiana Pfefferkorn氏も、この提案が憲法審査を通過できるのか疑問を呈した。

彼らの懸念は、同意のない性的ディープフェイクが規制から保護されるべきだというものではない。技術を対象とする法律は、有害な搾取と、合意に基づく芸術的・医療的・教育的・自己目的の利用とを区別しなければならない、という点にあった。

同意はとりわけ重要である。ミネソタ州の商取引法は、画像が何を描写しているか、またどれほど現実的に見えるかによって、禁止対象の機能を定義している。サービス運営者に課される禁止において、同意は中心的な限定要素ではない。

この構造は、xAIによる過度に広範だという主張を補強する。自身の画像を編集する人も、他者を標的にする加害者と同じ基盤的な機能を利用できるためだ。

技術的スキルに関する免除も、この問題を完全には解決しない。特定の人間主導の作業を保護する一方、その適用範囲は不確かな基準に左右される。

高度な操作機能を使うプロのアーティストは対象となるかもしれない。詳細なプロンプトを作成し、複数回の生成を通じて画像を調整するユーザーや、オープンモデルをローカルで運用するユーザーの立場は、より予測しにくい。

この法律は執行上の問題も提起する。特化型のnudificationサイトは特定しやすいが、脱獄後に同じ出力を生成できる汎用画像モデルはそうではない。

提供者は、ヌードを検出し、実在人物を認識し、性的な変換を拒否するために分類器を利用できる。しかし、こうしたシステムのいずれも完全な性能を保証するものではない。

過剰なブロックには別のリスクがある。責任を回避しようとする企業は、水着の編集、健康に関する可視化、ジェンダー肯定的な探索、古典芸術、その他の合法的な素材まで制限する可能性がある。

一方で、ブロックが不十分なら、ユーザーと提供者の双方が深刻な被害にさらされる。たった一度の回避で現実的な虐待コンテンツが迅速に生成され、プラットフォームが対応した後も私的なコピーは残り続けうる。

これが同法の中心的なトレードオフだ。ミネソタ州は、より早い段階での介入と引き換えに、より広範な製品上の制約を受け入れることを選んだ。xAIは、憲法はより精密な均衡を求めると主張している。

差し止め判断も施行日も、この議論を終わらせるものではない。今後の判断では、原告適格、適用範囲、保護される表現、連邦法上のプラットフォーム保護、そして可能な救済措置を扱う必要がある。

執行は製品設計に左右される

ミネソタ州は州全体に適用される禁止規定を設けられるが、効果的な執行は、合法的なツールを遮断せずに、プラットフォームがユーザー、危険な要求、禁止された出力を特定できるかどうかにかかっている。

最も直接的なコンプライアンス手段は、ユーザーの所在地に応じてサービスを制限するジオフェンシングだ。xAIは、この法律によってミネソタ州のユーザー向けサービスを制限せざるを得なくなる可能性があると示唆している。

ジオフェンシングは完全ではない。IPアドレスはユーザーを誤認することがあり、モバイル接続は州境をまたぎ、仮想プライベートネットワークは所在地を隠すことができる。

アカウントに基づく居住地管理も別の手掛かりとなる。ただし、プライバシー、正確性、セキュリティ上の懸念を招く情報の収集・保持が必要になる。

提供者は代わりに、nudificationに関する要求を全国でブロックすることもできる。これは州ごとの複雑さを減らす一方、ミネソタ州の政策判断を他地域のユーザーにも及ぼすことになる。

大手AI企業はすでに、性的コンテンツや同意のない画像に対する安全フィルターを維持している。執行上の課題は、プロンプト、言語、アップロードされた写真、編集指示、そして新たに発見される脱獄手法のすべてで一貫性を保つことにある。

強い意図を持つユーザーは、「undress」のような露骨な語句を避けられる。衣服の除去を間接的に表現したり、段階的な変換を求めたり、複数のツールの出力を組み合わせたりできる。

オープンモデルはさらに別の層を加える。モデルの重みがユーザーのコンピューター上で動作すると、元の開発者がフィルター、インターフェース、改変を管理できる範囲は限られる場合がある。

技術的スキルを要するサービスに対するミネソタ州の免除規定は、ローカルで運用されるシステムに関係するように見える。しかし現代のオープンソース・インターフェースは、複雑なモデルを消費者向けの使いやすいワークフローに変えうる。

そのため、責任は連鎖の中で移動しうる。ある主体がモデルを公開し、別の主体がホスティングし、第三者がインターフェースを構築し、さらに別の主体が特化用途を宣伝する。

サービスを所有または管理する者への同法の言及は、どの参加者が十分な支配を有するのかという疑問を招く。裁判所は、インフラ提供と直接的な助長とを区別する必要がある。

広告の取り締まりは別の経路を生む。州当局は、基盤となる運営者が米国外にいても、「undress」機能を公然と宣伝する事業者を特定できる可能性がある。

決済事業者、ホスティング企業、検索プラットフォーム、アプリストアも、アクセスを妨げることができる。ミネソタ州法はすべての仲介者にサービスの削除を自動的に命じるものではないが、法的圧力は配信を支える企業にまで及ぶことが多い。

House summaryは、直接アクセスと並んで宣伝も禁止されることを確認している。技術的な帰属の立証が困難な場合、これは規制当局により明確な標的を与える。

それでも、州法だけでインターネットからソフトウェアを消し去ることはできない。運営者は製品名を変え、ドメインを変更し、暗号資産を受け入れ、ローカルパッケージを配布できる。

ミネソタ州のnudification禁止は、目に見える商業サービスや主流のアプリケーションに対して最も効果を発揮するだろう。分散型モデル、海外運営者、私的共有、技術に精通したユーザーに対しては苦戦する。

この限界は、同法を無意味にするものではない。多くの加害者は単純なインターフェースに依存しているため、気軽なアクセスを減らすことで虐待の規模を変えられる可能性がある。

顔交換アプリケーションに関する研究は、インターフェース層の安全性に焦点を当てることを裏付けている。基盤となるアルゴリズムは一般的だが、消費者向けのパッケージ化によって、それらは容易に利用できる虐待ツールになる。

開発者には現在、自らの管理策を文書化する強い理由がある。どの要求をフィルターが阻止するか、チームが回避手法にどれほど迅速に対応するか、報告システムが証拠を保存するかを把握すべきだ。

明示的なセーフハーバーがなくても、こうした記録は重要になりうる。積極的にnudificationを助長する企業と、誠実に悪用へ対応する企業とを区別する助けになる。

ミネソタ州はまだ、詳細なコンプライアンス基準を定めていない。この不確実性により、合理的な安全策で十分なのか、それとも一度でも悪用が成功すれば責任が生じるのか、企業は判断に迷うことになる。

セーフハーバー条項の追加は、この不確実性を減らせる可能性がある。年齢管理、同意確認、出力検出、レッドチームテスト、インシデント報告、発見後の迅速な措置を求めることが考えられる。

ただし、弱いセーフハーバーは、過失のあるプラットフォームを守るチェックリストになりかねない。規制当局には、単なる文書化された方針ではなく、実際の安全性能に結び付いた基準が必要となる。

最初の執行措置は、ミネソタ州の実務上の立場を明らかにするだろう。主に同意のないnudificationを目的として売り込まれているサービスを標的にする場合は、1件の回避後に汎用画像エディターを標的にする場合よりも、より限定的な事案となる。

次の3つのシグナルが示すもの

同法の重要性は、施行後最初の週末ではなく、訴訟、執行の選択、製品へのアクセスに生じる測定可能な変化によって決まる。

最初のシグナルは、連邦裁判所がxAIの憲法上の主張をどう扱うかである。重要なのは、裁判官がこの法令を、内容に基づく直接的な言論規制とみなすか、それとも自動化されたアクセスに焦点を当てた行為規制とみなすかだ。

厳格な憲法審査を適用する判断が出れば、ミネソタ州には、規制が必要最小限に絞られていることを証明する圧力がかかる。同意の問題、技術的スキルに関する免除、明示的なセーフハーバーの欠如にも、より厳しい注目が集まるだろう。

反対に、裁判所が州の行為規制という枠組みを受け入れれば、他の州議会は機能レベルのAI規制に向けてより強い基盤を得ることになる。それはミネソタ州のアプローチを補強する。

2つ目のシグナルは、ミネソタ州における最初の執行対象だ。Ellison司法長官は、自身の事務所が選ぶ事案を通じて法律の意味を明確にできる。

公然と販売されているnudificationサービスに対する措置は、執行が虐待的な商業行為を対象とするという主張を強めるだろう。汎用エディターに対する訴訟は、過度な広範性に関するxAIの警告を増幅しかねない。

民事訴訟も重要である。被害者は、禁止された作成に責任があるとされる提供者を訴え、複数の形態の救済を求めることができる。

こうした訴訟では、管轄権、立証、帰属、因果関係が試される。原告は、どのサービスが画像を生成したのか、いつアクセスが発生したのか、関連機能を誰またはどの企業が管理していたのかを示す必要があるかもしれない。

3つ目のシグナルは、プラットフォームが製品をどう変えるかだ。位置情報によるブロックは目に見えやすいが、粗い手段でもある。同意確認、コンテンツ分類器、悪用報告の改善は、より対象を絞った対応を示すことになる。

アプリストアからの削除も別の指標となる。危険な製品はnudificationのラベルを避けることが多いため、AppleとGoogleにはキーワードベースの審査ではなく、機能テストが必要になる。

独立研究者は、こうした変更がアクセスを減らすかを評価できる。同法施行後に体系的な監査を繰り返せば、安全でない顔交換アプリケーションの割合が低下したかが分かるだろう。

主流ツールがより良い安全策を採用しつつ、合法的な編集が引き続き利用可能であれば、ミネソタ州の予防論は信頼性を得る。提供者が広範な画像機能を単に撤回するだけなら、合法的な表現への負担はいっそう明確になる。

虐待的サービスがユーザーを失わずに地下へ移行するなら、執行は大部分が象徴的なものに見えるだろう。その結果は、連邦レベルでの協調ルール、決済制限、プラットフォーム横断の検出を求める声を強めることになる。

連邦のTAKE IT DOWN Actは、こうした政策の組み合わせの一部であり続ける。同法の配信に焦点を当てた救済は、虐待サイクルの異なる段階に対応する。

ミネソタ州の試みは、法制度が過度に多くの言論を規制せずに、作成段階へ到達できるかを問うものだ。予防も削除要請も、それぞれ単独では完全な答えを提供しない。

開発者にとって当面の教訓は、安全アーキテクチャが今や州法上の結果を伴うということだ。製品チームは、同意、アップロードされた人物の身元、性的変換、回避検出を、設計上の中核的な課題として扱うべきである。

企業の購入担当者は、画像システムが実在人物の編集と同意のない親密なコンテンツをどのように扱うのか、ベンダーに尋ねるべきだ。「責任あるAI」という一般的な約束だけでは、実際の管理策について購入者にほとんど情報を与えない。

日常的にAIを利用する人は、ありふれた写真であっても、現実的な悪用の材料になり得ることを理解しておくべきだ。公開画像を制限してもリスクをなくすことはできないが、アクセス管理や通報システムによって露出を抑えることはできる。

Google Newsの見出しは、ミネソタ州の法律が「施行開始」と伝えている。本当の焦点はその節目の後、裁判所、規制当局、開発者、被害者が、憲法上の制約の範囲で予防策が機能するかを試す段階にある。

連邦訴訟、ミネソタ州で最初の執行措置、そして測定可能なプラットフォームの変化を注視したい。これらの兆候がそろって初めて、この法律が全国的なモデルとなるのか、それともAI規制を広範に書き過ぎることへの警鐘となるのかが見えてくる。