xAI、ミネソタ州のヌーディフィケーション禁止法をめぐる勝訴で執行停止――ただし争いは終わっていない
xAIは10月2日、ミネソタ州がAI「ヌーディフィケーション」ツールを対象に州全体で初めて導入した禁止法について、憲法訴訟の控訴手続きが進む間、執行を停止する控訴審の差し止め命令を得た。xAIとミネソタ州のヌーディフィケーション禁止法をめぐる対立は、より重要な局面に入った。連邦控訴裁判所は、下級審が以前に執行停止を認めなかったにもかかわらず、暫定的に同社に有利な判断を下した。
連邦第8巡回区控訴裁判所は、理由を示さない一文の命令を出した。この簡潔さにより当面の結論は明確になった一方で、適用される法的基準は未解決のままである。ミネソタ州は現時点で問題の法律を執行できないが、裁判所が同法を違憲と判断したわけではない。
これは、同意のない性的画像が害を及ぼすかどうかだけをめぐる争いではない。xAIも、州にはこうした虐待を防ぐ正当な利益があると認めている。争点は、ミネソタ州が有害な行為を十分に限定して対象にしたのか、それとも保護される表現も生み出し得るツールに広範な責任を課したのかという点にある。
この訴訟では、擁護可能な二つの目標が正面から衝突している。ミネソタ州は、被害者が被害を受ける前に、プラットフォームが特に侵襲性の高い画像悪用を防ぐことを求めている。xAIは、同じ技術が悪用され得るという理由だけで、州が合法的な画像を抑圧することはできないと主張する。
控訴裁判所が実際に変えたこと
控訴裁判所は執行を停止したが、xAIに最終的な勝利を与えたわけでも、ミネソタ州法を無効にしたわけでもない。
控訴審での差し止め命令は、連邦地方裁判所が9月4日にxAIの仮救済申請を退けた後に出された。先の判断では、訴訟係属中も法律は有効のままとされていた。第8巡回区は、xAIの控訴審が進む間、この実務上の結論を覆した。
控訴裁判所の命令は一文のみで、憲法上の分析は示していない。裁判官らを説得したxAIの主張が何だったのかも特定していない。また、表現の自由、回復不能な損害、法令の射程、あるいは別の論点のどれに焦点を当てたのかも説明していない。
控訴中の差し止め命令は、控訴裁判官が争点を審理する間の状況を維持するものだ。下級審判断に重大な懸念があることを示し得るが、本案を決着させるものではない。ミネソタ州は、書面提出や弁論を通じて法令の正当性を引き続き主張できる。
問題の措置は2026年8月1日に施行された。Tim Walz知事は、ミネソタ州下院が132対1で可決した後、5月7日に署名した。州上院は65対0の全会一致で可決している。
この政治的な合意は、下級審の手続きにも影響した。Donovan Frank連邦地方判事は、写実的な性的画像を防止する公共の利益を重視した。また、法律成立後、xAIが緊急救済を求めるまでに時間をかけすぎたと判断した。
xAIが訴訟を提起したのは7月27日で、執行開始のわずか数日前だった。その2日後、同社は一時的差し止め命令を求めた。地方裁判所は7月31日にこの緊急申請を退け、その後、より広範な仮差し止め申請を検討した。
地方裁判所は9月、この二度目の申請も却下した。仮差し止めに関する判断は、損害の均衡と公共の利益がミネソタ州を支持すると結論付けた。また、xAIの申請の遅れを、直ちに回復不能な損害が生じるとの主張に不利な事情として扱った。
第8巡回区は現在、控訴中にどちらの当事者が実務上の影響を負うかを変更した。ミネソタ州は一時的に執行手段を失う。xAIは、憲法上の異議を維持しながら、同法による潜在的な責任を回避できる。
訴訟そのものは継続しており、控訴裁判所は類似のAI法に適用できる恒久的なルールを示していない。したがって、他州はこの差し止め命令を完全な設計図として扱うことはできない。ただし、AI画像ツールを対象とする広範な制限が、深刻な修正第1条上の審査に直面することは読み取れる。
この手続き上の区別は、利用者にとっても重要だ。差し止め命令は、同意のない性的画像を生成する一般的な権利を生み出すものではない。他の州法や連邦法は依然として、配布、嫌がらせ、搾取、児童性的虐待資料を規制し得る。
変わった範囲はより限定的である。ミネソタ州は現時点で、この特定のプラットフォーム重視の禁止規定を執行できない。より難しい問いは、立法者が予防という目的を失わずに、この種の法律を設計し直せるかどうかだ。
xAIとミネソタ州のヌーディフィケーション禁止法の仕組み
ミネソタ州は、完成した有害画像の公開だけでなく、画像生成機能のカテゴリーへのアクセスを規制した。
法令本文は、ヌーディフィケーションを、特定可能な人物の画像または動画を改変または生成する行為と定義している。結果として得られる画像は、元の素材には存在しない親密な身体部位を描写していなければならない。また、その人物のものであるかのように十分リアルに見える必要がある。
この法律は、ウェブサイト、アプリケーション、ソフトウェアプログラム、その他のサービスの所有者または管理者を対象とする。対象事業者は、禁止されたヌーディフィケーションを行うためにユーザーがサービスへアクセス、ダウンロード、利用することを許してはならない。また、ユーザーのためにそうした画像を作成することもできない。
禁止は、対象サービスの広告または宣伝にも及ぶ。そのため、虐待的なコンテンツを共有する最終行為以上のものを対象とする。ミネソタ州は、そもそも当該コンテンツを作成可能なツールへのアクセスを制限するよう設計した。
利用に相当程度の個別的な技術的または芸術的技能が必要なサービスは、禁止の対象外となる。この例外は、自動化された消費者向け機能と、意味のある人間の指示を必要とするツールを区別する。この区別は法律設計の中核であり、憲法上の摩擦の一因でもある。
法令は、描写された個人に私的訴権を与えている。被害者は、精神的苦痛または苦悩に対する損害を含む補償的損害賠償を請求できる。同法は、実損害額の最大3倍に加え、懲罰的損害賠償と訴訟費用の回収を認めている。
ミネソタ州の司法長官も民事執行を行える。違反ごとに、不法なアクセス、ダウンロード、または利用1件につき最大50万ドルの制裁金が科され得る。この規模ゆえに、法律の対象範囲に関する不確実性はプラットフォームにとって特に重要となる。
親密なディープフェイクに対処する多くの法律とは異なり、ミネソタ州は技術提供者に直接責任を負わせている。ディープフェイクとは、人物が実際には行っていない行為を写実的に描写する、合成または改変されたメディアを指す。ヌーディフィケーションは、写実的に捏造された親密な身体構造に関わる、より限定的な用途である。
既存法は、虐待的な画像が現れた後に制作者または配布者を罰することが多い。これに対しミネソタ州は、利用しやすい自動機能がそうした画像を生み出すこと自体を防ごうとした。支持者は、画像が拡散した後では削除しても被害を完全には回復できないため、予防が必要だと考えている。
この予防的な仕組みは、xAIが主張する修正第1条上の問題も生み出す。法律は、描写された個人が同意を与えなかったかどうかだけで決まるわけではない。同社によれば、そのため同意した成人が関わる画像や、クリエイターが自身の肖像を編集する行為にも及び得る。
「親密な身体部位」の定義は、ミネソタ州の別の法令の文言を取り込んでいる。xAIは、これによって通常の公共の場で見える身体部位まで対象になり得ると主張する。同社は、合法的な風刺、芸術、医療、報道、個人的表現が禁止の対象となり得ると論じている。
ミネソタ州はこの特徴付けに異議を唱え、法令のリアリズム要件を指摘する。画像は、特定可能な人物に属する実際の親密な身体部位を描いているように見えなければならない。州はまた、技術的技能に関する例外と、同法の保護目的を強調している。
同意のない合成性的画像が深刻な被害をもたらし得ることについて、双方に争いはない。意見が分かれるのは法的手法だ。ミネソタ州は機能を可能にする製品を標的にする一方、xAIは、州は有害な意図、同意の欠如、または違法な配布により狭く焦点を当てるべきだと主張する。
この違いが、Grokを超えてこの訴訟が重要である理由を説明する。汎用の生成システムは、同じモデル内に合法と違法の能力を併せ持つ。そのため、機能を基準に書かれたプラットフォーム規則は、立法者が抑圧する意図のなかった多くの出力にも影響し得る。
プラットフォームの説明責任と修正第1条の衝突
中心的な争点は、予防的なプラットフォーム責任と、狭く内容中立的な規制を求める憲法上の要請との間にある。
xAIは、ミネソタ州法を表現に対する過度に広範で、内容に基づく制限だと説明する。内容に基づく法律は、発言や表現が何を伝え、何を描写するかに基づいて法的効果を生じさせる。政府がその根拠で表現を制限する場合、裁判所は通常、厳格な審査を適用する。
同社は、生成されたすべての画像が保護に値すると主張しているわけではない。同意のない性的画像と闘うというミネソタ州の利益を認めている。同社の主張は、この法律が正当な目標の達成に必要な範囲を大幅に超える表現を取り込んでいるというものだ。
xAIは訴状で、主張する射程の広さを示すため、仮想的な画像や風刺的な画像を用いた。同社は、保護される政治的画像、芸術作品、復元写真、合意に基づくプロジェクトがプラットフォーム責任を生じさせ得ると主張した。また、合理的なモデレーション努力に対するセーフハーバーがないことも批判した。
セーフハーバーは、ユーザーがその管理策を回避した場合でも、所定の予防措置を講じた提供者を保護するものだ。ミネソタ州法はそのようなコンプライアンス上の抗弁を設けていない。プラットフォームは、保護策の十分性ではなく、禁止された利用に基づいて責任を負う可能性がある。
この選択は、州が反応型モデレーションに抱く不満を反映している。写実的な性的画像がソーシャルネットワークに流入すれば、コピーはアカウントやサービスをまたいで残り続ける可能性がある。通報と削除の仕組みでは、画像が完全に消えることを保証できない。
Keith Ellisonミネソタ州司法長官は、この争いを回復不能な被害という観点から位置付けている。同司法長官室は、ヌーディフィケーション製品が人々を傷つけ、嫌がらせる性的画像を生成するとしている。州は、自動化ツールを運営する企業に責任を負わせながら、同法が尊厳を守るものだと主張する。
州側の反論も、法律の政治的正当性を強調している。ミネソタ州議会議員は、賛成197票、反対1票という結果で可決した。しかし超党派の支持だけでは、憲法上の異議申し立てを解決できない。
xAIは、自社のポリシーがプライバシーを侵害する違法、有害、または虐待的な利用をすでに禁止していると述べている。また、違反者のアカウントを停止または終了させ、児童性的虐待資料の疑いを報告するとしている。これらは執行に関する企業側の主張であり、保護策が一貫して機能することを独立に証明するものではない。
同社は以前、法令が執行可能なままであればミネソタ州でサービスを制限すると述べていた。この対応は、州レベルの規則が製品の提供可否を左右し得ることを示す。提供者は、一つの管轄区域で不確実な責任を受け入れるよりも、機能を地域的に遮断する可能性がある。
ジオブロッキングとは、ユーザーの所在地に応じて機能を制限することを意味する。プラットフォームには実用的なコンプライアンス手法を提供するが、位置情報の管理は完全ではない。ユーザーは所在地を偽装できる一方、企業が合法的なアクセスを誤って遮断する可能性もある。
ミネソタ州のアプローチは、責任をより上流へ移そうとするものだ。被害者が個々の加害者を追及することに全面的に依存するのではなく、事業者に禁止された出力を防止する動機を与える。もっとも、その動機が強くなるほど、プラットフォームが合法性の境界にあるコンテンツまで抑制する可能性は高まる。
これが、この訴訟における核心的なトレードオフだ。狭い救済策では、有害なコンテンツの作成者がすぐに適応するため、被害者が十分に守られないおそれがある。一方で広い救済策は、事業者が慎重なモデレーションを行うことで、合法的な表現まで巻き添えにする可能性がある。
控訴裁判所による理由の示されない命令は、その均衡点がどこにあるかを立法者に示してはいない。ただし、この問題が継続的な検討に値することは示唆している。AIプラットフォームが有害な出力に対応する規制を免れると確立したわけでもない。
Grokが対立を差し迫ったものにした理由
Grokは、AI画像規制をめぐる抽象的な議論を、広く利用可能な消費者向け製品をめぐる争いへと変えた。
xAIのGrokチャットボットとGrok Imagine生成ツールは、Xなどのインターフェースを通じて利用できる。この流通形態は、画像生成を大規模なソーシャルネットワークの隣に置くものだ。したがって、作成と公開は密接に結びついた製品環境の中で行われ得る。
懸念はxAIに固有のものではない。多くの画像生成ツールは、実在感のある人物を作り出したり、写真を改変したり、性的表現を含むプロンプトに従ったりできる。ミネソタ州が利用しやすい画像機能を問題視し、xAIが施行前に法律へ異議を唱えたため、Grokが直接の被告となった。
同社の訴状は、自社製品が風刺、アート、アニメーション、通常の写真編集を支援すると主張する。ミネソタ州の定義は、こうした用途と禁止されるヌード化を明確に区別していないという。州側は、このツールに有益な用途があることは、有害な用途を消し去るものではないと反論している。
女性や子どもを含む性的な画像がユーザーによって生成された後、社会的な論争は強まった。xAIはその後、露出度の高い服を着た実在人物の一部編集をブロックする措置を導入したと述べた。こうした変更は事業者が製品の挙動を変えられることを示したが、いかなる管理策も包括的かどうかは示していない。
より広範な法的記録は、複数の規制モデルを浮き彫りにしている。連邦法は、対象となるサービスに対し、同意のない親密な画像の削除手続きを運用するよう求めている。テキサス州では、運営者が同意がないことを知っている場合、または通報された素材を速やかに削除しない場合に責任が生じる。
ミネソタ州は、自動化されたヌード化技術へのアクセスを対象とする、より予防的なモデルを選んだ。この制度は、流通を待つことも、同じ通知手順を求めることもない。そのため公開前の保護は手厚いが、過度に広範だとの主張にはより弱くなり得る。
この違いは、生成画像機能を提供するすべての事業者に圧力をかける。企業は、法域ごとの管理策を構築するか、機能を広く無効化するか、法律を争うかを決めなければならない。どの選択肢にも、技術的、法的、評判上のコストが伴う。
小規模な開発者も、xAIのような訴訟リソースを持たないまま同じ問いに直面する。自社ソフトウェアがミネソタ州の例外規定に該当するほどの人間による技能を必要とするかを判断しなければならない。不確実性は、編集機能のカテゴリー全体をブロックする方向へ彼らを向かわせる可能性がある。
この争いは、製品ポリシーの限界も露呈させている。利用規約は悪用を禁止できるが、その実効性は検出と執行に依存する。悪意あるユーザーは、プロンプトを言い換えたり、出力を組み合わせたり、素材を別のプラットフォームへ移したりできる。
法的ルールにも限界がある。別の人物がオンライン画像をダウンロードすれば、州境でそれを封じ込めることはできない。プラットフォームに対する執行はアクセスを減らせるかもしれないが、ローカルで動くモデルや海外サービスをなくすことはできない。
したがって、最も信頼できる政策対応には複数の層が必要となる。プラットフォームには予防的な管理策、通報システム、悪用に対する明確な結果が必要だ。被害者には迅速な削除手続きと、民事救済へ至る実用的な道筋が必要となる。
立法者はまた、禁止行為を正確に定義しなければならない。同意、意図、識別可能性、実在感、流通に基づくルールは、被害をより厳密に対象化できる。ただし、要件を追加するたびに、執行は遅くなったり難しくなったりする可能性がある。
xAIのヌード化訴訟は、プラットフォームの責任がどこで違憲な抑圧になるかを裁判所に評価させる。この問いは、画像生成ツール、オープンモデル、ホスティングサービス、ソーシャルプラットフォーム全体で繰り返し生じるだろう。Grokは現在の焦点であり、この問題の境界ではない。
差止命令が解決していないこと
控訴裁判所が介入の理由を示していないため、双方の最も強力な主張は依然として検証されていない。
第一の不確実性は、差止命令の法的根拠に関するものだ。第8巡回区控訴裁判所は、保護される表現、回復不能な損害、法律上の定義、あるいは地方裁判所の分析を懸念している可能性がある。一文の命令では、これらの可能性を区別できない。
第二の不確実性は同意に関するものだ。ミネソタ州法は、識別可能な人物、改変された身体構造、実在感を通じて禁止される出力を定義している。同意の欠如を、対象となるすべての用途の中心的要素としているわけではない。
この欠落は、xAIの過度な広範性に関する主張を強める。成人が改変画像を許可したり、自身の写真を編集したりすることはあり得る。政治風刺を手がけるアーティストが、その画像が現実を記録したものだと主張せずに、認識可能な風刺作品を制作することもあり得る。
ミネソタ州は、一見無害に見える用途がある場合でも、実在感のある親密な捏造には固有のリスクがあると答えられる。しかし州は、選んだ規制範囲がなぜ適切に限定されているのかを示さなければならない。被害者を守ることは、その目的のために採用されたあらゆる制限を自動的に正当化するものではない。
第三の不確実性は、技術的技能に関する例外をめぐるものだ。実質的な人間の判断を求めることは、複雑なソフトウェアを用いる従来型のデジタルアーティストを守るかもしれない。一方で、作成者がどれほど努力を投入したかに基づき、同一の画像を区別する奇妙な仕組みにもなり得る。
手作業で編集された画像は例外の対象となる一方、プロンプトで生成された同等の画像は対象外となる可能性がある。この違いは、拡張可能な自動化を標的にするというミネソタ州の狙いにかなう。しかし、発信者の労力が憲法上妥当な線引きなのかという疑問も生じる。
第四の不確実性は、プラットフォームの認識に関わる。この法律は、事業者が特定の画像について苦情を受け取った後にのみ適用されるわけではない。xAIは、これによりサービスが意味のある認識または意図の要件なしに責任を負うと主張する。
ミネソタ州は、自動化された製品が大規模な悪用を助長し得るため、この特徴を意図的に設計した。画像ごとに通知を求めれば、負担を被害者に戻すことになりかねない。憲法上の問題は、州がどの程度の予防的責任を課せるかを決めることにある。
第五の不確実性は、実効性に関するものだ。広範な禁止は、主要な消費者向けプラットフォームを通じたアクセスを減らす可能性がある。しかし、強い意思を持つユーザーを、ダウンロード可能なモデル、オフショアサービス、または通報経路のないツールへ押しやる可能性もある。
差止命令そのものも、誤解を招く解釈を生み得る。これは同意のない画像悪用を容認するものでも、他の法的保護をなくすものでもない。継続中の憲法上の控訴手続きの間、ミネソタ州が一つの特定法を執行できるかをめぐるものだ。
この命令は、xAIの安全対策が十分であることを証明するものでもない。同社が表明するポリシーには、現実の執行に関する証拠が必要となる。プラットフォームは有害なコンテンツを文書上は禁止できても、繰り返される悪用の防止に苦戦する可能性がある。
州の主張にも同様の精査が必要だ。深刻な被害は規制を支持するが、対象となるすべての画像が同じ損害を引き起こすことを示すものではない。裁判所は政治的な説明だけでなく、法令文言を検討する。
したがって読者は、この争いを被害者の保護と加害者の保護の二者択一として扱うべきではない。より難しい問題は、表現的なツールに対する不必要に広い権限を政府へ与えることなく、いかに被害者を守るかだ。
この枠組みは、被害を抽象的なものにするわけではない。合成された性的画像は、雇用、教育、人間関係、個人の安全を損ない得る。それは、救済策が被害者にとって利用可能でありながら、憲法審査にも耐えなければならないことを意味する。
控訴の進展とともに注目すべき3つの兆候
次の段階では、ミネソタ州のアプローチがモデル、警告、あるいはより狭い立法の出発点になるかが示される。
第一の兆候は、第8巡回区控訴裁判所での本案に関する書面提出と、理由を示した判断の有無だ。控訴事件記録では、この争いをX.AI LLC v. Keith Ellisonとして特定している。裁判所による最終的な分析は、理由の示されない暫定命令よりも重要だ。
過度な広範性を中心とする判断は、ミネソタ州に禁止される出力の定義を狭める圧力をかけるだろう。同意の欠如や事業者の認識に焦点を当てる判断なら、立法者により明確な修正の道筋を示すことになる。手続き上の判断であれば、より大きな修正第1条上の争いは未解決のまま残る可能性がある。
裁判所が、画像を作成すること、提供すること、配布することを区別するかに注目すべきだ。これらの行為には異なる参加者と、異なる防止機会が関わる。持続可能な法的基準は、どの主体をどのような条件で規制できるのかを説明しなければならない。
第二の兆候は、ミネソタ州の対応だ。州は既存の文言を擁護し、さらなる控訴上の救済を求めるか、改正の検討を始めることができる。改正法には、同意、認識、合理的な安全対策、または事業者向けのセーフハーバーが盛り込まれる可能性がある。
どの改正にもトレードオフが生じる。セーフハーバーは、責任ある開発者を保護しながら真剣なモデレーションを促せる。一方で弱い要件は、予見可能な悪用を止めずにプラットフォームが遵守を主張することを許しかねない。
同意要件は、許可された表現と搾取をより適切に分けるだろう。大規模に同意の欠如を証明することは、とりわけ画像が生成される前には難しい可能性がある。プラットフォームには、新たなプライバシーや本人確認のリスクを生まない方法が必要となる。
第三の兆候は、差止命令の期間中におけるxAIの製品挙動だ。同社は影響を受けたアクセスを復旧させることも、自主的に制限を維持することも、より精密な管理策を導入することもできる。その選択は、社内の安全対策がミネソタ州の禁止なしに悪用へ対処できるという主張を試すことになる。
独立した証拠は、ポリシー声明より重要になる。研究者や報道機関は、ユーザーがなおもシステムに禁止された素材を生成させられるかを検証すべきだ。また、安全対策が失敗した際に事業者がどれほど迅速に対応するかも追跡すべきである。
他州はこれらの展開を注意深く見守るだろう。ミネソタ州に不利な理由付き判断は、他州を通知ベースの責任や流通規制へ向かわせる可能性がある。ミネソタ州に有利な判断は、自動化機能の利用可能性を対象とする法律をさらに促すかもしれない。
開発者は、実在感、識別可能性、同意、技術的技能に関する定義を注視すべきだ。これらの用語は、汎用画像エディタが規制対象のヌード化サービスになるかを左右し得る。製品チームは、モデレーション判断と安全対策テストについて明確な記録も保持すべきである。
AIユーザーは、この停止を許可と解釈すべきではない。同意なく親密な画像を作成または共有することは、他の法律やプラットフォーム規則に違反する可能性がある。未成年者を含む画像は、特に重大な犯罪および安全上の懸念をもたらす。
政策立案者にとって、中心的な教訓はすでに明らかだ。有害な出力を規制する場合、法律が被害、責任を負う主体、必要な主観的要件を正確に特定していれば、より擁護しやすい。広範な機能禁止は迅速な予防を可能にするが、より強い憲法上の圧力を受ける。
プラットフォームにとって、訴訟は信頼できる安全エンジニアリングの代わりにはならない。企業がより狭い法律を望むなら、制約の少ない管理策が機能するという信頼できる証拠を示す必要がある。そのためには、透明性のあるポリシー、意味のある執行、通報された悪用への測定可能な対応が求められる。
xAIによるミネソタ州のヌード化禁止措置への控訴は、一つの州が法的境界を誤った場所に設定したかどうかを試すことになる。合成による性的虐待に介入が必要かどうかを決めるものではない。今後の判断は、裁判所がどのような介入を認めるのか、そしてプラットフォームが説得力のある代替策を提示できるのかを左右する。
読者が注視すべきなのは、順に、控訴審の書面による判断理由、ミネソタ州議会の対応、そしてxAIの実際のプロダクト管理策である。これらの兆候を総合すれば、この差し止めがAI規制を狭めるのか、それとも再設計されたルールの実施を単に遅らせるだけなのかが見えてくる。
