xAI、全米初のAIヌーディフィケーション禁止法を巡りミネソタ州を提訴
xAIは、AIによるヌーディフィケーション技術を禁じる全米初の法律が8月1日に施行される数日前、ミネソタ州を提訴した。この連邦訴訟では、識別可能な人物の性的な画像を生成するツールを阻止しようとする州と、Elon Musk氏の企業が対立する。争いがGoogle Newsでも報じられるなか、核心にある対立は一つのチャットボットや一つの州法を超えるものだ。
ミネソタ州は、非同意画像を配布する人物だけを罰するのではなく、画像生成機能そのものへのアクセスを規制しようとしている。xAIは被害者保護という州の利益を認めつつも、この法律が適法で合意に基づく、憲法で保護された表現まで阻害すると主張する。
この違いが難しい法的判断を生む。政府は従来、有害な画像、その配布、または作成者を標的としてきた。対してミネソタ州は、ヌーディフィケーションを可能にするサービスに直接の義務を課し、規制の焦点を基盤技術へと近づけている。
結果はミネソタ州にとどまらず影響を及ぼす。AI開発企業は、同意、親密なコンテンツ、プラットフォームの責任に関する定義がそれぞれ異なる多くの法域で、画像生成ツールを運用することが増えている。ミネソタ州の手法を支持する判決が出れば、有害な画像が流通する前にAIの機能を規制しようとする動きが強まるだろう。
ミネソタ州のヌーディフィケーション法が変えること
ミネソタ州の法律は、悪用するユーザーから画像生成ツールを提供する企業へと法的圧力を移す。
最初の裁判所での争いによると、xAIは7月27日、連邦裁判所に38ページの訴状を提出した。提出はミネソタ州の新たな禁止措置が施行予定となる5日前だった。
同法はヌーディフィケーションを、元の画像には存在しない親密な身体部位を描写するために、画像または動画を改変・生成する行為と定義している。生成されたコンテンツが識別可能な個人を描いている場合に適用される。識別は画像そのもの、または画像と併せて表示される個人情報に基づき得る。
ミネソタ州法は、事業者が州内の人々に対象技術へのアクセスを許可することを禁じている。また、ヌーディフィケーションされた画像や動画を作成、または作成可能にするサービスの広告・宣伝も禁止している。
この手法は、非同意の親密な画像を公開・所持する行為に焦点を当てた法律とは異なる。そうした規則は通常、有害な画像を作成、共有、または削除を拒否した後に責任を課す。ミネソタ州は、配布が起きる前の制作手段へのアクセスを標的にしている。
この違いが重要なのは、技術がしばしばデュアルユースであるためだ。画像から画像への生成、インペインティング、顔の入れ替えは、通常の創作活動を支援できる。一方で同じ機能は、認識可能な人物の顔や身体を人工的な性的場面に配置することにも使われ得る。
ミネソタ州の執行メカニズムは、州司法長官に違反を追及する権限を与える。民事罰は不法なアクセス、ダウンロード、使用の1件ごとに最大50万ドルに達する。このリスクにより、地理的制御と自動的な拒否は任意のモデレーション機能ではなく、重要な運用要件となる。
xAIにとっては、X内におけるGrokの位置付けがコンプライアンスを複雑にする。ユーザーは公開写真に出会い、チャットボットに呼びかけ、別のアプリケーションへ移動せずに編集画像を要求できる。そのため、作成ツールと配布ネットワークが同じ環境内で機能し得る。
ミネソタ州法は、その経路を出発点で断とうとしている。支持者は、公開後に被害者へコピーの発見・削除を求めるよりも、予防の方が有用だと考える。xAIは、この目的を憲法に適合する形で実現するには、州の制限は広すぎると主張する。
同社によれば、この法律は、描写された本人が生成した画像を含め、同意のもとで作成された画像にも及ぶ。また、組み込まれた「親密な身体部位」の定義についても、公共の場で日常的に見える身体部位まで含むとして異議を唱えている。
これらの主張について、裁判所はまだ判断を下していない。争点となる直近の問いは、ミネソタ州が有害な行為を精密に標的化したのか、それとも視覚表現の一カテゴリー全体を禁じたのかという点だ。
この訴訟が単なるプラットフォームのモデレーションを巡る意見対立以上に重要なのは、そのためだ。ミネソタ州は、適法な出力と悪用される出力の双方を予見可能な形で支える生成機能へのアクセスを、州が統制できるかを試している。
Google Newsが州訴訟以上のものを追う理由
この訴訟は、悪用画像を削除する法律と、その作成を防ごうとする規則の間にある全国的な隔たりを浮き彫りにする。
主要キーワードであるgoogle newsは、多くの読者がこの争いを最初に知る経路を反映している。しかし、本質的な問題は、一度のニュースサイクルをはるかに超えて広がり得る規制モデルにある。
連邦法はすでに、TAKE IT DOWN Actを通じて非同意の親密な画像を扱っている。この枠組みは公開と削除に焦点を置き、被害者が対象プラットフォームに対し、条件を満たすコンテンツの削除を求める手続きも含む。
ミネソタ州はさらに上流へ踏み込む。同法は、誰かが画像を生成する前に、事業者がヌーディフィケーションツールを利用不可にすべきかを問う。この選択により、被害者は本来、コンテンツの発見、記録、ホストの特定、削除要求の提出を担わなければならない負担から一定程度解放される。
すべての生成器をアクセス禁止で排除することはできないため、削除システムは依然として必要だ。オープンモデル、海外サービス、ローカルソフトウェア、再パッケージ化された画像編集ツールは、規制対象のプラットフォーム外で利用可能であり続ける可能性がある。いったん画像が存在すれば、一社が対応するより速く、アカウントやサービスをまたいで拡散することもある。
それでも、下流での執行は描写された人物に大きな負担を課す。合成画像は、苦情が成功して元のコピーが削除される前に、同級生、雇用主、親族、匿名フォーラムへ届き得る。複製は、最初のプラットフォームが対応した後も長く残存する場合がある。
被害は大きな知名度を持つ人々に限られない。2026年のコミュニティ研究は、4chanから収集された非同意の合成露骨コンテンツ24,105件を調査した。研究者は、対象の55.8％を非著名人と分類しており、以前の研究では4.7％だった。
この変化は、ディープフェイクによる悪用が主に俳優、音楽家、政治家を脅かすという前提を弱める。加害者に必要なのは、アクセス可能な写真と、それを変換してくれるサービスだけになった。ソーシャルプロフィール、学校写真、職場のページは、豊富な入力素材を提供する。
この研究では、オープンソースのシステムが観測されたコンテンツで大きな役割を果たしていたことも示された。Stable Diffusion系モデルは分析対象画像の42.7％を生成し、Wanは動画の66.5％を生成した。
これらの数値を、すべての合成親密画像における市場シェアとして扱うべきではない。これらは一つの調査対象コミュニティと一つのデータセットを示したものだ。ただし、一社を規制しても技術的能力そのものを排除できない理由を示している。
ミネソタ州の手法は、アクセス容易性の問題に対応するものだ。自然言語による要求を編集画像へ変換するサービスは、説得力のある改変にかつて必要だった専門知識の多くを不要にする。このアクセス容易性は、正当な創作と悪用の双方を拡大させ得る。
そのため同法は、衣服を脱がせるツールとして明示的に売り込まれたサービスだけでなく、消費者向け生成器を持つ企業にも圧力をかける。一般的なアシスタントが自らをヌーディフィケーション製品と呼ぶことはなくても、ユーザーはプロンプトを試し、写真をアップロードし、その安全策を探ることができる。
xAIが特に注目を集めるのは、Grokが幅広い可視性と画像編集・生成を組み合わせているためだ。この争いは、ユーザーが同サービスを通じて女性や子どもの性的な描写を求めていることへの公的な懸念に続くものでもある。
1月には、超党派の35州・準州の司法長官連合がxAIに追加の安全策を求めた。Grokに関する書簡では、より強力な予防、削除、アカウント停止、報告、他のユーザーが誰かのコンテンツを編集できるかどうかに関する制御が求められた。
この連合にはミネソタ州も含まれていた。その要求は、州当局が任意のモデレーションを不十分と見なす理由を示している。単にxAIへより厳しい利用規約の公表を求めていたのではない。GrokとX全体で生成を防ぐ技術的措置を求めていたのだ。
この訴訟は、こうした政策上の対立を憲法上の争いへと転換する。Google Newsの読者が目にしているのは、安全策を企業方針にとどめるのか、それとも法的に強制可能な義務とするのかを巡る、より広範な争いの初期段階だ。
xAIの言論の自由を巡る主張とミネソタ州の予防戦略
主たる対立はxAI対一人の選出公職者ではない。プラットフォームの裁量と、法律によって課される予防の対立である。
xAIは、本人の同意なく作成された人工的なヌード画像の配布を阻止するというミネソタ州の利益自体には異議を唱えていない。同社の異議は、法律がその受け入れられた目的を超えているという主張にある。
同社はこの法律を、過度に広範で内容に基づく制限だと位置付ける。内容に基づく法律とは、表現の主題やメッセージに応じて規制するものであり、通常は厳格な憲法審査の対象となる。
xAIの主張によれば、州は、一部の出力が不快または有害であるという理由だけで、広範な種類の画像ツールを禁止することはできない。訴状は、ミネソタ州の法律が、合意に基づく作品や本人が自分自身について作成する画像を含む適法な画像まで対象にしていると述べる。
同社はまた、悪用を阻止するために誠実な努力をする事業者向けのセーフハーバーが法律にないと指摘する。セーフハーバーとは、特定の安全策に従う企業を、決意したユーザーが時折その対策を回避したとしても責任から守る仕組みだ。
この不在は、確率的に動作するAIシステムにとって実務上の懸念を生む。フィルターは明白な要求を拒否できるが、ユーザーは指示を書き換え、元ファイルを変更し、一見無害な複数の操作を組み合わせることができる。厳格責任に近い規則は、大規模な予防策を講じていても事業者を罰し得る。
xAIは、Grokの利用規約がプライバシーを侵害する違法、有害、または虐待的な活動を禁じていると述べる。同社は、アカウントを停止または終了し、児童性的虐待コンテンツの疑いを通報することもできるとしている。
利用規約と執行方針は重要だが、それだけで訴訟は決着しない。書面上の規則は、モデルが禁止された編集をどの程度一貫して拒否するかを示さない。また、ユーザーが出力を公開した後に、プラットフォームがどれほど迅速にそれを特定するかも示さない。
ミネソタ州司法長官Keith Ellison氏は、生成器ではなく被害者を中心にこの問題を捉えた。同氏は、本人の意思に反するAIヌーディフィケーションを、感情面、私生活、職業面での結果を伴う尊厳への攻撃と表現した。
彼の立場は道徳的な対立を狭めるが、法的な対立を解消するものではない。両者は、非同意の性的画像が害をもたらすと述べている。意見が分かれるのは、ミネソタ州が十分に精密な制限を定めたかどうか、そしてサービス事業者が直接の責任を負うべきかどうかだ。
この違いが重要なのは、生成時点で同意を推測することが難しいためだ。モデルは写真とプロンプトを受け取るが、その画像を誰が所有するのか、誰が写っているのか、描写されたすべての人物が同意したのかを確実に知ることはできない。
プラットフォームは、関連するカテゴリー全体をブロックするという対応を取り得る。これにより悪用は減るが、同意した成人、実在人物に似た架空のキャラクター、教育資料、医療用途、一部の芸術表現も排除される。
代わりに、同意を得ていることをユーザーに申告させることもできる。申告は証拠と摩擦をもたらすが、悪意ある行為者は虚偽を述べられる。本人確認はプロセスを強化できる一方、プライバシー、セキュリティ、アクセシビリティの問題を招く。
第三の選択肢は地理的ブロックだ。xAIは1月、実在人物に関わる特定の編集について、その出力が違法となる場所では防止すると発表した。位置情報に基づく制御は法域ごとのコンプライアンスに役立つが、仮想プライベートネットワークや不確かなユーザー所在地によって限界がある。
こうした選択肢は、プラットフォーム裁量が開発者にとって魅力的である理由を示している。各サービスは、フィルター、アカウント履歴、本人性シグナル、人による審査を組み合わせられる。ユーザーが新たな回避手段を見つければ、企業は保護策も更新できる。
ミネソタ州の予防戦略は異なる前提から出発している。予見可能な悪用が、参加に同意していない人々に害を与えるなら、どの保護策が十分かを提供事業者だけが決めるべきではない、という前提だ。
この見解の相違が、憲法上の分析を形作る。裁判所は、ミネソタ州が重大な利益を追求した一方で、手法が過度に広範だったと判断する可能性がある。また、製品やサービスへのアクセス規制が有害な行為と十分に結び付いていると結論づけることもあり得る。
判決は、AI規制全般に関する包括的な判断ではなく、法令の細部に左右される可能性がある。定義、例外、執行基準、より限定的な代替手段の有無が、表現に関連する法律が存続するかどうかを決め得る。
したがって、この訴訟はディープフェイクの悪用が規制に値するかどうかを問う国民投票ではない。州が、適法な表現を過度に抑圧せずにどこへ統制点を置けるのかを問うものだ。
デュアルユースの画像ツールが単純な禁止を難しくする
技術的な問題は、一見無害な画像エディターでも、専用のヌード化サービスと同じ基盤的能力を提供し得る点にある。
ヌード化は、普遍的なオン・オフスイッチを持つ単一のモデル機能ではない。顔交換、画像インペインティング、プロンプトベースの編集、動画生成など、複数の技術的経路で同等の結果を生み出せる。
インペインティングは、周辺のピクセルとテキストプロンプトを用いて新しいコンテンツを構築し、選択した領域を置き換える。この機能は、物体の除去、写真の修復、服装の変更といった日常的な編集を支える。一方で、元画像には一度も存在しなかった親密な部位を捏造することもできる。
顔交換も同様の問題をもたらす。ユーザーは、ある人物の顔を別の画像や動画に配置する。コメディ用フィルターやクリエイティブ用途はこの機能に依存しているが、悪用するユーザーは露骨な性的画像を目的画像として選べる。
体系的なsafety auditでは、420の顔交換アプリを特定し、対象要件を満たす155アプリを手作業でテストした。研究者らは、70％にヌード画像を伴う顔交換を防ぐ技術的保護策が欠けていることを発見した。
研究者らによると、テスト対象のアプリで自らをヌード化アプリと説明していたものはなかった。この発見が重要なのは、マーケットプレイス上のラベルや広告文言だけでは、製品が何を許容するかを確実には示せないためだ。
「脱衣」機能を公然と販売するサービスに限定したルールでは、同等の能力を持つ汎用画像エディターを見逃す。より広いルールならそうしたツールを対象にできるが、正当なソフトウェアを制限する可能性も高まる。
AppleとGoogleはヌード化向けとして明示的に販売されたアプリを削除してきたが、この監査では機能面でリスクのあるアプリが残っていることが判明した。配布面の統制は気軽な発見を減らせるが、基盤となるモデルやワークフローを取り除くことはできない。
Grokは会話形式のリクエストを受け付けるため、さらに別の側面を加える。専用エディターは審査者が直接テストできるボタンや設定を示す。汎用モデルは、微妙な言い回し、文脈上の手がかり、アップロード画像、追加プロンプトによって異なる応答を返し得る。
開発者は通常、複数の保護策を組み合わせる。分類器が元画像を検査し、別の分類器がリクエストを評価し、最終システムが生成された出力をスキャンできる。アカウント制限やレート制限も、さらなる摩擦を加えられる。
各制御には誤りの可能性がある。偽陰性は悪用コンテンツを許し、偽陽性は適法なコンテンツを阻止する。攻撃者は、トリミング、スペルミス、間接的な表現、反復的な編集を用いて境界を探ることもできる。
こうした限界は、xAIのセーフハーバー要求を支える。完全な防止が技術的に現実的でないなら、開発者は責任が合理的な保護策と迅速な執行に基づくべきだと主張する。
同じ限界は、ミネソタ州の懸念も強める。提供事業者は、不完全な検出を理由に実質的な予防責任を回避し、失敗のコストを画像に描かれた人々に負わせるかもしれない。
実行可能な規制枠組みには、測定可能な義務が必要になる。それには、文書化されたリスクテスト、年齢関連の統制、プロンプトと出力のスクリーニング、インシデント報告、迅速な苦情対応、独立した評価などが含まれ得る。
しかし、ミネソタ州法はモデル開発のための詳細な安全基準ではない。同法は対象技術へのアクセスを禁止し、その禁止を多額の民事制裁で裏付けている。
この構造では、裁判所が評価できる技術的な基準は少なくなる。中心的な問題は、対象カテゴリーが明確かどうか、そして州が均衡の取れた制限を選んだかどうかとなる。
通常のコンテンツモデレーションとの違いは重要だ。プラットフォームは通常、公開済みの投稿を調べ、それがルール違反かを判断できる。生成ツールは、画像が存在する前に意図と同意を評価しなければならない。
同意が特に難しいのは、それがピクセルの外側にあるからだ。描かれた人物の顔からは許可の有無を読み取れない。メタデータは削除または改ざんでき、写真の所有権があっても、その被写体を性的に扱う許可が与えられるとは限らない。
最も保守的なプラットフォーム対応は、識別可能な実在人物の性的表現を伴う編集を拒否することだ。このルールは、合意されたリクエストと非合意のリクエストを区別するより執行しやすいが、より広範な適法表現も阻止する。
このトレードオフは訴訟の中心にある。ミネソタ州は、害が即時かつ不可逆的になり得るため、より広い予防を支持する。xAIは、憲法は州が保護された画像表現を抑圧してその問題を解決することを認めないと主張する。
xAIの主張では解決しないこと
xAIの異議申し立てはもっともらしい起草上の問題を指摘しているが、自主的な保護策がGrokに描かれる人々を十分に守ることの証明にはならない。
同社の利用規約は非同意のヌード化を禁じており、訴状では保護策を回避する者への執行について説明している。これらの記述はxAIの公式な立場を示している。しかし、継続的な敵対的利用の下でシステムがどのように機能するかを独立して測定するものではない。
公共政策は、文書化されたルールが技術的な防止と同等だと仮定できない。ユーザーは新たに公開されたモデルを大規模に試し、成功したプロンプトを共有し、提供事業者が一つの手法を修正すれば素早く適応することが多い。
1月の反発は、画像生成の挙動がいかに急速に規制上の問題になり得るかを示した。ユーザーが女性や子どもに関わる性的表現を伴う編集を生成した後、各国政府はGrokに疑問を呈した。xAIはその後、そのような編集が法律に違反する地域に対し、位置情報に基づく制限を発表した。
この対応は、同社が法域に応じてアクセスを変更できることを示す。同時に、自主的な位置情報制御が運用可能であるにもかかわらず、なぜ執行可能な地域規制が違憲となるのかという疑問も生じさせる。
答えは一部、範囲に依存する。企業は保守的な方針を選び、政府の制裁に直面することなく修正できる。法定の禁止は、事業者が管理できない定義に基づいて法的な結果を招く。
違反1件当たり最大50万ドルの制裁金は、不確実性を増幅させる。生成の成功、アクセス、ダウンロードのそれぞれが個別の責任を生むなら、少数の回避でも莫大な責任につながり得る。
したがって、セーフハーバーがないことは、企業がミネソタ州で適法な画像機能を提供するのをためらわせる可能性がある。法的資源の少ない提供事業者は、境界を解釈するよりもサービス全体をブロックするかもしれない。
その結果はxAIの過度の広範性に関する主張を支えるだろうが、必然ではない。執行の選択、司法解釈、後のガイダンスによって、法令が実際にどう運用されるかは狭められ得る。
同社のより広い説明には、信頼性の問題もある。超党派の州司法長官連合は、xAIの以前の変更は不十分だったと述べ、Grokの統制に関する詳細な回答を求めた。
この連合は具体的に、Xユーザーが他者によるGrokの呼び出しで自分の投稿を編集されるのを防ぐ手段を求めた。この要請は、具体的な製品設計上の問題を認識している。日常的な写真を投稿する人々は、同じネットワークに接続されたチャットボットを通じて第三者がそれらを変換するとは想定していないかもしれない。
ユーザーレベルのオプトアウトは、写真が他の場所にコピーされた場合には対処できないものの、そのリスクを減らせる。より安全な設定がデフォルトにならない限り、潜在的な標的に別の負担を課すことにもなる。
独立研究は、ヌード化を狭い周辺事例として扱うことを難しくしている。顔交換の監査では、多くの消費者向けアプリで保護策が弱いことが確認された。4chan研究では、非著名人の標的への顕著な移行が観察された。
いずれの研究も、ミネソタ州法が合憲かどうかを決めるものではない。両者は、なぜ立法者が公開前の介入を求めているのか、またなぜプラットフォームのルールだけが懐疑的に見られるのかを説明している。
競争は別の複雑さも加える。GoogleやOpenAIなどの企業は一般に、性的コンテンツや実在人物に関する悪用に制限を課している。オープンソースの画像システムは、ユーザーがホスト型サービスの外で実行または変更できるため、統制が難しい。
そのため、ホスト型アクセスに焦点を当てた法律は、目立つ企業に負担を課す一方、ローカル生成を見逃す可能性がある。ミネソタ州は住民にサービスを提供する事業者を規制できるが、すでに世界中に配布された重みとコードを取り除くことはできない。
この隔たりは、規制を無用にするわけではない。法律は、すべての経路を排除せずとも、日常的に害を減らしている。ただし、影響を受けるサービスが消滅するのか、保護策を改善するのか、それとも単にユーザーを他所へ誘導するのかを、政策立案者が測定すべきことを意味する。
どちらの側の過大な主張も、真の問題を覆い隠す。訴訟は、ミネソタ州が有害な行為だけを禁止したことを立証していない。法令の成立も、アクセス制限が被害を実質的に減らすことを立証していない。
証拠は実装から得なければならない。規制当局にはインシデントデータが必要であり、企業には再現可能な安全性テストが必要であり、裁判所には定義が適法・違法な利用にどう影響するかを示す明確な記録が必要だ。
Google Newsの報道は、この争いを言論の自由対被害者保護という二項対立に見せる可能性がある。より難しい問題は調整にある。有効な政策は、あらゆる生成画像機能を違法と扱わずに、記録された悪用へ強力に対応しなければならない。
Google Newsの見出し後に注目すべき3つのシグナル
次の段階では、この訴訟が限定的なミネソタ州の差し止めを生むのか、それとも生成ツール規制のより広い設計図となるのかが明らかになる。
第一のシグナルは、連邦裁判所が仮の救済要請にどう応じるかだ。仮差し止めは、訴訟が続く間、執行を停止できる。裁判所は通常、勝訴の見込み、回復不能な損害、相反する損害、公共の利益を考慮する。
過度の広範性や内容に基づく規制を強調する判断は、xAIの異議申し立てを強めるだろう。また、同様の構造を持つ法律が施行される前に、他の画像提供事業者が争うことを促す可能性もある。
ミネソタ州を支持する判決が出れば、同州の予防モデルは強化される。他の州議会も、削除義務だけに依存するのではなく、アクセス、宣伝、事業者責任に焦点を当てる同州のアプローチを参考にできるだろう。
重要なのは、当面の勝敗よりも具体的な判断理由だ。裁判官は、上流段階での規制そのものを退けることなく、親密なコンテンツの定義、同意を得た画像の扱い、あるいはセーフハーバーの欠如に異議を唱える可能性がある。
2つ目の注目点は、ミネソタ州または他州が、誠実な安全対策に関するコンプライアンス基準を整備するかどうかだ。明確な基準には、拒否テスト、検証済みの同意メカニズム、アップロードされた写真に対するデフォルト保護、迅速なインシデント対応などが含まれ得る。
こうした基準は、xAIが主張する不確実性の一部に答えるものとなる。また、予防に投資する企業と、意図的に悪用を助長するよう設計されたサービスを規制当局が見分けることにも役立つ。
立法者が慎重に定義したセーフハーバーを追加すれば、事業者の責任を維持しつつ、ミネソタ州の現行法は脆弱性を減らせる可能性がある。反対に、当局がいかなる配慮も拒めば、裁判所はこの法律を必要以上に制限的だとみなすかもしれない。
3つ目の注目点は、xAIの製品上の対応だ。読者は、Grokが地域ブロックを拡大するか、ユーザー制御を改善するか、安全性テストの結果を公表するか、あるいはX内での画像編集の仕組みを変更するかに注目すべきだ。
より強力な安全対策は、プロバイダーレベルの制御が可能であり必要でもあるというミネソタ州の主張を裏付ける。回避が続けば、自主ルールでリスクに十分対処できるというxAIの保証は弱まる。
ミネソタ州で合法的な編集機能を全面停止する場合は、別種の証拠となる。それは、この法律を選別的に適用することの難しさを示すかもしれないし、責任を限定するための戦略的な事業対応を反映している可能性もある。
国際的な動きも、もう一つの参照点を提供する。英国は、同意のない性的ディープフェイクの作成または要求を犯罪化する方向に進み、衣服を除去する画像生成ツールの提供を制限する措置も進めている。その法的対応を受け、xAIも地域向けの制御を発表した。
これらの政策が米国憲法修正第1条に関する問題を決めるわけではない。ただし、政府が被害者による削除要請の後だけでなく、画像が拡散する前の段階で責任を割り当てることを、ますます求めていることは示している。
開発者にとって実務上の教訓は、同意に敏感な画像編集を、技術的な根拠を必要とする製品リスクとして扱うことだ。ポリシー、フィルター、ユーザー制御、エスカレーション記録、地域別コンプライアンスシステムはいずれも、より厳しい精査を受けることになる。
エンタープライズ購入者は、画像モデルが実在人物を含む高リスクな変換を識別し、拒否できるかを確認すべきだ。また、ベンダーが失敗をどのように記録し、ユーザーが制御を回避した際にどう対応するかも調べる必要がある。
ナレッジワーカーや一般的なAIユーザーには、別の懸念理由がある。日常的な仕事や交流を目的に投稿された写真が、被写体の関与なしにモデルへの入力となり得るからだ。したがって、画像ツールの安全性は、それらを使うことを一度も選ばない人々にも影響する。
xAIの訴訟は、合成された親密画像をめぐるすべての問題を解決するものではない。しかし、州が生成AI機能へのアクセスを規制する余地があるか、また憲法がその戦略にどのような制約を課すかを明らかにする可能性がある。
裁判所が保護される表現をどう扱うか、セーフハーバー提案が出るか、Grokに測定可能な変更があるかを引き続き注視したい。これらの兆候は、Google Newsの見出しが永続的な法的先例となるのか、それともミネソタ州の最初の試みが広すぎたことへの警告となるのかを示すだろう。
