英国、カナダ、オーストラリア、ディープフェイク急増でGrok AI禁止を検討
更新日：6月17日
ソーシャルメディア規制を巡る議論が今週、攻撃的に変化しました。高レベルの議論の報告に続いて英国、カナダ、オーストラリアの間で, X（旧Twitter）の禁止の可能性は、一部の理論から真剣な外交論争へと移行しました。この嵐の中心にあるのは、ヘイトスピーチや偽情報だけでなく、特定の技術的能力、つまりその可能性です。Grok AIの禁止。
政府は、公人、そしてより憂慮すべきは未成年者に関する既存の安全基準に違反する、露骨な、AI生成画像の急増に対応しています。イーロン・マスク氏はこれを言論の自由への攻撃と捉えていますが、規制当局は、同社が生成AIツールであるGrokに標準的な業界の安全策を導入することを拒否している点に焦点を当てています。
Grok AI禁止の背景にあるユーザーエクスペリエンス
なぜ今このようなことが起きているのかを理解するには、製品そのものを見てみましょう。の呼びかけは、Grok AI の禁止競合他社と比較した場合のツールの機能に直接起因しています。
Grok のガードレール不足が Grok AI 禁止の呼びかけを煽った経緯
ChatGPT、Midjourney、または DALL-E を使用している場合、「拒否」メカニズムに慣れている可能性が高いです。政治家が不名誉な状況にある画像、または同意のない性的な素材に似たものを生成しようとすると、システムは要求を完全にブロックします。ユーザーはこれを「ダメだよ」と言われるとよく呼びます。AIがプロンプトに応答することを単純に拒否します。
Grokは異なる動作をします。これらの「ハードコーディングされた」制御がありません。Redditユーザーやテクノロジーアナリストは、Grokの安全フィルターが驚くほど透過的であると指摘しています。特定の単語「nude」を禁止するようなキーワードブロッキング機能はあるかもしれませんが、基盤となるモデルは、競合他社と同じように安全性の意味論的な概念を認識していないようです。
これは単なるバグではなく、Musk氏の「反ウォーク」AI哲学の特徴のようです。このシステムは許容されるように設計されています。しかし、許容性が画像生成と組み合わされると、違法コンテンツが急速に作成される結果となります。この技術的アーキテクチャは、オーストラリアとイギリスの当局が協議を正当化するために使用している主な証拠です。彼らは単にアプリに反対しているのではなく、良心を持たないニューラルネットワークに反対しているのです。
ユーザー実験：政治的なディープフェイクの生成
理論的なリスクは非常に急速に現実のものとなりました。X上のユーザーは、英国のキア・スターマー首相が不適切な状況にある写実的なAI生成画像を共有し始めました。これらは粗雑なPhotoshop加工ではなく、Grokによって即座に作成された高忠実度のレンダリングでした。
政治家だけでなく、それを駆動するさらに暗い問題はGrok AIの禁止CSAM（児童性的虐待資料）の生成がその物語です。このツールは、未成年者の露骨な画像を生成するために、基本的な安全チェックを回避するために使用されたと報告されています。
プラットフォームの経験豊富なユーザーは、Xが特定のキーワードをパッチしても、「プロンプトエンジニアリング」によって悪意のあるアクターがこれらのソフトフィルターを回避できると指摘しています。モデル自体がこれらの概念を根本的に拒否するようにファインチューニングされていないため、ユーザーは婉曲表現を使用して同じ出力を得ることができます。この「モグラ叩き」のような安全対策は、規制当局が現在受け入れられないと指摘しているものです。
国際政策とGrok AI禁止の実現可能性
見出しは劇的ですが、外交的な現実はニュアンスに富んでいます。英国、カナダ、オーストラリア間の連携は、さまざまな国がまったく異なるデジタルルールを施行する「スプリントネット」という増大するトレンドを浮き彫りにしています。
Grok AI禁止に関与する国家の立場を明確にする
確認された政府の声明とインターネット上の噂を区別することが不可欠です。
オーストラリア: アンソニー・アルバニージー首相は最も声高に発言しており、Grokによって生成されたコンテンツを「完全に忌まわしい」とラベル付けしています。オーストラリアはすでにソーシャルメディアに関する法律で積極的であり、最近プラットフォームへのアクセスに年齢制限を推進しています。彼らにとって、Xはデジタルセーフティネットの穴を表しています。
イギリス: イギリス政府、特に新しいオンライン安全規制の下では、Xを潜在的な責任と見なしています。首相自身の偽画像の拡散は、規制措置への関心を加速させました。
カナダ: ここで物語は分岐します。三国間会談の報道にもかかわらず、カナダ当局は差し迫った禁止の考えを公に撤回しました。自由党議員と関連大臣は、現在Xを禁止する「計画はない」と述べています。カナダでの議論は、アプリの完全な「キルスイッチ」というよりも、圧力とコンプライアンスに関するものであるようです。
Xでの禁止実施の技術的現実
もしGrok AI禁止がプラットフォーム全体の禁止にエスカレートした場合、それは実際にどのように機能するのでしょうか？
技術的には、西側民主主義国は中国やイランのような国々が直面しないような障害に直面しています。政府はAppleやGoogleに、Xをアプリストアから削除するように命じることができます。これが最も効果的な「ソフトバン」方法です。これにより新規ダウンロードが停止し、アップデートが防止され、アプリは時間とともに徐々に使用不能になります。
しかし、サーバーへのアクセスをブロックするのはより困難です。ISPはx.comへのDNSリクエストをブロックできますが、Xは大規模で分散されたインフラストラクチャを持っています。さらに、これらの地域ではVPNの使用が広まっています。もしオーストラリアがXを禁止した場合、何百万人ものオーストラリア人は単に米国を経由してトラフィックをルーティングするでしょう。
また、一部のRedditユーザーが「真の」最終手段だと示唆している財政的な選択肢もあります。政府はVisaやMastercardのような決済処理業者に、Xとの提携を打ち切るよう圧力をかけることができます。Xは決済およびサブスクリプションモデル（Premium）への移行を試みているため、画面上のピクセルをブロックしようとするよりも、収益源を断つ方が効果的かもしれません。
マスク氏の弁護：言論の自由 vs. アルゴリズムの安全性
イーロン・マスク氏の、Grok AI禁止の可能性に対する反応は、いつものように軽視するものでした。彼はこれらの政府の動きを安全対策ではなく、組織的な検閲と見なしています。
マスク氏の議論は、ツールはその使用方法に責任を負わないという概念に基づいています。彼の見解では、ユーザーが違法なコンテンツを生成した場合、ツールを禁止するのではなく、ユーザーが起訴されるべきです。彼は英国首相を嘲笑し、オーストラリア政府を「ファシスト」と非難しました。
これは根本的なイデオロギーの不一致を浮き彫りにしています。ヨーロッパや英連邦の規制当局は予防原則に基づいて運営されています。つまり、テクノロジーはリリース前に安全に設計されるべきです。マスク氏は、シリコンバレーの「急速に進み、物事を壊す」という考え方と、言論の自由絶対主義の枠組みを組み合わせて運営しています。
Grok の問題は、害の生成を自動化してしまうことです。憎悪マニフェストを書くのに人間の努力が必要なワードプロセッサとは異なり、生成 AI は参入障壁を下げます。これにより、単一のユーザーが数分で数千枚の超リアルで有害な画像を大量に生成できるようになります。規制当局は、これが個人の責任を超えたシステムリスクを生み出すと主張しています。
ソーシャルプラットフォームにおける生成 AI の未来
に関する対立Grok AI 禁止は、今後 5 年間のインターネットポリシーのプレビューです。X は炭鉱のカナリアです。
英国またはオーストラリアが Grok の出力に対して X に罰金を科すことに成功した場合、それは他のすべてのオープンソースモデルとプラットフォームの前例となります。それは、AI 生成を含む「プラットフォームの責任」の定義を強制します。
私たちは、プラットフォームが特定の管轄区域で事業を行うために、重いアルゴリズム検閲という形での「賠償責任保険」を負担しなければならないシステムに向かっている可能性が高いです。グローバルで単一のインターネットの時代は終わりつつあります。米国では Grok への無制限アクセスが可能なバージョン、英国やオーストラリアではローカル法を遵守するために AI 機能が完全に無効化された、無害化されたバージョンという、断片化された X に落ち着くかもしれません。
この議論はイーロン・マスクだけの問題ではありません。それは、何でも思いつくことができる機械が、すべてを思いつくことを許されるべきかどうかという問題です。
アダプティブ FAQ セクション
Q: カナダは実際にイギリスやオーストラリアと共にXを禁止する計画を立てていますか？
A: 現在、そのような計画はありません。カナダが協議に参加しているとの報道もありましたが、カナダ当局者および自由党議員は、現在プラットフォームを禁止する積極的な計画はないと明言しています。彼らは規制に関する協議には参加していますが、現時点では全面的な禁止は政府の方針ではありません。
Q: 他のAIツールが存在するのに、なぜGrok AIの禁止が検討されているのですか？
A: 規制当局がGrokを標的にしているのは、MidjourneyやDALL-Eのような競合他社に見られる厳格な安全対策（ガードレール）が欠けているためです。Grokは、他のシステムがデフォルトでそのようなプロンプトを拒否するようにプログラムされているのに対し、政治家や未成年者の露骨なディープフェイクをより容易に生成することが判明しています。
Q: 政府はXアプリを効果的に禁止できますか？
A: 完全な禁止は技術的に困難です。 政府はAppleやGoogleにXをアプリストアから削除するよう強制することができます。これにより、アップデートや新規ダウンロードは停止します。しかし、既存のユーザーはVPNを使用してネットワークブロックを回避できることが多く、民主主義国家では完全な遮断はほぼ不可能です。
Q: これらの協議が突然緊急性を帯びたきっかけは何ですか？
A: きっかけとなったのは、AI生成ディープフェイクの急増、特にイギリスのキア・スターマー首相の高品質な偽画像です。child sexual abuse material (CSAM) の生成にツールが使用されたという報告。
Q:イーロン・マスクは、Grok AI の禁止の可能性をどのように見ていますか？
A: マスク氏は、これらの規制上の脅威を政治的に動機づけられた検閲と見なしています。同氏は、プラットフォームは自由な言論を支持しており、責任は能力を提供する AI ツールではなく、法律を破る個々のユーザーにあると主張しています。
