AppleとGoogleのAIゲートキーピングが、世論の怒りをプラットフォームの試金石へと変えている

AppleとGoogleは、両社が自社のアプリストアを信頼できるデジタルの玄関口として位置づけているにもかかわらず、単なる消費者の嫌悪感よりも深刻なAIをめぐる対立に直面している。世論の怒りは今や、不正確なチャットボットや不格好な合成画像の域を超えている。AI製品を流通させ、ルールを定め、その普及から利益を得る組織へと、ますます向けられている。

この変化こそ、Rapplerの「[Tech Thoughts] Reconsidering the social dimensions of hating AI」が見落とされがちな点として指摘するものだ。AIへの嫌悪はしばしば、技術恐怖症、変化への抵抗、自動化への不安として片づけられる。しかし、そうした説明はAIを、雇用主、プラットフォーム、市場、政治的選択によって形づくられるシステムではなく、孤立したツールとして扱っている。

AppleとGoogleをめぐるAI論争は、本当の緊張関係を明らかにしている。両社は詳細なストアポリシーを施行し、アプリケーションを審査し、規則に違反するソフトウェアを削除できる。一方で、開発者が生成機能、サブスクリプション、広告枠、クラウド需要の追加を競うことで、両社も利益を得る。

これはもはや、テクノロジーを愛する人々と恐れる人々の対立ではない。AI製品が失敗した際に誰がコストを負担するのか、その能力を支えたのは誰の労働なのか、どの組織が介入できるのかをめぐる争いである。AppleとGoogleは、そうした問いと何十億ものモバイルユーザーの間に直接位置している。

AIへの怒りはモデルを超えて広がった

重要な変化は、人々がベンチマークのスコアや目新しさではなく、AIがもたらす社会的な結果を通じてAIを評価するようになっていることだ。

生成AIとの初期の出会いは、しばしば実験的なものに感じられた。ユーザーはチャットボットに奇妙な質問を投げかけ、超現実的な画像を生成し、モデルが馴染みのある文体を模倣できるかを試した。こうしたやり取りにより、この技術は日常的な制度や組織の営みから切り離されたものに見えた。

その隔たりは消えた。AIによる要約は検索結果と並んで表示される。生成画像は信頼できる文脈情報なしに流通する。学校は、機械が書いた文章を含む可能性のある課題に直面している。雇用主が正確性、監視、責任をめぐる問題を整理する前に、労働者には新たな生産性要件が課される。

「AIを嫌う」という言葉は、これらの経験を一つの感情的なラベルに圧縮してしまう。不具合のある回答への不満を、雇用喪失、著作権、ディープフェイク、監視、環境コスト、望まない自動化への怒りと同列に置く。これらの異議は、一つの技術的問題を表しているわけではない。

それらが示すのは、分配の問題である。企業はAIをどこに導入するかを選び、管理職はその利用をいつ必須にするかを決め、プラットフォームは有害な製品がどれほど容易にユーザーへ届くかを決定する。個人がこうした決定に出会うのは、通常、設計段階ではなく導入後だ。

この違いは重要である。AIがオペレーティングシステム、ブラウザ、検索、職場のレベルに組み込まれると、利用を避けることは難しくなるからだ。一つのチャットボットを避けることはできる。しかし、あらゆるAI生成要約、自動ランキング、合成広告、選別システムを避けるのは、はるかに困難である。

こうして生まれる反発は、必ずしも機械学習そのものへの反対ではない。多くの批判者は、推薦システム、翻訳ツール、アクセシビリティ機能、不正検知、ナビゲーションソフトウェアを、基礎となる手法に異議を唱えることなく利用している。彼らの抵抗は、生成AIが同意、帰属、統制を変えるときに始まることが多い。

労働者は会議メモの整理を支援する機能を歓迎する一方で、従業員のパフォーマンスをひそかに評価するソフトウェアを拒むかもしれない。イラストレーターは自動選択ツールを使いつつ、許可なくクリエイティブ作品で学習したモデルには反対するかもしれない。学生は個別に最適化された説明を評価しながらも、オリジナルの文章を生成物と判定する信頼性の低い検出器を信用しないかもしれない。

こうした区別は、批判者を一様に「反AI」と表現することの限界を浮き彫りにする。対立の焦点はしばしば、特定のアプリケーション、ビジネス慣行、あるいは力関係にある。あらゆる異議を進歩への恐怖として扱えば、責任を負うべき組織は視界から消えてしまう。

Rapplerの枠組みが特に重要なのは、フィリピンがプラットフォームの決定がもたらす社会的帰結を経験してきたからだ。オンライン上のランキング、組織的な影響工作、弱い説明責任は、画面の中から公共生活へと広がり得る。生成AIは、既存の情報環境に、より低コストな制作と高度なパーソナライゼーションを加える。

歴史的な参照点は、かつての家庭用電化製品ではなくソーシャルメディアである。ソーシャルネットワークもまた、その影響はユーザー次第だとされるツールとして導入された。だが時間の経過とともに、推薦システム、広告インセンティブ、プラットフォームガバナンスが、それらのツールのあり方を決定づけることが明らかになった。

AIにも同じ制度的な精査が必要だ。モデルは出力を生成するが、企業はインターフェース、安全上の制限、流通チャネル、収益モデルを決める。別の企業は、その製品をアプリストアに置き、審査済みという印の下でユーザーに提示することがある。

その連鎖が可視化されると、怒りは不合理なものには見えなくなる。それは、システム全体にわたる責任の所在を明らかにせよという要求になる。

AppleとGoogleのAIポリシーが重要になった理由

AppleとGoogleが圧力を受けているのは、両社のストアが私的なポリシーを公共インフラへと変換しているからだ。

どちらの企業も、中立的なソフトウェアのディレクトリを単にホストしているわけではない。Appleは、自社ストアを通じた配信前にiOSアプリケーションを審査する。GoogleもAndroidアプリケーションを評価し、Google Play全体でルールを施行している。両社は、安全性、プライバシー、欺瞞行為、不快なコンテンツを対象とする基準を公表している。

これらの基準は両社に大きな影響力を与える。削除は巨大なモバイルユーザー層へのアクセスを制限し得る一方、承認はリーチ、決済ツール、そして一定の正当性の印象をもたらし得る。したがって、ストアへの掲載は、どのAI製品が一般的な消費者向けサービスになるかを左右する。

両社のポリシーは期待も生み出す。Appleの公開された審査ガイドラインは、複数の有害または誤解を招く行為のカテゴリーを禁じている。Googleのデベロッパーポリシーは、コンテンツ、プライバシー、なりすまし、欺瞞的行為に関する要件を定めている。

そこで難しい問いが生じる。AIアプリケーションが、こうしたルールと両立しないように見える行為を繰り返し可能にしている場合、ストア運営者はいつ継続配信に責任を負うのか。

この問いは2026年1月、理論から公的な擁護活動へと移った。女性と未成年者の性的な合成画像をめぐる報道を受け、約30の組織からなる連合がAppleとGoogleに対し、XとGrokの削除を求めた。団体は、両アプリケーションがストアの既存ポリシーに違反していると主張した。 Grok app scrutiny

この要求は両社を難しい立場に置いた。即時削除は、アプリストアのルールが著名なプラットフォームを制約できることを示すだろう。利用可能な状態が続けば、執行は文書化されたポリシー以上の要素に左右されることを示唆する。

この論争はまた、「AI安全性」をモデル開発者だけの領域にとどめられない理由も示した。開発者はモデルと製品を管理する。ストア運営者は、ユーザーへ至る重要な経路を管理する。決済サービス、広告主、クラウドプロバイダー、規制当局も別の形の影響力を持つ。

それぞれの組織は、主たる責任は別の当事者にあると主張できる。モデル企業は悪用するユーザーを非難できる。ストアは開発者の安全対策を指摘できる。規制当局は、政府が介入する前にプラットフォームが自らのルールを施行すべきだと言える。

このような責任の循環自体が、AI導入の社会的特徴である。被害は急速に生じ得る一方で、説明責任は契約、通報システム、異議申立て、管轄の境界を通じてゆっくりと動く。

AppleとGoogleは相反するインセンティブにも直面する。両社のブランドは消費者の信頼から恩恵を受けるが、そのプラットフォームは開発者が人気アプリケーションをリリースすると利益を得る。生成AIは、デバイス利用、サブスクリプション、検索活動、クラウドインフラへの需要を増やし得る。

両社は同一ではない。Appleは統合されたハードウェア、ソフトウェア、プライバシー管理を重視する。Googleは、独自のGeminiモデルを開発しながら、より広範な広告、検索、モバイル、クラウド事業を展開している。経済的な立場は異なるが、両社はルールメーカーであると同時にAIの競合企業でもある。

この二重の役割が執行を複雑にする。競合するAIアプリケーションに関するあらゆる決定は、安全性の判断、商業的な駆け引き、あるいはその両方と解釈され得る。外部の人々は削除や承認から動機を確実に推測できないため、透明な基準が不可欠となる。

これが、AppleとGoogleをめぐるAI論争が単一のアプリケーションを超える理由である。この論争は、安全性、政治、競争上の利益が衝突する場面で、民間のゲートキーパーが予測可能なルールを適用できるかを問うている。

真の分断は選択と押し付けの間にある

世論の受容は、AIが存在するかどうかよりも、アクセス、収入、地位を失わずに人々がそれを拒否できるかどうかに左右されることが多い。

テクノロジーの導入は、しばしば個人的な決定として語られる。ユーザーはアプリケーションをダウンロードし、利用規約に同意し、利用を続けるかを選ぶ。しかし、AIが不可欠なサービスや職場の要件の一部となると、このモデルは成り立たない。

検索は分かりやすい例だ。従来型の情報源リストを求める人は、元のページに到達する前にAI生成の回答に遭遇するかもしれない。ユーザーが対話形式の回答を求めたことがなくても、システムはすでに情報を要約し、優先順位を付けている。

同じパターンは、クリエイティブソフトウェア、カスタマーサポート、教育、採用、オフィスツールにも見られる。AIは、意図的な購入ではなく製品アップデートを通じて入り込むことがある。ユーザーの名目上の選択は、その機能を受け入れるか、馴染みのあるサービスを手放すかの選択になる。

職場への導入は、さらに別の層を加える。管理職がより速い成果を期待するため、従業員はAIの利用を迫られるかもしれない。ツールが誤りを生んだ場合でも、結果に対する責任を負うのは従業員のままである可能性がある。生産性向上は組織の利益として残り、検証コストは労働者へ移転する。

これは、AI批判とAI利用が併存するように見える矛盾を説明する助けになる。人々は、回避を非現実的にするサービスに依存しながら、そのシステムに異議を唱えることができる。利用は自動的に同意、信頼、満足を意味しない。

同じ矛盾はソーシャルメディアにもあった。ユーザーはプライバシー慣行や有害な推薦システムを批判しながらも、コミュニティ、顧客、職業上のネットワークがすでにそこにあったために利用を続けた。継続的な参加は、根底にある不満を消し去るものではなかった。

AI企業はしばしば、利用増加を受容の証拠と解釈する。利用者数は、有用性、好奇心、制度的圧力、あるいは代替手段の欠如を示すことがある。より深い証拠なしに、これらの動機を区別することはできない。

したがって有用な社会分析は、誰が決定を支配しているのかを問う。クリエイターは学習や再利用を許可したのか。ユーザーはAI生成の回答を求めたのか。労働者はシステムの選定に関与したのか。人は自動化された判断に異議を唱えられるのか。意味のある非AIの選択肢はあるのか。

こうした問いは、誰かが抽象的にAIを好むかどうかを尋ねるよりも多くを示してくれる。それらは、プラットフォーム、雇用主、開発者、クリエイター、ユーザーの間にある現実の関係性の中に、対立を位置づける。

選択肢の有無も信頼に影響する。人はツールの限界を理解し、いつ使うかを自ら決められるなら、多少の不完全さは受け入れられる。同じ不完全さでも、システムが自動的に現れ、権威的に語り、回避できない場合には、より大きな脅威に映る。

AppleとGoogleは、ストアの要件やOSの設計を通じて、その体験に影響を与えられる。より明確な開示、利用しやすい通報手段、年齢保護、有意義な操作権限を求めることができる。一方で、AI機能をデフォルトで目立たせ、利用拒否の負担をユーザーに負わせることも可能だ。

このトレードオフは、単にイノベーション対規制という構図ではない。配布の速さと、同意の質とのせめぎ合いである。迅速な展開は有用な用途を明らかにし得る一方、影響を受けるコミュニティが条件に異議を唱える前に、製品を既成事実化してしまう可能性もある。

パーソナルナレッジシステムは、この原則をより小さな規模で示す例だ。どの情報をシステムに取り込むか、いつAIに処理させるかをユーザー自身が決められるとき、ユーザーはより大きなコントロールを得られる。同等の選択肢がないまま収集や分析が行われると、社会的な関係性は変わる。

コントロールが、あらゆる異論を解決するわけではない。学習データ、労働への影響、環境コスト、情報の健全性は、個々のインターフェースを超えた問題だ。それでも、有意義な選択肢の存在は支援と押し付けを分けるものであり、これは公共の信頼の核心にある。

AIへの反発が正しい点と誤っている点

AIへの批判は現実の制度的失敗を指摘しているが、単一のラベルでは、システム、用途、被害の程度に関する重要な違いが見えなくなる可能性がある。

反発を正当化する最も強い根拠は、説明責任にある。ディープフェイクは、参加に同意していない人々を標的にし得る。合成コンテンツは発見・検索システムを圧倒しかねない。信頼性に欠ける出力が、ユーザーが最低限の事実確認を期待する場面に現れることもある。

近年の執行圧力は、その点を示している。2026年7月、サンフランシスコ市のデービッド・チウ市検事は、同意のない性的画像の生成に使われたとされる13のアプリをAppleとGoogleが削除するよう求める法的通知を送った。報じられた措置は、虐待的なプロンプトを入力する人だけでなく、配布と利益にも焦点を当てていた。

nudifyアプリに関する通知の報道によれば、両ストアにはポルノ、虐待、嫌がらせを禁じるポリシーがあった。Googleは、ポリシー違反を理由にnudify機能を含む数百のアプリを削除しており、その中には市が特定したAndroidアプリ5件も含まれていたと述べた。

この対応は、プラットフォーム執行の影響力と限界の両方を示している。削除は配布を減らし得るが、しばしば外部調査の後に行われる。類似製品は、別の名称、マーケティング文言、技術設計のもとで再び現れる可能性がある。

批評家が、ユーザーだけが有害な出力を引き起こすという主張に疑問を呈するのも正しい。ユーザーは選択を行うが、開発者はシステムが何を生成できるか、どの安全策が機能するか、虐待報告をどう扱うかを定めている。製品設計は、悪用の規模と予見可能性の双方に影響する。

しかし、広範な敵意は精度を失うことがある。「AI」には、画像生成、タンパク質解析、アクセシビリティ、不正検知、翻訳、医療支援、推薦、予測のためのシステムが含まれる。これらの用途は、単一のリスク特性や社会的目的を共有しているわけではない。

生成AIの中だけを見ても、ローカルの文字起こしツールと公開画像生成ツールは異なる。前者はユーザーが選択した素材を処理する。後者は、同意を提供していない人々のリアルな描写を作り出す可能性がある。両者を道徳的に同一視すれば、有用な政策上の区別を妨げる。

包括的なラベルは、意思決定者から怒りをそらすこともある。「AIが仕事を奪った」と言えば、不可避のことのように聞こえる。雇用主が特定のシステムを購入した後にチームを置き換えたと言えば、検証し異議を唱えられる企業判断が明確になる。

同じ問題は、創造性をめぐる議論にも現れる。モデル自身が、クレジット、報酬、帰属表示をどう機能させるべきかを決めるわけではない。開発者、出版社、代理店、顧客がそうした慣行を作り上げる。テクノロジーは可能なことを変えるが、何が許容されるかは制度が決める。

AIの支持者も、ときに正反対の誤りを犯す。彼らは有益な用途を示し、ある導入形態への批判があらゆる利用を脅かすかのように示唆する。この動きもまた、必要な区別を曖昧にする。

生徒が方程式を理解するのを助ける学習支援アプリは、欺瞞的な合成メディアを正当化しない。科学データのパターンを特定する研究モデルも、許可なく創作物を商用学習に利用してよいかという問題を解決するものではない。

両陣営は、行為者、用途、被害を明示することで議論を改善できる。「Googleは、報告されたディープフェイクアプリに対してPlay Storeの執行がどのように適用されるのかを説明すべきだ」は検証可能な要求である。「AIは悪だ」は感情的には明快だが、実務上は弱い。

精度があれば、比例した対応も可能になる。開示を必要とする製品もあれば、より強力な年齢管理、監査、特定の出力に対する制限を必要とする製品もある。限られた一部の製品は、削除や法的禁止を正当化するほどのリスクをもたらす可能性がある。

ここで、Apple Google AI debateは建設的なものになる。ストア運営者はすでにアプリを分類し、条件を課している。問題は、恣意的にならずにAIによる新たな悪用形態を認識できるほど、それらの制度が迅速に進化できるかどうかだ。

答えはなお不確実である。ストア審査は独立した裁判所ではなく、民間による執行は表現、競争、アクセスに影響し得る。透明性なしにゲートキーパーへより大きな権限を与えれば、新たなリスクが生まれる。

したがって、説明責任には二つの方向が必要だ。開発者は製品の挙動について説明を求められるべきであり、ストア運営者は執行判断を説明すべきである。規制当局と裁判所は、両者を審査できる能力を維持しなければならない。

アプリストアだけでは信頼危機を解決できない

プラットフォームによる執行は重要だが、AIをめぐる最も根深い争点は、アプリ審査では修復できない権力構造に関わっている。

Appleはアプリをストアから削除できる。Googleは開発者を停止させたり、コンテンツのカテゴリを制限したりできる。しかし、どのように学習データが収集されたか、職場の自動化がどのように交渉されるか、エネルギーインフラが周辺コミュニティにどう影響するかは、どちらの措置でも解決しない。

アプリストアによる介入が最も効果を発揮するのは、違反が具体的な場合だ。アプリが違法コンテンツを配布する、ユーザーを欺く、他者になりすます、または機微な情報を不適切に扱う場合である。文書化されたポリシーは行為を定義し、執行の根拠を与えられる。

社会的な害は、しばしば切り分けが難しい。チャットボットは個々には合法的な回答を生成しながら、多数のやり取りを通じて不健全な依存を促す可能性がある。コンテンツ生成ツールは、単一の出力が明確な規則に違反しなくても、広告チャネルを埋め尽くすかもしれない。

ストア運営者は、特定の時点で製品を評価する。生成システムは、承認後にサーバー側の更新で変化する可能性がある。その挙動は、プロンプト、モデルのバージョン、安全性分類器、製品設定に左右され、審査担当者が継続的に観察できないこともある。

開発者は、改善を評価するのに十分な証拠を明かさずに、世論の圧力へ対応できる。より強い安全策を発表し、特定の機能を制限し、特定された脆弱性を修正したと述べるかもしれない。それでも独立した観察者には、有害な挙動が続いているかを検証する手段が必要だ。

透明性は解決策の一部を提供する。企業は、削除件数、違反カテゴリ、不服申し立ての結果、対応までの時間を報告できる。ポリシーがアプリ全体に適用されるのか、特定の機能だけに適用されるのかも説明できる。

しかし、報告されるカテゴリが広すぎれば、透明性は儀礼的なものになり得る。数百のアプリを削除したと述べても、どれほどが利用可能なまま残ったのか、どれほど迅速に措置が取られたのか、繰り返し違反する開発者が戻ってきたのかは分からない。

独立研究は役立ち得るが、研究者には安定したアクセスと法的保護が必要だ。プラットフォームは、それが悪用に似ている、または規約に違反するとして、自動テストを制限することがある。有用な説明責任の枠組みは、善意による監査と危害を引き起こす試みを区別しなければならない。

規制当局もタイミングの問題に直面している。正式な調査や訴訟はゆっくり進む一方、生成製品は数日で大規模な利用者層に到達し得る。民間のストア執行はより速いが、政府に期待される手続き上の保護を欠いている。

この緊張関係に単純な解決策はない。AppleとGoogleの対応が遅ければ、有害な製品は拡大し得る。積極的に対応すれば、2社がモバイルユーザーに届くAIアプリをより強く支配することになる。

両社自身のAIへの野心は、中立性を示すことをより難しくしている。Googleはモデルを開発し、Androidを配布し、Google Playを運営し、クラウドサービスを販売し、主要な発見・検索面を支配している。Appleはデバイス、OS、ストア規則、統合されたAI体験を設計している。

競合する開発者は、執行がファーストパーティとサードパーティのサービスを一貫して扱っているか、当然ながら疑問を抱くかもしれない。ユーザーも、組み込み機能が別途インストールするアプリより深いアクセスを得ているとき、同じ疑問を抱く可能性がある。

製品チームと執行チームを明確に分離すれば役立つが、組織上の安全策には検証が必要だ。公開されたポリシー説明、外部監査、一貫した不服申し立て手続きは、そうした境界の信頼性を高められる。

信頼危機はコンプライアンスを超えている。人々は、採用が市場での地位を高めるというだけの理由で、制度が回避可能な害に自分たちをさらさないという保証を求めている。これは技術的安全性だけでなく、企業の優先順位に関する問題だ。

Rapplerの社会的な枠組みは、このより広い問題を捉えている。AIへの怒りは、テクノロジーをまず導入し、結果を後から交渉する制度への不満を代弁することが多い。公的な抵抗は、この順序を遅らせるために利用できる数少ない手段の一つになる。

企業は、こうした抵抗をブランディング上の欠陥として扱うべきではない。より良い広告では、同意、労働、説明責任をめぐる争いは解決しない。社会的な異議を混乱として提示すれば、広報キャンペーンは不信をさらに深めることさえある。

影響を受ける人々が意思決定に実質的な役割を得るとき、信頼は育つ。労働者には、監視や自動化のシステムが導入される前に意見を述べる機会が必要だ。クリエイターには、自らの作品に関する執行可能な選択肢が必要だ。ユーザーには、理解しやすい操作権限と効果的な救済手段が必要だ。

AppleとGoogleはこうした条件を支えられるが、それだけで作り出すことはできない。雇用主、開発者、立法者、裁判所、研究者、市民社会のすべてが結果を形作る。

AppleとGoogleが次に示さなければならないこと

次の試金石は、AppleとGoogleが広範な安全性の約束を、一貫して観察可能な判断へと変えられるかどうかだ。

最初のシグナルは、執行の透明性である。両社は、外部の人々が文書化されたポリシーと実際の結果を比較できるだけの詳細を提供すべきだ。有用な報告は、違反カテゴリ、対応時間、再犯、異議申し立ての役割を明らかにする。

報告がより具体的になれば、プラットフォーム主導のガバナンスを支持する根拠は強まる。開示が広範なままであれば、批評家は執行を受動的かつ選択的なものと見続けるだろう。

第二のシグナルは、承認後に変化するアプリをストアがどのように扱うかである。サーバー側のモデルは、従来型のアプリ更新なしに、新機能や変更された安全策を得ることができる。審査システムには、重要な挙動変化を検知する手段が必要だ。

継続的なテストは、すべての会話を読むことを必要としない。文書化された高リスク機能、年齢保護、通報経路、既知の悪用パターンに対する開発者の対応に焦点を当てられる。独立監査人は、アクセスと手法が保護されれば、信頼性を高めることができる。

ファーストパーティーとサードパーティーのAIを一貫して扱うことが、3つ目のシグナルとなる。AppleとGoogleは、組み込みサービスにも外部開発者に課すものと同等の基準が適用されることを示さなければならない。その対称性がなければ、安全性の執行は競争上の懸念に対して脆弱なままだ。

こうしたシグナルは、個別の削除措置よりも重要になる。注目を集める利用停止は権限の強さを示せるが、予測可能な仕組みはガバナンスを示す。ユーザーと開発者が必要としているのは、世論の圧力が頂点に達した後だけでなく、次のスキャンダルが起きる前にルールを知ることだ。

規制当局の対応も、もう一つの尺度となる。サンフランシスコでの通知は、有害なアプリケーションが引き続き利用可能な場合、当局がストアでの配信を標的にする意思があることを示している。同様の介入があれば、より迅速で記録の残る審査を求める圧力が高まるだろう。

Apple Google AI debateも、合成メディアの見分けがますます困難になるにつれて変化する。かつては視覚的な不自然さがユーザーへの非公式な警告になっていた。生成技術の向上はその防御を弱め、来歴情報、ラベル表示、迅速な通報の価値を高める。

来歴情報とは、デジタル素材がどこから来て、どのように変化したかに関する情報を指す。ラベルは削除される可能性があり、再投稿の過程でメタデータが失われることもあるが、プラットフォームとユーザーが合成コンテンツを評価する助けになり得る。

単一の技術的マーカーだけで、この問題を解決することはできない。効果的な仕組みには、ポリシーの執行、プロダクト設計、法的救済、公衆のリテラシーが必要だ。また、繰り返される警告サインを無視する組織に対する結果も必要になる。

最も重要な変化は、事後的な削除から説明責任を伴う展開へ移行することだろう。開発者はリリース前に悪用を想定すべきだ。ストアは配信前に高リスクな主張を検証すべきだ。規制当局は、あらゆるコンテンツ判断を民間のゲートキーパーに委ねることなく、最低限の義務を定めるべきである。

読者は、次に注目度の高いAIプロダクトが公開済みのルールと衝突した際、AppleとGoogleがどう対応するかを注視すべきだ。両社は基準を説明し、一貫して適用し、結果を開示するのか。それとも、記者、研究者、当局者が決断を迫るまで待つのか。

その答えは、アプリストアへの信頼がマーケティング上の約束にとどまるのか、それとも執行可能な関係になるのかを明らかにする。

AIを嫌うことは、複雑なシステムに対する正確な反応ではない。しかし、その感情にはしばしば合理的なメッセージが含まれている。人々は、自分たちとともにではなく、自分たちを取り巻く形で重大な選択がなされていると感じているのだ。

適切な対応は、導入は避けられないと批判者に告げることではない。誰がそのシステムを選び、誰が利益を得て、誰がコストを負担し、有害な展開を止められるのは誰かを明らかにすることだ。

AppleとGoogleは、両社が認めたい以上に、しばしばその最終的な立場にいる。両社の次の判断は、同じ市場内で競争しながら、モバイルプラットフォームがAIを責任を持って統治できるかを示すことになる。ユーザーは、信頼を求める次のAIアプリケーションを両社が承認する前に、どのような基準を要求すべきだろうか。