EFF、FTCにAI正確性方針案の撤回を要請

Electronic Frontier Foundationは、FTCが消費者保護策として提示したAI方針案に対し、直接的な異議申し立てに加わった。

この争いは、人工知能に関するもう一つのgoogle newsの見出しとして現れた。しかし、その本当の影響ははるかに大きい。この提案は、連邦当局がモデルの正確性、安全対策、バイアス軽減、州法への準拠をどのように判断するかを変える可能性がある。

Federal Trade Commissionは、企業がAIの出力を思想的な目標へ密かに誘導した場合、消費者を欺く可能性があると述べている。EFFとその協力団体は、この提案が正当な懸念を危険なほど曖昧な執行理論へ変えていると主張する。

この区別は重要だ。あらゆる汎用AIシステムには誘導が加えられている。開発者は学習データ、評価手法、安全ルール、応答拒否ポリシー、システムプロンプト、製品目標を選択する。こうした選択は、モデルが何を述べ、何を述べないかに影響する。

したがって中心的な対立は、正確性と不正確性の対立ではない。消費者保護と、どのモデル目標を正当と見なすかを連邦政府が定義しようとする試みの対立である。

FTCは、Trump政権からの指示を受けた後、この提案について意見募集を開始した。また同庁は、企業に差別的な結果の評価または軽減を求める州法とも、その理論を結び付けた。

この結び付きにより、Colorado州をはじめとする州が標的となる。また、OpenAI、Anthropic、Google、xAI、および小規模な開発者に対し、モデルの挙動をどのように説明するか再考する圧力がかかる。

この提案はまだ拘束力のある規則ではない。しかし、執行方針であっても、当局がどの慣行を調査する意向なのかを示すことで、企業行動を変えうる。

開発者と企業の購入担当者にとって、この論争は法的な文言以上の問題だ。安全対策が責任ある製品設計と見なされるのか、それとも企業が「より正確」とされる回答を意図的に抑制した証拠と見なされるのかを左右する。

EFFがFTCに撤回を求めた内容

EFFの介入は、企業が消費者に真実を伝えるべきだという基本原則ではなく、FTC提案の土台そのものに異議を唱えている。

FTCは2026年7月1日、「Policy Statement Concerning the Suppression of Accuracy in Artificial Intelligence Systems」の案を公表した。パブリックコメント期間は7月31日に終了した。

その後、EFFは同庁に提案を撤回するよう求める呼びかけに加わった。この立場は、具体的な用途、害、技術的限界を無視する包括的なAI方針に対する同団体の幅広い警告と一致する。

この提案は、不公正または欺瞞的な商慣行を禁じるFTC ActのSection 5を適用する。proposed policyによれば、消費者は一般に、AIシステムが真実かつ正確な出力を目指すと期待している。

この出発点は一般的なものに聞こえる。企業は、信頼できない製品を、誤りがなく客観的で、資格を持つ人間の専門家と同等であるかのように販売すべきではない。

FTCは次に、より論争を呼ぶ一歩を踏み出す。開示されていない思想的目標が、ユーザーの要求または合理的な期待から外れる方向へシステムを誘導しうるとしている。

この理論の下では、誘導が消費者の製品利用または購入判断に重大な影響を及ぼす場合、欺瞞に当たる可能性がある。動機は企業の免責理由にはならない。

同庁は、意図的な誘導と、もっともらしいが根拠のないモデル出力を指すhallucinationを区別している。通常の技術的エラーは自動的にSection 5違反になるわけではないとしている。

提案された方針は、正確性よりも別の目標を優先したとされる設計上の選択に焦点を当てる。その目標は、政治、公平性、安全性、または州の要件への準拠に関するものかもしれない。

FTCはまた、抵触する州法が黙示的にpreemptedされる可能性にも言及している。黙示的preemptionとは、Congressが明示しなくても、連邦法が州の要件を覆す場合を指す。

Colorado州のArtificial Intelligence Actには特に注意が向けられている。FTCは、州の要件が企業に真実の出力を歪めるよう強いる場合、連邦法と抵触する可能性があると示唆している。

この枠組みが、EFFの呼びかけに表れた強い反対を招いた。問題は、隠れた操作が保護に値することではない。「正確性」「思想」「消費者の期待」が、生成AIモデルでは依然として定まっていないことだ。

Federal Register noticeは、バイアスをめぐる正確な境界線を引くのが難しい場合があると認めている。しかし、その不確実性こそが、提案された執行基準の中心にある。

Commissionは2対0の投票で提案の公表を承認した。この投票が認めたのはパブリックコンサルテーションであり、AI企業に対する最終的な法的判断ではない。

したがって読者は、EFFの動きを方針形成の過程における介入として捉えるべきだ。これは裁判での勝利でも、完了した規則制定でも、提案の取り消しでもない。

それでも、撤回には実務上の影響がある。FTCは、具体的なマーケティング上の主張、記録された行為、測定可能な消費者被害に基づく、より限定的な欺瞞事案へ戻ることを迫られる。

FTCがAIの正確性には連邦による保護が必要だと考える理由

FTCの最も強い主張は、モデルが中立的または一貫して正しい回答を提供できない場合でも、企業はすでに信頼を売りにしているという点にある。

AI開発者が自社製品をランダムなテキスト生成器として売り出すことはほとんどない。質問への回答、証拠の分析、問題解決、重要な業務の支援を行うアシスタントとして提示している。

FTCは、こうした表明が合理的な期待を生むと主張する。顧客は、既知の技術的・リソース上の制約の範囲で、システムが要求された目的を追求すると想定するかもしれない。

企業が別の目標を密かに差し替えた場合、結果として出力はその期待に反する可能性がある。製品規約に埋もれた開示では、全体として与える印象を修復できないかもしれない。

従来の欺瞞法はすでに、表明、欠落、合理的な消費者、重要性を検討している。重要な情報とは、消費者の選択または行動に影響しうる情報である。

FTCは、このよく知られた枠組みをモデルの挙動に適用しようとしている。その理論では、あらゆる執行措置の前に新たな連邦AI法を必要としない。

同庁には、誇張されたAIの主張に異議を唱えてきた実績もある。過去の事案では、自動化された法務サービス、顔認識、セキュリティ検査、AIを活用したビジネス機会に関する主張が扱われた。

これらの事案には、比較的明確なパターンがある。販売者が測定可能な能力を約束し、証拠がその約束と矛盾し、消費者が金銭的または実務上の被害を受ける。

提案された声明は、より難しい領域に踏み込む。モデルに組み込まれた目標そのものが、マーケティングを欺瞞的にしうるかを問うものだ。

FTC Chair Andrew Fergusonは、この問題をAIシステムの思想的な転覆と表現した。同庁のaccuracy announcementで、同氏は企業と消費者に関連する経験の報告を求めた。

支持者は、もっともらしい例を挙げることができる。政治的に中立だと宣伝されるモデルが、一方の政党を組織的に優遇しながら、提供元がそのための意図的な指示を隠している場合が考えられる。

健康支援アシスタントが、運営者が無関係な政治目標を推進したいという理由で、医学的に関連する情報を密かに省く場合もある。研究製品が、その所有者と矛盾する情報源を抑制する場合もある。

こうした事例には実際の欺瞞が含まれうる。購入者は、製品の挙動を重大な形で変える、開示されていない目標を評価できない。

FTCはまた、企業が広範な免責条項の陰に隠れることを懸念している。消費者法は一般に、広告、インターフェース、文書、実際の運用によって生み出される総合的な印象を評価する。

企業にとって、懸念は個々のチャットボットの回答にとどまらない。組織はますます、モデルを文書検索、顧客サポート、ソフトウェア開発、社内の意思決定ワークフローに接続している。

隠れた目標は、そこで多数の出力へ波及しうる。元のモデルを選択したり、その規約を確認したりしていない従業員にも影響を及ぼす可能性がある。

これが、この提案を単なる文化戦争の文書として退けられない理由だ。商用AIにおける正当な透明性の問題を指摘している。

弱点は、方針が選んだ境界線にある。「思想的」な誘導を特に疑わしいものとして扱う一方で、思想を安全性、品質、または適法なガバナンスと区別する信頼できる方法を示していない。

この曖昧さは企業に不快な問いを残す。統計的に起こりやすいモデル応答を変えるあらゆる方針目標を開示しなければならないのか。

答えは「すべての目標」ではありえない。モデルには数千もの設計上の選択が関わり、網羅的な開示は有意義な説明責任を改善することなく、ユーザーを圧倒する。

答えはまた、「FTCが後で嫌うもの」であってもならない。そのようなアプローチは、消費者の期待を政治的に変わりうる執行上の選好に置き換えることになる。

Google Newsの見出しが隠す真実をめぐる争い

核心的なトレードオフは、隠された操作を罰することと、連邦当局にモデルの安全対策を思想的な歪曲と分類する広範な権限を与えることの間にある。

生成AIは、固定されたデータベースから客観的に正しい一文を取り出すわけではない。学習されたパターン、指示、文脈、サンプリングの選択、製品上の制約から応答を生成する。

事実に関するプロンプトでさえ、複数の有用な回答を支持しうる。簡潔な回答、詳細な説明、慎重な回答拒否は、それぞれ異なる目標を最適化する。

正確性も分野によって異なる。歴史上の日付は直接確認できる一方、政治分析は枠組み、証拠の選択、争いのある定義に依存する。

そのためモデル開発者は、複数の目標を組み合わせる。役立ちやすさ、事実性、セキュリティ、法令遵守、プライバシー、有害な要求への耐性を追求する。

Alignmentとは、こうした目標に向けてモデルの挙動を形作るプロセスである。これには学習手法、評価、方針、実行時の制御が含まれる。

開示されていない思想的alignmentを禁じる規則は、規制当局がどのalignmentの形態を該当と見なすかを決めるまで単純に聞こえる。ほぼすべての安全上の判断は、許容可能なリスクについての価値判断に基づく。

人口統計情報から応募者の適性を推論するようモデルに求める場合を考えてみよう。その要求を遮断すれば、プライバシーを保護し、差別を減らせるかもしれない。

批判者は、制約のない回答を妨げるという理由で、その拒否を思想的だと呼ぶかもしれない。開発者は必要なリスク管理だと呼ぶかもしれない。

次に、高リスクの自動化システムについて影響評価を求める州法を考えてみよう。企業は、不平等な結果を見つけた後、モデルまたは下流のプロセスを調整する可能性がある。

FTCの提案は、そのような調整が正確性を抑制する可能性を示している。この議論は、変更されていないモデル出力が適切な事実上の基準線を提供するとの前提に立つ。

機械学習システムは、その前提を自動的には正当化しない。過去のデータには、不平等な執行、アクセスの制限、測定上の欠落、制度的な差別が符号化されている可能性がある。

モデルを過去のラベルの再現に最適化すると、ベンチマーク上の正確性は向上する一方、データセットで除外または誤って表現された人々に対する判断を悪化させる可能性がある。

EFFはこれまで、AI政策は特定の文脈における具体的な被害を検討すべきだと主張してきた。同団体のAI政策フレームワークは、無批判な導入と包括的な規制の双方を退けている。

このアプローチは重要な対比を生む。FTCの提案は消費者の期待という広範な概念から始め、それを用いて多種多様なシステムを評価する。

EFFは、用途、行為主体、影響を受ける人、実証された被害から始める。そして、その状況にどの法的または技術的対応が適するかを問う。

この違いは哲学的であるだけでなく、手続き上のものでもある。文脈に即した事案では、政府は何が起き、なぜそれが消費者に害を及ぼしたのかを記録する必要がある。

広範な政策声明は企業に事前警告を与える一方、不確実性も高める。執行の優先順位は、当局の指導部が変われば変動しうる。

政治的な文脈により、そのリスクはさらに明白になる。この提案は、AIモデルの「truthful outputs」を変えるとされる州法に関する大統領指令に続いて示された。

政権は「woke AI」と呼ぶものも批判している。この表現は、バイアス緩和、安全設計、歴史的解釈、党派的な選好を、一つの政治的カテゴリーに押し込めている。

類似した概念を中心に据えた執行政策は、見解に基づく圧力を招く。企業は、思想的動機があるように見られることを避けるため、正当な安全対策を弱めるかもしれない。

また、製品の透明性を高めることなく、公開文書を書き換える可能性もある。法務チームは、明確な説明を、ほとんど情報を明かさない一般論に置き換えられる。

それは提案の掲げる目的を損なう。消費者に必要なのは、モデルが真実を追求するという抽象的な保証ではなく、重要な製品挙動について理解可能な開示だ。

Google Newsの枠組みでは、この出来事は擁護団体と連邦機関の間のまた一つの対立に見える。より深い論点は、誰がデフォルトの回答を定義するのかだ。

デフォルトを持たずに登場するモデルはない。政策上の問題は、そのデフォルトが開示・検証され、消費者被害の証拠と結び付けられているかどうかである。

AI企業は中立性テストではなく、相反するルールに直面している

この提案は、連邦執行、州規制、製品安全、ユーザーの要求が異なる方向を指しうるため、AIプロバイダーに圧力をかける。

OpenAI、Anthropic、Google、Meta、xAIはいずれもモデルの挙動を形作っている。アプローチは異なるものの、客観的真実を無加工で映し出す窓を提供する企業はない。

プロバイダーはデータを選び、一部のコンテンツを除外し、評価セットを作成し、許容利用ポリシーを策定する。また、テストによって有害または信頼性の低いパターンが明らかになれば、モデルを更新する。

一部の制御は、マルウェア生成や個人情報の露出を含む明白な悪用を防ぐ。ほかには、政治的説得や医療ガイダンスといった争点のある領域を管理するものもある。

FTCの提案は、こうした制御を禁じてはいない。開示されていない目的が、消費者が合理的に期待する内容を上回る場合、企業は欺瞞のリスクを負うとしている。

しかし、消費者の期待は製品やユーザーによって異なる。10代の利用者、医師、ソフトウェアエンジニア、政治キャンペーンは、同じモデルに異なる境界を期待する可能性がある。

法人顧客は契約上の要件も加える。プライバシー制御、地域ごとのコンプライアンス、監査記録、特定のデータソースに対する制限を求める場合がある。

州政府はさらに別の層を作る。Coloradoの法律は、重要な意思決定に用いられる高リスクシステムに焦点を当て、アルゴリズムによる差別からの保護を目指している。

ほかの法域では、プライバシー、生体データ、雇用判断、透明性が重視される。開発者はしばしば、複数の義務を満たす共通の制御で対応する。

FTCの優先法適用に関する文言は、コンプライアンスを罠に変えかねない。企業は、差別的な結果を減らすよう州から圧力を受ける一方で、出力を変更したとして連邦の監視を受ける可能性がある。

法律アナリストは、この提案には重要な未解決の問題が残ると指摘している。これには、非決定論的システムに正確性をどう適用するか、どの開示が誘導を十分に説明するかが含まれる。

非決定論的システムは、同じプロンプトに対して異なる応答を返しうる。この変動性は、ある一つの回答がモデルの改変されていない真実を表すという主張を難しくする。

FTCは、個々の出力ではなく目的を対象にすると答えるかもしれない。しかし、目的を立証するには、内部ポリシー、テスト、経営判断に関する証拠が必要となる。

この調査は、信頼できる中立性の尺度をもたらさないまま、独自の手法を露出させる可能性がある。また、大規模なコンプライアンスチームを持つ大企業を有利にするおそれもある。

小規模な開発者は、利用可能な中で最も保守的なポリシーを採用して対応するかもしれない。安全ルールが密かに思想的なものかをめぐる長期的な争いに資金を投じることはできない。

この結果は、必ずしも制限の少ないモデルを生み出すわけではない。調査を吸収し、規制当局と交渉できる既存ベンダーを強化する可能性がある。

エンタープライズの購入者も独自の課題に直面する。モデルが正確、安全、またはバイアスがないという一般的な主張には頼れない。

実際のタスクに根ざしたテストが必要だ。顧客サポートモデルには、臨床文献を要約するシステムとは異なる証拠が求められる。

調達チームは、モデルのバージョン、指示、データソース、評価基準、既知の失敗モードを記録すべきだ。また、制御を追加した理由も記録すべきである。

その文書化は、説明責任と運用上の記憶の双方を支える。検索可能なナレッジベースは、法務、製品、エンジニアリングの各チームにまたがって意思決定を保存できる。

目的は、書類を作ること自体ではない。システムがどの目的に奉仕しているのか、そして失敗した際に誰がコストを負担するのかを特定することだ。

企業はマーケティングと評価も分けるべきである。「客観的」「正確」「専門的」といった主張には、定義されたタスクに結び付いた証拠が必要だ。

モデルは一つのベンチマークで良好な性能を示しても、エンタープライズのワークフローでは失敗しうる。ベンチマークは統制されたテストだが、導入環境には変化するデータと予測不能なユーザーが含まれる。

FTC提案の行方にかかわらず、明確な製品上の制限は有用であり続ける。EFFの異議は、重要な誘導を隠したり、信頼性を誇張したりする許可を企業に与えるものではない。

むしろ、政治的なラベルを技術的・消費者的な証拠の代替として扱う連邦の中立性テストに警鐘を鳴らしている。

FTC提案がなお立証できていないこと

この提案はありうる欺瞞の理論を示しているが、州規制に関する最も広範な主張を現行法が支持することは立証していない。

政策声明は、機関による執行上の見解を説明するものだ。Congressが与えなかった法的権限を新たに作り出すものではなく、裁判所もその法的結論を自動的に受け入れるわけではない。

FTC Actは、欺瞞的な商業行為を明確に対象とする。難しい問題は、州法で求められるモデルアラインメントがそうした行為に当たるかどうかだ。

当局は、州の要件を守ったことは欺瞞の免責にはならないと主張する。企業が実際に消費者を誤導している場合、この一般原則は理にかなっている。

提案はさらに、州の要件と連邦の規制枠組みの間に対立があることを示唆する。この優先法適用の理論には、依然として異議を唱える余地がある。

FTC Actは、AI出力のための包括的な全国的枠組みを明示的に定めてはいない。CongressはCommissionにモデルの正確性を独占的に管理する権限を与えていない。

州は伝統的に、消費者保護、雇用、保険、公民権に関する権限を行使してきた。多くのAI法は、こうした確立された領域の中で運用されている。

裁判所はおそらく、正確な州規定と、それが連邦法とどう相互作用するかを検討するだろう。政策声明が、将来のあらゆる対立をあらかじめ解決することはできない。

提案の事実上の前提にも精査が必要だ。それはしばしば、正確性を安全性や公平性の制御とは独立して存在する目的として扱う。

これは限定的な事実確認タスクでは成り立ちうる。しかし、ランキング、推薦、リスクスコア、自由形式の対話では説得力が薄くなる。

こうしたシステムでは、開発者は性能を測定する前に目標を定義する。目標を変えれば、「正確」の意味も変わりうる。

過去の採用選考を予測するよう訓練された採用モデルは、それまでの採用パターンを正確に再現するかもしれない。しかし、それだけでは、そのパターンが職務遂行能力を公正に測っていることにはならない。

モデレーションモデルは、誰かが禁止カテゴリーを定義して初めて、それらを正確に識別できる。その定義は、法的、商業的、コミュニティ上の選択を反映する。

したがってFTCに必要なのは、政治的に論争のある出力の例だけではない。消費者が重要な約束を受け取り、開示されていない行為がその約束と矛盾したという証拠が必要だ。

また、意図的な操作と通常のモデル変動を区別しなければならない。さもなければ、公開された応答が政治的に不人気になるたびに、企業が監視を受けかねない。

EFFの立場にも不確実性はある。撤回によってこの提案はなくなるが、規制当局が隠された誘導にどう対処すべきかという問いには答えない。

既存の欺瞞事案は、明白なマーケティング上の不正に対応できる可能性がある。一方で、プロバイダーが内部目的についてほとんど明かさず、消費者がモデルを検証できない場合には苦戦しうる。

透明性の義務付けにも別の課題がある。技術的な開示が多すぎると、ユーザーを混乱させたり、セキュリティ制御を露出させたり、攻撃者が安全策を回避する助けになったりする可能性がある。

最も強力な代替案は、政治的用語ではなく重要な挙動に焦点を当てるものだろう。主張、設計上の選択、影響を受けるユーザー、測定可能な被害について、明確な証拠を求めるべきだ。

また、高リスク用途にはタスク固有のテストを求めることもできる。結果は、関連する集団と運用条件をまたぐ制限を示すべきである。

独立監査も役立ちうるが、監査は初めから中立ではない。その質は、アクセス、方法論、ベンチマーク、インセンティブに左右される。

規制当局は、単一のスコアを公平性や正確性の証明として扱うべきではない。誤差の分布と、異なる失敗がもたらす結果を検討すべきである。

懐疑的な結論は両方向に及ぶ。FTCはその拡張的な提案を正当化していないが、業界による自己開示だけでも消費者を守れない。

EFFの異議申し立て後に注目すべきこと

この争いが、より狭い消費者保護政策になるのか、それとも州のAI規則に対するより広範な連邦キャンペーンになるのかは、三つのシグナルで分かる。

第一のシグナルは、FTCがパブリックコメントにどう対応するかだ。当局は提案を撤回し、文言を改訂し、または最終声明を採択できる。

撤回はEFFの当面の要求を認めることになる。また、裏付けのないAI主張に関する従来型の欺瞞事案をCommissionが追及する自由も残す。

思想的な用語と優先法適用の主張を削除するなら、改訂には意味がある。重要性と文書化された消費者被害に関する要件が明確になれば、執行リスクは狭まる。

提案に似た最終声明は、訴訟が起きるとの見通しを強める。企業、州、または影響を受ける当事者は、その後の執行措置に異議を申し立てる可能性がある。

第二のシグナルは、FTCが具体的な事案をどう扱うかだ。調査は、当局が虚偽広告を標的にするのか、それとも安全ポリシーの内容を標的にするのかを明らかにする。

文書化された中立性の約束に関する事案は、消費者保護の根拠を支持するだろう。それでも政府は、その約束が消費者に影響を与えたという証拠を必要とする。

明確な欺瞞なしにバイアス緩和を攻撃する事案は、EFFの警告を裏付ける。それは、この提案がモデル設計に対する政治的統制として機能していることを示唆するだろう。

第三のシグナルは、連邦政府による州のAI法の扱いだ。訴訟、資金面での圧力、当局のガイダンス、新たな優先法適用の主張に注目すべきである。

コロラド州は、FTCの提案がその手法を名指ししているため、引き続き中心的な試金石となる。他州は、連邦との抵触を招かずに重大な用途を規制できるかどうかを検討するだろう。

裁判所は、FTCの理論にどこまでの重みを与えるべきかを判断する。その判断は、州が影響評価、通知、差別防止措置を義務付けられるかどうかに影響する。

AI企業も、製品の変更を通じて自らの解釈を示すことになる。開示内容の更新、評価報告書、安全性ポリシーは、執行上の懸念が高まっている兆候となり得る。

保護措置の撤廃は、より懸念すべきシグナルだ。それは、裁判所がこの方針を審査する前に、法的不確実性がモデルの挙動を変えていることを示す。

エンタープライズ顧客は、その結果を待つべきではない。ベンダーに対し、出力を左右する目的は何か、またそれらの目的をどのように検証しているかを尋ねることができる。

普遍的な主張ではなく、バージョンごとの証拠を求めるべきだ。モデルの挙動は、アップデート、システム指示、検索・取得元、導入設定によって変化する。

ユーザーも、チャットボットの回答を保証された事実ではなく、生成された推奨として扱うべきだ。法務、医療、金融、政治に関する判断では、情報源の確認が引き続き必要となる。

元のgoogle news見出しは実際の動きを捉えていたが、対立の全体像までは示していなかった。EFFが争っているのは、AIの正確性の意味を誰が支配するのかという理論である。

FTCが、秘密裏の製品挙動が消費者を欺き得ると指摘するのは正しい。しかし、政治的に争われている保護措置が、連邦法上の不正行為の特別なカテゴリーに属するとまでは示していない。

より適切な基準は、具体的な約束、特定可能な設計上の選択、そして重大な害の証拠から始まる。その上で、企業が合理的なユーザーを誤導したかを問う。

このアプローチなら、生成AIに自然で統制されていない状態があるかのように装うことなく、欺瞞を罰することができる。導入されるすべてのモデルには、選択、制約、目的が反映されている。

次の連邦文書は、FTCがその技術的現実を受け入れるかどうかを示すだろう。それまでは、購入者は証拠を求め、開発者は重要な管理措置の一つひとつに至った根拠を保持すべきだ。

AIシステムに対する評価を変えるのは何だろうか。中立性のラベル、詳細な評価、それとも保護措置が実運用でどのように機能するかを示す記録だろうか。