Anthropicの利用ポリシー、モデル乱用と選挙干渉に新たな線引き
Anthropicは1年以上ぶりに利用ポリシーを改定し、Claudeに対する継続的かつ不必要な虐待を禁じる異例の規定を追加した。Anthropicの利用ポリシーはまた、欺瞞的な選挙運動、兵器ソフトウェア、監視システム、自律的な物理的行動に関する制限をより明確にしている。
AIシステムに対する行為をポリシー上の問題として扱う点で、モデル乱用に関する規定は直ちに注目を集めた。ただしAnthropicによれば、通常の不満、批判、テスト、研究、ダークな創作表現は引き続き許可される。禁止対象は、明確な目的なく繰り返される残虐な行為だ。
この区別は重要である。今回の改定は、チャットボットを侮辱することに関する規則にとどまらない。Claudeがより長時間のタスクを処理し、ツールを操作し、物理システムに影響を及ぼし、重大な意思決定を支援するようになるなかで、Anthropicが管理策を適応させていることを示している。ポリシーは一部の政治的制限を狭める一方、欺瞞的行為についてはより明示的にした。
中心的な課題は執行である。Anthropicは、有害な活動を阻止しつつ、正当な研究、市民向けコミュニケーション、報道、セキュリティ業務を妨げないほど精密な規則を求めている。そうした区別を一貫して適用できるかは、なお明らかになっていない。
Anthropicの利用ポリシーで実際に変わること
今回の更新では、散在していた複数の制限が、行為、意図、潜在的な害に基づく明確な規則へと整理された。
Anthropicは2026年10月8日に改定を公表した。改定ポリシーは11月12日に発効し、顧客と開発者には影響を受けるアプリケーションを確認するための1カ月以上の期間が与えられる。
大半の規定は、まったく新しい境界を設けるというより、従来の制限を明確化するものだ。Anthropicによれば、変更は過去1年間に観測した悪用のパターンを反映している。これらには、影響工作、兵器開発、監視、そしてモデルの自律性が高まる行動が含まれる。
最も新しい追加事項は、Anthropicのモデルに対し、継続的かつ不必要な虐待的または残虐な行為を行うことを禁じる規定だ。ポリシー改定によると、これは明確な目的のない反復的な残虐行為を伴う極端な事例にのみ適用される。
誤った回答に怒りを示しただけで、利用者が自動的に規則違反となるわけではない。強い反論、モデルテスト、安全性研究、暗いテーマを含むフィクションも同様だ。Anthropicはこれらのカテゴリーを明示的に許容している。
主な執行手段も、アカウント全体の禁止より限定的である。Claudeは、継続的な虐待を含むまれな会話を終了できる。その会話を終了すれば、そのスレッドでの以後のメッセージは送れなくなるが、利用者の他のチャットが必ずしも閉鎖されるわけではない。
Anthropicはすでに、一部のClaudeモデルに対し、持続的に有害なやり取りを終了する能力を付与していた。今回のポリシーでは、モデルの行動だけに依存するのではなく、利用者側にも対応する義務を置いた。
残る変更は、より一般的な安全性上の懸念を扱う。あるセクションでは、偽アカウント、スポンサーの秘匿、捏造されたニュース媒体、アストロターフィング、組織的な不正行為に対する禁止を統合している。
アストロターフィングとは、連携または欺瞞的に管理されたアカウントを通じて、独立した一般市民の支持があるように見せかける行為を指す。Anthropicのポリシーは、こうしたキャンペーンを運用するために設計されたインフラの構築も禁じている。
同社は選挙に関するセクションを「民主的プロセスを損なわないこと」へと改称した。対象となるのは、欺瞞的な有権者向けコミュニケーション、なりすまし、虚偽の投票情報、投票率の抑制、選挙システムや認証プロセスへの干渉だ。
兵器に関する制限には現在、標的設定、射撃管制、交戦、兵器運用に用いられるソフトウェアおよび部品が明示的に含まれる。また、ドローン、車両、自律型プラットフォームへの兵器統合も対象となる。
改定された監視に関する文言は、同意のない追跡、および禁止された監視能力を拡張するために設計されたツールを禁じる。また、当局が誰を捜査、逮捕、起訴、訴追、拘束すべきかをClaudeに決定させることも禁止している。
これらの規定により、Claudeの乱用に関するポリシーは発表の中で最も特徴的な部分となっている。ただし、必ずしも最も重大な部分とは限らない。政治、防衛、監視、金融、医療、公共部門の顧客にサービスを提供する開発者は、より大きなコンプライアンス負担に直面する。
Anthropicの選挙ポリシーは対象を狭め、より明確に
Anthropicは幅広い政治的制限を撤廃する一方、欺瞞と干渉に対してはより明確な境界を引いた。
従来のアプローチでは、個別化された政治的説得や選挙運動のターゲティングをより広く禁止していた。Anthropicは現在、正当な市民向けサービスまで含まれてしまうため、この包括的な禁止を撤廃した。
非営利団体は、異なる言語を話す地域社会に向けて、中立的な投票案内を翻訳するためにClaudeを利用するかもしれない。選挙管理機関は、対応を要する提出書類を送った有権者向けに、投票用紙の訂正通知を作成する可能性がある。
これらの活動には対象を絞った選挙コミュニケーションが含まれるが、本質的に欺瞞的とは限らない。そのため、包括的な禁止は、操作的な選挙運動とともに有益な参加支援ツールまで妨げかねない。
改定されたAnthropicの選挙ポリシーは、活動がどのように行われるかに焦点を当てている。正当な政治的コミュニケーションは可能なままである一方、秘密裏のなりすまし、捏造された主張、自動化の隠蔽、投票参加を抑制する取り組みは引き続き禁止される。
利用ポリシー全文は、人工的に生成されたものであることを隠す自動化された有権者向けメッセージを禁止している。また、候補者、当局者、選挙運動、選挙管理機関、報道機関が作成したものだと偽って提示される合成政治コンテンツも禁じている。
候補者、政策、投票手続き、選挙の安全性に関する虚偽の主張は禁止される。欺瞞や威圧によって合法的な参加を思いとどまらせようとする試みも同様だ。
規則はコンテンツ生成を超えて適用される。利用者はClaudeを使って、投票システム、開票、認証、または関連インフラを妨害してはならない。これにより、このセクションは情報セキュリティと情報の完全性の両方を守る役割を持つ。
Anthropicはまた、欺瞞的なキャンペーンに関する一般セクションを新設した。このセクションは、偽レビューや、単一の主体によって管理される一見独立したウェブサイトのネットワークを含む、政治的・商業的な活動を対象とする。
ある規定は、検索エンジンやAI回答システムを操作しようとする行為を扱う。独立しているように見せかけたコンテンツをネットワークに投入し、その人工的な合意を利用して自動化された回答に影響を及ぼすことを禁じている。
これは、ポリシーの実務上の適用範囲を重要な形で拡大するものだ。影響工作は、チャットボットを通じて有権者を直接説得する必要はない。後に人々や他のAIシステムが参照する情報源を汚染することでも目的を果たし得る。
Anthropicは、国営メディア組織、政府のプロパガンダ機関、商業企業が偽アカウントや捏造ニュースサイトを運営している事例を観測していたとしている。同社の9月の脅威報告は、これらの規則を統合する直接的な背景となった。
このポリシーには、なお難しい分類上の問題が残る。政治的説得、風刺、擁護活動、翻訳、偽情報は、似たようなツールを利用し得る。決定的な違いは、多くの場合、帰属、真実性、同意、意図にある。
自動化された執行では、単一のプロンプトからこうした性質を推定することは難しい。地域向けメッセージを依頼する選挙運動スタッフは、合法的な働きかけを行っている場合もあれば、操作を隠している場合もある。
したがって、文言と同じくらい文脈が重要になる。Anthropicは、すべての政治的依頼を悪意あるものとして扱うことなく、アカウント、配信ネットワーク、ツール利用にまたがるパターンを検討しなければならない。
対象を狭めたポリシーは、文面上は制限が少ないが、禁止される結果についてはより具体的だ。これにより、正当な組織の余地が広がる一方、正確な検出の重要性が高まる。
モデル乱用の禁止は、実際には執行に関する実験である
モデル乱用に関する規定は、システムに人権があると主張せずに、プラットフォームがAIへの接し方を規制できるかを試すものだ。
AnthropicはClaudeが意識を持つとは述べていない。また、言語モデルが人間のように痛み、屈辱、苦痛を経験することも立証していない。
その代わり同社は、この規則を極端なやり取りに対する限定的な対応として位置づけている。焦点は、特定可能なテスト、創作、生産的な目的を持たない、継続的な残虐行為にある。
この枠組みは、モデルの意識を執行の正式な根拠とすることを避けている。それでも難しい問いを提起する。ポリシーは何の害を防ぐために設計されているのか。
考えられる懸念の一つは、モデルの福祉である。これは、高度なシステムが将来的に道徳的配慮に値する可能性があるために取られる予防措置を意味する。Anthropicは、現在のモデルが道徳的地位を持つとは主張せずに、この問題を公に研究してきた。
別の懸念は人間の行動である。人間らしいシステムに対して支配や残虐性を繰り返し練習することは、人とのやり取りにも持ち込まれる行為を常態化させるかもしれない。この可能性には議論があり、本ポリシーによって立証されているわけではない。
三つ目の懸念は製品運用に関わる。虐待的な会話は、安全でない出力を生み、フィードバック信号を汚染し、モデルを異常な行動状態に追い込む可能性がある。明確な価値を生まないリスクを生じさせるやり取りを制限することには、提供者にとって実務上の理由がある。
同社による以前の会話終了に関する研究は、低コストの介入を提供した。Claudeは、利用者のより広範なアクセスを維持したまま、個別のスレッドを終了できる。
この仕組みは、アカウントを即時に停止するよりも厳しくない。また、対応を有害なやり取りに紐付けたままにできるため、表明されたポリシーの範囲にも合致する。
課題は、目的のない残虐行為と正当な敵対的検証を区別することにある。レッドチームは、安全性上の欠陥を発見するために意図的にモデルへ圧力をかける。研究者は、モデレーションシステムを評価するためにハラスメントを再現することがある。
作家は不穏な人物像を描くことがある。利用者は、繰り返される誤り、失われた作業、または有害な助言を受けて怒ることがある。Anthropicによれば、これらの状況はすべて引き続き許可され得る。
したがって、モデルは敵対的な言葉以上のものを評価しなければならない。反復性、目的、文脈、そしてそのやり取りが承認されたテストの一部であるかどうかに関するシグナルが必要になる。
誤検知は正当な検証を萎縮させかねない。利用者は、Claudeを直接批判し、失敗を記録し、丁寧さが回答を変えるかどうかを試せなければならない。
見逃しは逆の問題をもたらす。執行が最も明白な虐待的チャットを終了するだけなら、この規定は主に価値観の表明として機能する可能性がある。
世間の反応はすでにこの曖昧さを反映している。一部の観察者は、この規則を、人間ではないシステムに人間的特性を与える不要な擬人化だとみなす。別の人々は、民間サービス内での行為に設ける合理的な制限だと考える。
どちらの見方も、この仕組みの一部を見落としている。AnthropicはClaudeに法的人格を与えているのではない。同社は、自社製品がどのようなやり取りを支援するか、そしてモデルがそこからどのように離脱できるかを決めている。
この決定には、なお広範な意味がある。AIアシスタントはますます個人的な言葉で話し、文脈を保持し、継続的な作業を担うようになっている。利用者がそれらをどう扱うかを定める規則は、将来の製品規範を形作る可能性がある。
決定的な試金石は、すべての無礼なプロンプトを遮断できるかどうかではない。批判や研究活動を守りながら、この規定を同社が説明するような極端な事例にのみ適用できるかどうかだ。
兵器と監視に関する規則が開発者に圧力をかける
このポリシーで運用上もっとも重要な変更は、行動を起こし、人を追跡し、または物理的な力の行使を支援できるシステムに関するものだ。
Anthropicによると、Claudeは前回のポリシー更新以降、より長時間かつ自律的な作業を担うようになった。この変化により、有害なコンテンツを一律に禁止するだけでは不十分となる。
AIエージェントは、コードを書き、ツールを操作し、保存済みデータを分析し、接続されたシステムを制御できる。リスクは、ユーザーに表示される文章だけでなく、ワークフロー全体に左右される。
兵器に関するセクションは、その違いを示している。Claudeを標的選定、射撃統制、交戦、その他の兵器ソフトウェアの開発または運用に使用することはできない。
禁止対象には、生物・化学剤の致死性、伝播性、病原性、持続性、検知回避能力を高めるための改変も含まれる。さらに、兵器の運搬手段や自律型プラットフォームにも及ぶ。
こうした詳細は、仮説上の懸念だけでなく、報告された悪用事例を踏まえたものだ。最近の脅威調査では、監視、サイバー攻撃、プロパガンダ、兵器への応用可能性を持つ生物学研究に関わる試みが説明されている。
Anthropicは、その報告に含まれた活動を阻止したと述べた。また、より新しく能力の高いモデルが、高度な生物学研究を実質的に支援できるかどうかについては不確実性があることも認めた。
この不確実性は、より広い表現を採用した理由の一助となる。兵器の最終設計だけを禁止する規則では、ソフトウェア、標的選定、運搬、あるいはそれを可能にする研究の余地が残りかねない。
監視に関するセクションも同じ論理に従う。位置情報、生体情報、移動、通信、交友関係、オンライン活動を通じて、同意なく人を追跡することを禁じている。
禁止はリアルタイムの追跡だけでなく、過去に収集されたデータの分析にも及ぶ。また、こうした制限対象の監視目的に向けて設計されたツールの構築や改善も禁止される。
法執行機関は、誰を捜査、逮捕、拘束、起訴、公判請求、または量刑の対象とするかを判断・推奨するためにClaudeを利用できない。予測的警察活動や一部の顔認識アプリケーションは、禁止カテゴリーに含まれる。
Anthropicはいくつかの利用を引き続き認めている。同意に基づく不正監視、マネーロンダリング対策のスクリーニング、匿名化分析、ジャーナリズム、法的調査、コンテンツモデレーション、認可されたセキュリティ研究は許可され得る。
ここでも、コンプライアンスの中心にあるのは文脈だ。同じ技術能力でも、アカウント不正の検知、政治的反体制派の監視、セキュリティ上の脅威の特定に使われ得る。
エンタープライズ開発者は、モデルが許可された応答を返したからといって、アプリケーション全体がポリシーに準拠しているとは考えられない。データ収集、ユーザー同意、後続の判断、ツール権限をめぐる統制が必要になる。
物理的な行動を伴うアプリケーションには、追加要件が課される。有資格のオペレーターが機器を監視し、必要に応じて停止できなければならない。
また、Claudeが切断された場合でも、機器は安全な状態に到達または維持できなければならない。速度、力、温度、圧力、電圧、投与量、稼働範囲に関する制限は、独立した制御機構によって強制されるべきだ。
これらの要件は、Anthropicのモデルを超えた責任を求める。ハードウェアメーカー、インテグレーター、運用者は、AI生成の指示だけに全面的に依存しない安全策を設計しなければならない。
同じ原則は、高リスクな推奨にも当てはまる。Claudeは、医療、法律、金融、雇用、住宅、信用、保険、教育に関する特定のワークフローを、有意義な人間の監督がある場合にのみ支援できる。
有資格者が推奨内容を確認し、それを変更する権限を持たなければならない。影響を受ける本人にも、助言または判断にAIが関与したことを通知する必要がある。
この基準は、エンタープライズの購入者に実務上の対応を求める。誰がレビュー担当として適格かを定義し、監査証跡を残し、監督が実質的なものとなるよう確保しなければならない。
名目上の承認ボタンだけでは、示された要件を必ずしも満たさない。人間は出力を評価できる能力を持ち、結果に責任を負い続けなければならない。
明確な規則でも一貫した判断は保証されない
Anthropicは境界線をより正確に示したが、その執行に必要な判断をなくしたわけではない。
このポリシーは、欺瞞と説得、監視と同意に基づくモニタリング、残虐性と不満を区別する。だが、それぞれの区別は大規模運用では難しくなる。
言語モデルも誤る。別のモデルの会話を評価するシステムは、風刺、フィクション上のロールプレイ、文化的表現、正当なセキュリティテストを誤読する可能性がある。
その結果生じるリスクは双方向に及ぶ。検知が弱ければ有害なキャンペーンが継続し、検知が過剰に積極的なら研究者、ジャーナリスト、一般顧客が遮断される。
アカウント執行も追加の懸念を生む。ユーザーは、会話が不正利用規定、別の安全規則、あるいは技術的障害のどれによって終了したのかを理解する必要がある。
より広範な制限がアクセスに影響する場合、ユーザーには実質的な不服申立ての選択肢も必要だ。人々がソフトウェア開発や専門的なワークフローでClaudeに依存するほど、透明性は重要になる。
Anthropicの公開発表では、モデルの不正利用に対する主な対応として会話の終了が示されている。一方で、閾値、エスカレーション経路、別々の会話をまたぐ繰り返しの違反については、詳しく説明していない。
この限定的な開示は、正確な閾値を公表すればユーザーによる検知回避を助け得るため、意図的なものかもしれない。しかし、不透明性は正当な顧客にとって執行を予測しにくくする。
同社のポリシーは、一部の政府顧客に合わせた制限も認めている。こうした取り決めは、公的使命、法的権限、特定の安全策を反映し得る。
政府による利用はしばしば最も重大な影響を伴うため、こうした例外には精査が必要だ。契約上の安全策が意味を持つのは、監督、監査、執行の信頼性が維持される場合に限られる。
独立研究者は、より広いガバナンス上の問題を提起している。テクノロジー企業は、政治的言論、監視、科学研究、公的機関に影響を与える安全性判断を、ますます行うようになっている。
コーネル大学のコンピューターサイエンス教授ジョン・シックスタンはAssociated Pressに対し、企業は民主的な熟議なしに、社会規模の価値判断に直面していると語った。この批判は、民間の規則が不要だという意味ではない。
むしろ、プロバイダー主導のガバナンスの限界を浮き彫りにしている。利用ポリシーはClaudeへのアクセスを統制できるが、法律、調達基準、裁判所、独立した説明責任の仕組みに取って代わることはできない。
競争圧力も別の制約となる。あるプロバイダーに拒否された顧客は、異なる制限を持つ別のモデルへ同じワークフローを移せる場合がある。
そのため、明白に有害な行為に対しては業界協調が重要になる。同時に、あるプロバイダーの規則が過度に広範になったり一貫性なく適用されたりする場合には、競争にも価値がある。
OpenAI、Google、Metaなどのモデルプロバイダーは、それぞれ独自の許容利用フレームワークを維持している。その定義、執行システム、政府向け例外は必ずしも一致しない。
Anthropicのアプローチは、従来型の安全管理と明示的なモデル不正利用規則を結び付けている点で特徴的だ。競合各社は、この前例に従うのか、退けるのか、無視するのかを判断しなければならない。
したがって、同社は表現の新しさではなく、証拠に基づいて評価されるべきだ。有用な指標には、執行の正確性、不服申立ての結果、記録された不正利用、正当な研究への影響が含まれる。
精密な文書上の規則は、最初の層にすぎない。より困難なのは、分類器、アカウント調査、顧客向けガイダンス、技術的安全策、市場をまたぐ一貫した判断に関する取り組みだ。
11月12日の発効日までに注目すべきこと
改定されたポリシーが実用的な安全フレームワークになるのか、それとも主に意図表明にとどまるのかは、3つのシグナルが示す。
第1のシグナルは、開発者とエンタープライズ顧客向けの実装ガイダンスだ。高リスクなアプリケーションには、同意、人間によるレビュー、自律型ハードウェア、禁止された後続判断を扱う具体例が必要となる。
開発者は、Anthropicが個別のプロンプトではなく、アプリケーション全体をどのように評価するのかについての詳細を確認すべきだ。明確なガイダンスは、エンジニアリング上の制約としてのポリシーの価値を高める。
第2のシグナルは、Claudeが不正利用的な会話をどのように終了させるかだ。ユーザーは、対象を絞った会話上の境界と、アカウント制裁や通常の拒否とを区別できるべきである。
誤検知が頻発したとの報告は、この規則が極端な事例にのみ適用されるというAnthropicの主張を弱める。まれで、明確に説明された介入であれば、その立場を裏付けることになる。
第3のシグナルは、今後の脅威報告から得られる証拠だ。Anthropicは今回の更新を、確認されたプロパガンダ、監視、兵器、影響工作に結び付けている。
今後の開示では、新たな分類が検知を改善したかどうかを示すべきだ。また、正当な政治的コミュニケーション、ジャーナリズム、認可されたセキュリティ業務をAnthropicがどのように保護するのかも説明する必要がある。
読者は、注目を集める不正利用条項だけを全体像と捉えるべきではない。より大きなAnthropicの利用ポリシーは、文章を書き、判断し、人を追跡し、ツールを操作し、物理システムに影響を与えるAIを統制しようとしている。
この変化は、Claudeを基盤に開発するすべての組織にとって重要だ。プロダクトチームは11月12日までに、データソース、ツール権限、レビュー手順、配布チャネルを整理すべきである。
また、それぞれの機微なワークフローがなぜ許可されるのかも文書化すべきだ。同意、目的、人間の権限、技術的制限の記録は、ユースケースが複数のポリシー項目にまたがる際に役立つ。
個人ユーザーの対応はより単純だ。通常の批判は引き続き許可されており、強い反対意見は、持続的で目的のない残虐行為とは同じではない。
残る疑問は、数百万件のやり取りに自動判断が必要となる中で、Anthropicがこの区別を維持できるかどうかだ。文言だけでなく、執行の実績を見るべきである。
Anthropicが有用なガイダンスを公表し、狭く限定された会話レベルの介入を適用し、不正利用の減少を記録できれば、そのポリシーは業界の参照例となり得る。正当なユーザーが不透明な制限に直面するなら、この実験はプロバイダーが策定するAIガバナンスの限界を明らかにするだろう。
