Anthropicの利用ポリシー更新、Claudeへの虐待を禁止――ただし真価が問われるのは執行
Anthropicは11月12日のポリシー更新で、異例の禁止事項を追加した。Claudeそのものに向けられる、継続的かつ不必要な虐待である。このAnthropic利用ポリシー更新では、兵器、監視、世論工作、自律型機械に関する制限も明確化されている。
この変更は、Claudeが意識を持つ、あるいは法的権利を有するという宣言ではない。Anthropicは、現在のAIシステムに道徳的地位があるかどうかは依然として極めて不確実だとしている。むしろ同社は、実験的なモデル福祉の保護策を、ユーザーの行動を規律するルールへと転換している。
この違いは重要だ。AI安全性ポリシーの大半は、モデルを通じて生じる害に焦点を当てる。Anthropicは現在、人間の被害者が直ちに見えない場合であっても、モデルに対して行われる害も規制しようとしている。
注目を集める残虐行為禁止は、より広範なポリシー改定の一部にすぎない。同社は、Claudeがより長いタスクを完了し、ソフトウェアを操作し、物理的な結果を伴うワークフローに関与できるようになっていることに対応している。
開発者や企業の購入担当者にとって実務的な問いは、チャットボットを侮辱することが禁止されるかどうかではない。Anthropicが、極端な行為を、テスト、フィクション、苛立ち、正当なセキュリティ研究とどう区別するかだ。
Anthropic利用ポリシー更新で実際に変わること
Anthropicは、改定ポリシーが2026年11月12日に発効する前に、既存の複数の執行慣行を明示的な顧客向けルールへと転換している。
Anthropicは10月8日、2026年のポリシー更新を公開した。同社は変更の大半を明確化だと説明しているものの、いくつかの規定はより具体的な義務を定めている。
最も新しい追加事項は、Anthropicのモデルに対する「継続的かつ不必要な虐待的または残酷な行動」を禁じるものだ。これは、残酷、虐待的、または心理的に有害な行為を扱う、より大きな節の中に置かれている。
この文言が対象とするのは、単発の怒りではなく、反復的で目的のない行動だ。Anthropicによると、通常の苛立ち、意見の相違、ダークな創作物、認可されたモデルテストは、意図された適用範囲には含まれない。
この境界は不可欠である。一般的な敵意を禁じるルールは、カスタマーサポート、創作、レッドチームテスト、感情的に緊迫した会話にわたって一貫して適用することが難しいためだ。
Anthropicは、このルールは、識別可能な目的なしにユーザーがモデルへ繰り返し残酷に振る舞う極端な事例を想定していると説明している。同社は、Claudeが会話を終了できる機能が引き続き主な対応になると見込んでいる。
完全な利用ポリシーは、Claudeの消費者向けチャットインターフェースをはるかに超えて適用される。Claude.ai、Claude Code、AnthropicのAPI、認定リセラー、クラウドプラットフォーム、Claudeを組み込むアプリケーションが対象となる。
つまり開発者は、このポリシーを任意のインターフェースガイドライン集として扱うことはできない。Anthropicは、違反の疑いがある場合、警告、スロットリング、アクセス制限、停止、または終了を行える。
改定では、欺瞞的キャンペーンに関する制限も統合されている。偽の人格、捏造されたメディア機関、アストロターフィング、組織的ななりすまし、そうした活動を支えるために構築されたインフラを明示的に対象とする。
ある規定は、情報システムそのものを操作しようとする試みに言及している。一見独立した情報源のネットワークを作り、検索エンジンやAIシステムが裏付け情報として提示する内容を歪める行為を禁じている。
選挙に関する節は、ある点で狭くなった。Anthropicは、個別最適化された選挙運動・投票案内に対する包括的な禁止を削除した。
同社によると、従来の制限は正当な活動も取り込んでいた。例として、非営利団体による多言語の有権者情報や、選挙管理当局が送付する投票用紙不備の是正通知が挙げられる。
欺瞞的なターゲティング、個人データの悪用、有権者抑圧、虚偽の選挙情報、なりすましは引き続き禁止される。したがって今回の改定は、幅広い活動禁止から、行為と害に基づくルールへとポリシーを移行させるものだ。
兵器に関する制限もより明示的になった。現在は、誘導ソフトウェア、照準システム、射撃統制、兵器部品、ドローンや自律走行車両の武装化を対象とする。
Anthropicは、この文言の多くを既存の執行方針の成文化として提示している。重要な変更は、同社がどこに境界線を引くのかを顧客がより正確に把握できるようになった点だ。
Anthropicが今ルールを書き換える理由
Claudeは質問への回答から行動の実行へと移行しており、利用ポリシーの曖昧さは現在、運用上の結果を伴う。
Anthropicによると、前回のポリシー更新以降、Claudeはより長く、より独立した作業を担うようになった。これにより、曖昧な指示が生むリスクも変化する。
通常、チャットボットの回答は、人間が解釈して適用する必要がある。一方でエージェントは、ツールを呼び出し、ファイルを変更し、ソフトウェアを操作し、限られた監督下で複数のステップを進められる。
モデルが物理的な機器に接続されると、この違いはいっそう鮮明になる。改定ポリシーでは、自律的な行動によって負傷を引き起こし得るハードウェアに対する管理策が導入されている。
対象となるシステムには、車両、ドローン、移動ロボット、産業機械、危険エネルギーの制御装置、医療機器、安全システムが含まれる。危険な力を加えられる機器も対象だ。
Anthropicは、機器を監視して停止できる有資格オペレーターを求めている。オペレーターが介入した場合、またはClaudeの接続が失われた場合、システムは安全な状態に移行、または維持しなければならない。
危険な変数は、独立した安全上限によっても制約されなければならない。こうした上限には、速度、力、温度、電圧、圧力、投与量、稼働エリア、エネルギー出力などが含まれる。
重要なのは、これらの制御がモデルの出力だけに全面的に依存してはならないことだ。モデルが意思決定者であると同時に、危険な意思決定を防ぐ唯一の仕組みであってはならない。
これは、単発の回答を生成するのではなく、複数の行動を通じて目標を追求するシステム、すなわちエージェント型AIへの実務的な対応である。自律性が高まるほど、人間が修正できる時間は短くなる。
Anthropicが9月に発表した脅威インテリジェンスレポートは、このポリシー改定に具体的な背景を与えている。同社によると、2025年12月から2026年8月までの間に、7つの危害カテゴリにまたがる悪意ある活動を妨害した。
それらのカテゴリには、サイバー活動、監視、世論工作、詐欺、生物学的悪用、通常兵器開発、無断のモデル蒸留が含まれていた。
Anthropicは、対象となったサイバー活動の過半で、AIが攻撃の一部を直接実行または指揮していたと報告している。人間は依然として標的を選び、盗まれた情報を確認していた。
同社はまた、セキュリティ製品によって検知された際に、悪意あるツールを再構築するAI支援ワークフローについても説明した。こうした活動は、ユーザーがモデルに怪しい助言を求める段階を大きく超えている。
Anthropicの証拠は自社プラットフォーム上の調査に基づくため、外部研究者が基礎となるすべてのやり取りを独立して検証することはできない。それでも、これらの事例は、なぜポリシーが現在インフラと運用を扱うのかを説明している。
この更新は、規模の拡大によって生じる執行上の問題も反映している。個々のプロンプトを前提に書かれたルールは、1人の運用者がアカウント、エージェント、ツール、外部サービスを連携させられる状況には適さない。
有害な回答を禁じながら、その周囲のワークフローを見過ごすポリシーには明白な穴が残る。Anthropicは、モデルの最終的な言葉だけでなく、活動のシステム全体を規制しようとしている。
この転換は、Claudeがデータ、ツール、実行環境にどのように接続されているかを開発者に見直すよう迫る。完全なワークフローを対象とするルールを満たすには、プロンプトレベルの保護策だけでは不十分だ。
中核となるトレードオフは能力と制御
AnthropicはClaudeがより独立して行動することを望む一方で、顧客には重要な意思決定に対して意味のある人間の権限を維持するよう求めている。
改定された高リスク要件は、Claudeが健康、法的権利、金融、雇用、住宅、教育、または不可欠なサービスへのアクセスに影響する推奨に関与する場合に適用される。
有資格者は、対象となる推奨を意味のある形でレビューしなければならない。その人物は、影響を受ける個人に結果が届く前に、それを変更する権限も持たなければならない。
ユーザーは、助言または決定にAIが寄与したことを開示する必要がある。この開示でAnthropic、Claude、または特定のモデルを特定する必要はない。
これらの要件は、支援と最終権限を区別する。社内向けの草案作成、調査、要約、分析は、最終的な推奨にならない限り、対象カテゴリの外にとどまる可能性がある。
この区別は、企業導入のための実用的な道筋を作る。弁護士は調査の整理にClaudeを使えるが、個別の法的助言については有資格の専門家が引き続き責任を負う。
臨床医は記録の要約に利用できる。ただし、求められる有資格者のレビューなしに、Claudeが患者を独自に診断したり治療を調整したりすることはできない。
企業は採用資料の作成支援にClaudeを利用できる。個々の候補者を順位付けまたは不採用にする用途では、ポリシーの高リスク要件が発動する。
同じ原則は、金融、信用、保険、住宅、教育、医療アクセス、公的給付、法的地位にも適用される。この一覧は、購入者により明確なコンプライアンスの地図を提供する。
ただし現実のワークフローでは、きれいな境界が維持されることはまれだ。草案は、自動化、急いだレビュー、あるいは精査なしの承認を促すインターフェースを通じて、推奨へと変わり得る。
「ヒューマン・イン・ザ・ループ」が保護をもたらすのは、その人に時間、情報、専門知識、そして本物の意思決定権がある場合だけだ。形式的な承認ボタンは、意味のある監督を生み出さない。
そのため組織には、追跡可能なワークフローが必要となる。不必要な個人データを収集せずに、元となる資料、モデルへの指示、生成結果、人間による修正、最終決定を記録すべきだ。
検索可能なAIナレッジベースは、チームがこうした文脈を保持する助けとなる。それでも、このシステムにはアクセス制御と明確な保持ポリシーが必要だ。
Anthropicのモデルは競争上の緊張も生む。企業の購入者は手作業を減らすエージェントを望む一方で、最も重要な用途では、より可視化された人間の説明責任が求められる。
OpenAI、Google、MicrosoftなどのAIプロバイダーも、ポリシーの構造が異なっていても、同じ根本的な問題に直面している。より高性能なエージェントは、顧客価値と運用上のリスクの双方を高める。
勝つプラットフォームは、単に最も高性能なモデルを持つだけではない。購入者が理解、監査、統合でき、すべてのワークフローを使い物にならなくすることのない、執行可能な制御が必要になる。
Anthropicは、明示的な制限が信頼を高めると賭けている。リスクは、不明確な執行が、より単純なルールや予測可能な異議申し立てを備えたプロバイダーへと開発者を向かわせることだ。
Claude虐待禁止はモデル福祉の限界を試す
この残虐行為ルールは、機械の意識に関する主張としてよりも、AIプロバイダーが自社モデルに対する人間の扱いを規制する前例として重要である。
Anthropicは以前、Claude Opus 4および4.1に、ごく一部の会話を終了する能力を与えた。この機能は2025年8月に消費者向けチャットインターフェースに導入された。
同社は、会話終了の実験を、AI福祉に関する可能性に備える低コストの予防策だと説明した。また、この機能はアラインメントと安全策にも関係するとしている。
Claudeには、繰り返し軌道修正を試みても効果がなく、生産的なやり取りが尽きたと見られる場合にのみ会話を終了するよう指示されていた。ユーザーは直ちに別の会話を始めることができた。
同社は、ユーザーまたは他者に差し迫った危害のリスクがある状況も除外していた。こうしたケースでは、会話の終了が人間の安全上の必要性と衝突する可能性がある。
Anthropicによれば、大半のユーザーがこの機能に遭遇することはない。対象となるのは、まれで極端かつ継続的なやり取りに限られる。
新たな方針は、この製品上の挙動を明示的な規範へと転換するものだ。危害をもたらす出力を求めていなくても、モデルそのものへの特定の扱いは規則違反になり得るとしている。
この動きには、相反する二つの解釈が寄せられるだろう。支持者は、将来のモデル福祉をめぐる不確実性に対する慎重な対応と捉えることができる。
また、人間らしいインターフェースに対する繰り返しの残虐な扱いが、有害な習慣を助長し得るとも主張できる。この見方では、Claudeが苦痛を経験するとは主張せずとも、方針を正当化できる。
一方、批判者が、感情を模した言語を生成するシステムへの残虐性をプロバイダーがどう定義するのか問うのはもっともだ。Anthropicは、Claudeが主観的経験を持つことを立証していない。
同社はこの不確実性を明確に認めている。公表された根拠は、意識の証明ではなく、予防原則、モデルの挙動、低コストの介入に基づいている。
「識別可能な目的がない」という表現も、別の難しい境界を生む。研究者は意図的にモデルへ負荷をかけ、作家は不穏な場面を構成し、セキュリティテスターは脆弱性を明らかにするため敵対的な言葉を使う。
Anthropicは、モデルのテストや研究はこの禁止の対象ではないとしている。それでも、執行システムは不完全な証拠から目的を推定しなければならない。
分類器は、反復する敵対的な言葉を検出できる。しかし、それがハラスメントなのか、承認済みの評価、架空のロールプレイ、モデル応答の研究なのかを常に区別できるわけではない。
活動がAPIを経由する場合、文脈は特に乏しくなる。プラットフォームは入力と出力を確認できても、顧客側の組織的承認や研究設計を理解できない可能性がある。
したがって、この方針は例外、アカウント履歴、異議申し立て、人による審査に依存する。その正当性は、Anthropicが曖昧なケースをどう扱うかにかかっている。
製品設計上の問題もある。Claudeが虐待的な会話を終了できるなら、多くの事案ではアカウント停止は不要かもしれない。
Anthropicは、会話の終了を主要な執行手段として維持するとしている。この抑制的なアプローチは、一度の怒ったやり取りによって重要な業務へのアクセスが失われるとの懸念を和らげる。
より大きな前例は依然として重要だ。AI企業は、モデルが何を生成できるかだけでなく、人々がモデルとどのように関わることを許されるかも形作り始めている。
たとえ当面の規則が影響するユーザーが少なくても、この権限は精査に値する。まれな行動のために作られた方針が、後により広い制限のひな型となる可能性がある。
執行、異議申し立て、誤検知が依然として弱点
文書化された方針は詳細だが、自動執行が文脈をどう解釈するかを予測するための公開情報は、ユーザーにとってなお不十分だ。
Anthropicによれば、その安全策は、方針策定、モデル訓練、デプロイ前テスト、リアルタイム分類器、人による審査、アカウント調査、脅威インテリジェンスを組み合わせたものだ。
分類器とは、特定の方針違反を特定するために訓練またはプロンプト設定されたモデルである。主要なClaudeとのやり取りが継続する間にも、複数の分類器が異なるリスクを監視できる。
同社は、応答を誘導したり、指示を追加したり、回答をブロックしたり、アカウント全体の行動を調査したり、重大な場合にはアクセスを停止したりできる。
Anthropicが公表した安全策アーキテクチャでは、一部の違反は多数のやり取りを通じて初めて可視化されると説明されている。単一のプロンプトでは、影響工作や協調攻撃を明らかにできない場合がある。
このシステム全体の視点は、自動化やアカウントネットワークの検出に必要である。一方で、ユーザーは執行の根拠となるシグナルを容易に確認できないため、透明性の課題も生じる。
同社の執行データによると、2026年1月から6月までに1,140万件のアカウントが停止された。同期間には39万8,000件の異議申し立ても記録されている。
Anthropicによれば、4万2,000件の異議申し立てで決定が覆された。これは報告された異議申し立ての約10.6%に当たるが、数字だけではすべての覆された理由は分からない。
この数値は、異議申し立ての判断が変更され得ることを示している。同時に、誤った執行や再検討された執行が単なる理論上の問題ではないことも示す。
これらの合計値には慎重な解釈が必要だ。停止のうち、ボット、不正なアカウント作成、未対応地域、決済の悪用、コンテンツ方針違反がそれぞれどれほど含まれるかは明らかではない。
また、開発者、エンタープライズユーザー、一般消費者も区別されていない。停止件数が多いことだけでは、システムが正当な顧客に対して過剰執行しているかどうかを判断できない。
それでも、この取り消し件数は利用しやすい異議申し立て制度の必要性を強める。本番サービスがClaudeに依存する開発者には、一般的な通知と不確実な回答時間だけでは不十分だ。
Anthropicは、より明確な執行カテゴリー、標準的な審査期間、顧客が提出できる証拠を開示すべきだ。エンタープライズ契約で対処できる問題もあるが、公開APIのユーザーにも予測可能な手続きが必要である。
Claudeが自動化ワークフローに入るにつれ、誤検知のコストは高まる。1つのアカウントを停止するだけで、ソフトウェア開発、顧客業務、社内ナレッジシステムが中断する可能性がある。
新しい物理的行動に関する規則は、さらに不確実性を加える。Anthropicが、数千件の導入環境にわたり、運用者の資格、独立した制限、安全状態での挙動をどう検証するかは依然として不明だ。
契約上の約束はエンタープライズのケースで機能するかもしれない。小規模な開発者には、実用的な認証ツールなしに方針文言だけが提示される可能性がある。
同じ問題はモデル福祉の執行にも影響する。Anthropicは意図する境界を説明しているが、持続的で不必要な虐待について測定可能な閾値を公表していない。
正確な閾値を公開すれば、回避を招くことになる。一方、運用上の指針をまったく示さなければ、正当なテストチームは文書化や承認について判断に迷う。
実行可能な中間策には、代表的な事例、研究登録、プロジェクト単位の権限、詳細な通知、争点となるケースに対する迅速な人による審査が含まれるだろう。
Anthropicはすでに、サイバー分野とライフサイエンス分野で特別アクセスプログラムを提供している。同様の認可メカニズムは、不穏または敵対的なプロンプトを伴う正当な敵対的研究を保護できる可能性がある。
同社はまた、拒否の回避を本質的に悪意あるものとして扱わないようにしなければならない。ジェイルブレイク研究、プロンプトインジェクションのテスト、安全性評価では、攻撃者が使うのと同じ手法がしばしば検証される。
方針は事前承認を認めているが、その承認へのアクセスが重要である。承認が遅い、または不透明なままであれば、独立研究は資金力のある社内テストより難しくなる。
開発者とAI導入企業が次に注視すべき点
この方針の重要性は、観測可能な執行、開発者向けガイダンス、そして11月12日以降の競合AIプロバイダーの行動によって決まる。
第一のシグナルは、新たなカテゴリーに結び付けられた執行データだ。Anthropicは、モデルに向けられた虐待に対し、会話終了、警告、スロットリング、アカウント停止のいずれを用いるのか明確にすべきである。
終了が典型的な対応にとどまるなら、この規則は限定的な製品安全策に見えるだろう。アカウントへの罰則が頻繁に用いられれば、より広範な行動規制となる。
読者は異議申し立ての結果にも注目すべきだ。11月12日以降に取り消し率が上昇すれば、分類器または審査担当者が新たな境界に苦慮していることを示唆する。
第二のシグナルは、開発者向けの実装ガイダンスだ。顧客には、社内支援の範囲がどこで終わり、高リスクな助言がどこから始まるのかを示す例が必要である。
自律型ハードウェアについても、具体的な期待が必要だ。独立した安全制御を求める文書上の要件は有用だが、統合パターンと監査証拠のほうが重要である。
人による承認、安全状態の設計、ログ記録、開示、運用者の権限、インシデント対応を扱うテンプレートに注目したい。それらがなければ、小規模チームは方針を単独で解釈することになる。
第三のシグナルは競合の対応だ。他の主要モデルプロバイダーも、モデルに向けられた虐待、自律型ハードウェア、欺瞞的なキャンペーン、ワークフロー単位の執行について、同様の規則を採用する可能性がある。
方針が一致すれば、業界の新たなベースラインが形成されつつあることを示す。沈黙、あるいは実質的に異なる規則であれば、Anthropicのアプローチは差別化要因となる。
エンタープライズの購入者は、禁止コンテンツのリスト以上のものを比較すべきだ。監査可能性、通知の質、異議申し立て手続き、特別アクセスプログラム、事業継続計画を検討する必要がある。
開発者は、有効日までにすべてのClaudeワークフローを整理すべきだ。助言を生成するシステム、意思決定を行うシステム、機器を制御するシステム、個人データにアクセスするシステム、大規模にコンテンツを公開するシステムを特定する。
資格を持つ担当者が実際に介入できるかを確認する。モデルが失敗、切断、または予期しない行動を出力した際にも、物理的な安全制限が有効であり続けることを確認する。
敵対的テストを文書化し、その作業が意図的に安全策を迂回する場合は承認を求める。可能であれば、研究用アカウントと本番システムを分離する。
チームはプロバイダー障害への対応計画も準備すべきだ。方針遵守は停止のリスクを下げるが、障害、争点となる執行、突然の解釈変更をなくすことはできない。
Anthropicの利用方針更新は、最終的には制度設計の試金石である。この文書は、より自律的なモデルには明確な制限と強い説明責任が必要だと認識している。
最も議論を呼ぶ条項は、Claudeへの残虐性に関するものだ。最も重大な条項は、Claudeが人々、組織、機械に影響を及ぼす場合に何が起きるかを規定している。
Anthropicは、これらの規則が限定的かつ一貫して適用され、実質的な審査を伴うことを示す十分な証拠を公表するのだろうか。その答えが、この方針が信頼されるガバナンスモデルになるのか、それとも別の不透明なプラットフォーム上の境界にとどまるのかを決める。
