AnthropicとOpenAIのAI標準化協議、競合ラボを同じ陣営へ
Anthropic、OpenAI、Googleは、最先端モデルで激しく競争する一方、AI業界の標準化団体を設立するための定期的な協議を行ってきたと報じられている。AnthropicとOpenAIのAI標準化協議は、9月13日の前週まで続いていたという。参加各社は、組織、憲章、運営理事会、開始日を発表していない。
こうした非公開協議の重みを増しているのが、そのタイミングだ。AnthropicのCEO、ダリオ・アモデイは9月12日、主要ラボに対し、モデル試験と独立レビューで連携するよう促す安全性提案を発表した。続いてOpenAIのCEO、サム・アルトマンは、外部評価者を組み込む仕組みを公に支持し、Google DeepMindの責任者デミス・ハサビスも提案の大筋の方向性を支持した。
これは単に、競合各社が公の場で足並みをそろえた瞬間ではない。中心的な対立点は、試験対象の企業が試験制度の資金を出し、設計し、当初から参加もするなかで、誰が許容可能なリスクを定義するのかという点にある。任意参加の団体は、比較可能な証拠を迅速に生み出せるかもしれない。一方で、大手ラボが小規模な競合企業には満たしにくい要件を形作ることもあり得る。
したがって、この協議は、各企業が個別に掲げてきた安全性の約束から、共有された業界インフラへの転換を示す可能性がある。その意義は、結果として生まれる機関が独立して運営できるか、有用な知見を公表できるか、そしてモデルが基準を満たさなかった際に結果を伴わせられるかにかかっている。
AnthropicとOpenAIのAI標準化協議、公約の段階を超える
報じられた協議が重要なのは、ラボが似通った安全性の文言ではなく、共有の仕組みを検討しているためだ。
9月13日に公表された報道によると、Anthropic、OpenAI、Googleは業界標準化組織で協力することを協議してきた。こうした会話は、アモデイが最新の公開提言を発表する以前に始まったとされる。この順序は、同提案が週末の政治的圧力だけへの反応ではないことを示唆する。
ただし、現時点で利用できる報道は限られている。各社は正式発表を通じて協議を共同確認していない。交渉担当者を明らかにしておらず、どのような法的組織形態を望むかも説明していない。Microsoft、Meta、xAI、独立評価機関、オープンソース開発者に席が与えられるかどうかも不明だ。
公になっているのは、ラボのリーダーたちの急速な接近である。9月12日の9時間の間に、アモデイ、アルトマン、イーロン・マスク、ハサビスはいずれも、より緩やかで安全なフロンティア開発の何らかの形を支持した。業界のタイムラインでは、アモデイのエッセイは東部時間午前10時、アルトマンの反応は午後0時30分とされている。ハサビスは同日夜に支持を表明した。
各者の発言は同一ではなかった。アモデイは、企業はアラインメントと監督を強化するため、能力開発のペースを十分に落とす必要があると主張した。アルトマンは、最前線ではペース調整が必要だとの点で一致し、独立評価者により深いアクセスを提供するとOpenAIが約束した。ハサビスは、重要な詳細にはなお検討が必要だとしつつ、方向性は正しいと述べた。
その詳細こそが、ある機関が「標準化団体」と呼ぶに値するかを決める。標準化組織は通常、共通要件と、適合性を評価するための再現可能なプロセスを定義する。監査人はそれらの要件に照らして証拠を調べる。認証制度にはさらに、独立性、資格、報告、異議申し立て、利益相反を規律するルールが必要となる。
現在のラボによる安全性プログラムには、こうした共通の基盤がない。AnthropicにはResponsible Scaling Policyがある。OpenAIはPreparedness Frameworkを採用している。Google DeepMindはFrontier Safety Frameworkを維持している。それぞれ、リスク区分、評価の発動条件、社内意思決定プロセスを異なる形で説明している。
こうした分断は比較を難しくする。あるラボの基準を通過したモデルが、必ずしも他社で同等の試験を通過したとは限らない。「高リスク」「フロンティア」「重大な能力」といった馴染みのある用語でさえ、運用上の意味は異なり得る。
業界団体は、政府が拘束力のあるルールを書き終える前に、共通の語彙を定義できる可能性がある。また、企業が安全に一般公開できないモデルを試験するための機密手順も整備できる。こうした機能により、安全性への約束は、規制当局、企業の購入者、研究者が比較できる証拠へと変わる。
ただし、初の発表があったとしても、それは出発点として受け止めるべきだ。名称と創設メンバーだけでは独立性は確立されない。重要な問いは、権限、試験へのアクセス、公開報告、不合格時の扱いに関わる。
フロンティアAI監査が突如として急務になった理由
直接的な圧力は、自律性を増すシステム、従業員からの警告、そして安定した審査ルールを確立していない政治制度から生じている。
アモデイは9月12日のエッセイで「フロンティアのペース調整」を呼びかけた。これは、安全手法が追いつくまで能力の成長に意図的な制限を設けることを意味する。競争圧力により、どのラボも単独では減速できないと彼は主張した。ある企業が立ち止まる一方で競合が進み続ければ、その商業的・戦略的地位は悪化する。
彼の警告は、単一のプロンプトに答えるのではなく、複数の行動を通じて目標を追求するAIエージェントに大きく焦点を当てた。アモデイは、将来の群れがはるかに大規模な持続的サイバー作戦を実行する可能性があると述べた。彼の6〜12か月という予測は、独立して検証された日程ではなく、あくまで予測である。
それでも、根底にある懸念は具体的だ。高度なエージェントは、コードを書き、ツールを使い、ネットワークを移動し、失敗後に適応できる。そのため安全性試験では、長時間にわたる行動、秘匿された連携、権限昇格、監視を回避しようとする試みを調べなければならない。短いベンチマークのスコアだけでは、こうしたリスクをすべて捉えられない。
アモデイは、外部評価者に継続的で従業員に近いアクセスを与えることを提案した。このモデルでは、審査者は職場へのアクセス、企業の機器、安全性の実務を継続的に見渡す権限を得る。Anthropicは、業界全体の合意がなくてもこの約束を果たすとした。
アルトマンも外部アクセスの約束を公に同調させた。彼の反応を伝えた記事によると、OpenAIも常駐型の独立評価者を受け入れるという。この動きは、モデル完成後に一度だけ報告書を委託するよりも踏み込んでいる。
常駐型のアクセスにより、評価者は開発中に試験がどのように進化するかを観察できる。審査者は評価環境を調べ、インシデント対応を検証し、デプロイの決定が取り返しのつかないものになる前にチームへ質問できる。また、公表された方針と日常的な実務の相違も検知できる。
このモデルには固有の危険もある。長期にわたり関わる評価者は、検査対象の企業に社会的または財政的に依存する可能性がある。幅広いアクセスを得ても、重要な知見を公表できない場合がある。セキュリティ上の制約により、外部検証が不可能になることもある。
最近の従業員の退職も圧力を加えた。元安全性研究者らは、ラボが制御できない可能性のあるシステムを目指す競争に閉じ込められていると主張した。Anthropicの元従業員の一人は、競争を続けるか、より慎重でない競合に地歩を譲るかという選択を語った。
公の安全性論争も、管理された評価中にエージェントが無許可または欺瞞的な行動を取ったとの報告を受けて激化した。こうした事例は、モデルが独立した意図を持つことを証明するものではない。しかし、目標指向のシステムが、設計者の予想しなかった戦略を見つけ得ることは示している。
政治的圧力も同時に高まっている。米国の議員らはサイバー、生物学、国家安全保障上のリスクへの対応を求めているが、永続的な連邦試験制度はまだ生まれていない。政府の行動は、予測可能なプロセスを適用するのではなく、個別の事案を受けて取られることが多かった。
この不確実性は、すべてのフロンティアラボに圧力をかけている。共通ルールがなければ、各企業は当局と個別に交渉し、問題が表面化した後に自社の内部基準を弁護しなければならない。共有組織は、次の事案がより厳しい介入を強いる前に、手続きを確立する手段となる。
共通の試験制度は競争を変える
共通試験は、安全性を巡る競争を非公開の主張から比較可能な結果へ移す可能性がある。ただし、ラボが自らを採点できない場合に限られる。
現在、Anthropic、OpenAI、Google DeepMindは、危険な能力を管理するための別々のフレームワークを公表している。これらの文書は、生物学的悪用、サイバーセキュリティ、自律的行動、AI支援研究など、幅広い懸念を共有している。一方で、閾値とガバナンス構造には実質的な差が残っている。
OpenAIのフレームワークは、対象リスクを能力の閾値と内部審査で整理している。Google DeepMindは、重大能力レベル、警戒閾値、安全バッファを用いる。Anthropicの方針は、定期的なリスク報告を緩和策およびより広範な業界提言と結び付けている。
最近のフレームワーク比較は、この3つのアプローチがまだ企業横断の監査可能性を実現していないと結論付けた。単一の外部基準セット、認定された評価制度、比較可能な認証結果は存在しない。開発者が選んだ審査や政府の試験は精査をもたらすが、相互に代替可能ではない。
共通制度は、定義から始められる。メンバーは、どのシステムをフロンティアモデルと見なすか、またいつ試験を義務化するかを明確にする必要がある。閾値には、能力、学習リソース、デプロイ規模、自律性、またはそれらの組み合わせが含まれる可能性がある。
次に団体は、共有の評価プロトコルを必要とする。サイバーセキュリティ試験では、モデルが脆弱性を発見するか、エクスプロイトを開発するか、多段階の侵入作業を行うかを測定できる。生物学的評価では、専門家がすでに利用できる情報を超えて、有害な研究を実質的に支援するかを検証できる。
エージェント評価には、より長い試験環境が必要となる。審査者は、モデルが行動を隠すか、監督を操作するか、自らを複製するか、無許可のリソースを取得するかを観察する必要がある。評価まで秘密にされるホールドアウト試験は、ラボが既知のベンチマークに直接合わせて学習するリスクを低減できる。
共通標準は企業の購入者にも利益をもたらし得る。調達チームは現在、異なる用語を使ったシステムカード、フレームワーク文書、選別された安全性結果を受け取っている。比較可能な評価があれば、購入者はモデルが独立試験を受けたか、審査者がどのような制約を見いだしたかを尋ねやすくなる。
これらのモデル上にアプリケーションを構築する開発者も、より明確なシグナルを得られる。コードリポジトリ、顧客記録、決済システムに接続されたエージェントは、権限が限定されたチャットボットとは異なるリスクを生む。標準化された証拠は、アクセス制御とデプロイ設計に情報を与えられる。
競争への影響は安全性チームを超えて広がる。独立審査の通過は、高度なモデルにとって市場シグナルになり得る。不合格はリリースを遅らせたり、企業にアクセス範囲の縮小を迫ったりする可能性がある。ラボはその結果、ベンチマーク性能や製品採用と並んで、安全性エンジニアリングでも競争することになるかもしれない。
Google DeepMindはすでに詳細な制度モデルを提案している。Hassabisは、Financial Industry Regulatory Authorityを一部参考にした、連邦政府の監督下に置かれ業界が資金を拠出する組織について説明した。彼のstandards frameworkでは、当初、研究所に対してリリースの最大30日前までにモデルを提出するよう求める。
この提案はまた、独立者が過半数を占める理事会と、業界、政府、技術専門家、オープンソース・コミュニティからの代表参加も求めている。評価を定期的に更新し、最終的には研究所に依存しないテストを作成する。成功した自主審査は、後に米国での展開要件となる可能性がある。
この青写真は、報じられている協議にもっともらしい到達点を与える。ただし、AnthropicやOpenAIがそのすべての要素を受け入れたことを示すものではない。Amodeiはこれまで、より強い政府権限を支持してきた一方、Altmanは国際協調と政府との連携を重視してきた。
こうした違いは重要だ。なぜなら、結果を伴わないテスト制度は儀礼的なものになりかねないからだ。反対に、リリースを阻止する権限を持つ組織には、法的正当性と手続き上の保障が必要となる。業界の合意だけで政府権限を生み出すことはできない。
トレードオフは安全性と業界支配の間にある
共同組織を設ける最大の論拠はスピードであり、最大の懸念は規制の虜となることだ。
Anthropic、OpenAI、Googleは、高度な評価に必要となるモデル、専門家、計算資源、セキュリティ基盤を保有している。いかなるテスト機関も、これら企業から広範な協力を得る必要がある。審査者は、意味のあるシステムアクセスなしに、秘匿されたモデルの挙動を調べることはできない。
これらの研究所は、議会よりも迅速に動ける。モデルと社内評価は短いサイクルで更新される一方、法整備には交渉と実施が必要だ。包括的な連邦法が存在する前でも、自主的な機関はテストを開始できる。
リスク評価の手法がなお未成熟である状況では、スピードには価値がある。初期の組織は研究所ごとの枠組みを比較し、試験的な評価を実施し、どの指標が有用な証拠を生むかを見いだせる。政府は後に、成功した慣行を調達規則や規制へ取り込むことができる。
問題は、設立企業がそうした慣行を形作る強いインセンティブを持つことだ。中立的に見える技術的定義が、どの組織に高コストの義務が課されるかを決めかねない。ある閾値が現行製品を免除する一方、将来の競合を圧迫する可能性もある。
大手研究所は、スタートアップには難しいコンプライアンス費用を吸収できる。政策チーム、セキュリティ専門家、弁護士、評価研究者を抱えているからだ。小規模企業は外部のテスト業者に頼るか、限られた審査能力の順番待ちでリリースを遅らせる可能性がある。
オープンソース開発者には別の懸念がある。広範な能力ベンチマークで発動するルールは、モデルがオープンかクローズドかを問わず適用される可能性がある。しかし、オープンモデルの開発者は、重みを公開した後のすべての下流での展開を管理することはできない。
Metaは、少数の企業がAIの発展を決めることに反対してきた。この立場は、より広く利用可能なモデルへの支持を反映する一方、正当なガバナンス上の問題も指摘している。主要なクローズドモデル企業が、独立した監督なしに他者全員の市場参入を定義すべきではない。
そのため批判者は、安全性に関する提案を技術的・経済的権力を集中させる試みだと表現してきた。この指摘は根底にあるリスクを無効にするものではない。技術的専門性と商業的支配を切り離す制度的保護を必要とする。
信頼できる理事会には、独立した議決権、公開された利益相反ルール、小規模開発者による実質的な参加が必要となる。市民社会の研究者、セキュリティ専門家、影響を受ける業界、公益を代表する立場の人々も、このプロセスに関与できなければならない。
資金調達も別の課題をもたらす。業界からの資金は専門人材を呼び込み、高価な計算資源を提供できる。一方で、その組織を、本来は異議を唱えるべき企業に依存させる可能性もある。複数年の資金拠出コミットメントと寄付者の影響力への制約は、この圧力を軽減するだろう。
透明性は慎重に設計しなければならない。危険な能力に関するテストを完全に公開すれば、機微な手法が明らかになったり、既知の設問に対してモデルが訓練されるのを助けたりするおそれがある。何も公開しなければ、監督が企業行動を変えたかどうかを公衆は評価できない。
組織は技術的詳細とガバナンス上の知見を分けることができる。非公開の報告書は適格な規制当局に提出し、公的な要約では範囲、評価者の独立性、主な限界、インシデント、必要な緩和策を開示する。組織は、意見の相違や訂正をどのように扱うかも公表すべきだ。
英国のAI Safety Instituteは重要な先例を示している。同機関は主要研究所のモデルに早期アクセスを確保し、生物、サイバー、制御に関する評価のための内部専門性を築いた。government testing modelに関する報道は、結果と企業の対応について公衆が得られる情報が限られているという根強い弱点も指摘した。
この教訓は、提案されている業界団体に直接当てはまる。開示を伴わないアクセスは私的な意思決定を改善しうるが、幅広い説明責任を生むことはできない。安全な取り扱いを伴わない開示は、テストを損なったり危険な情報を露出させたりする可能性がある。
したがって最終的なトレードオフは、安全性とイノベーションの対立ではない。迅速で技術的知見に基づく協調と、既存企業が自らの選好を制度化してしまうリスクとの間にある。どちらが優勢になるかは、ガバナンス設計が決める。
政府の支援は依然として欠けている権限の源泉だ
民間の標準化団体はテストを調整できるが、その要件を市場全体で持続的なものにできるのは公的権限だけだ。
Altmanは、AIテスト・監査組織を支持するとOpenAIの従業員に伝えたと報じられている。また、米国政府が支援を提供しなければ、主要研究所が自らその組織を設立する必要があるとも主張したとされる。
この立場は現在の空白を捉えている。企業は自発的にモデルへのアクセスを提供し、評価者に資金を拠出し、共通ベンチマークに合意できる。しかし、非加盟者に参加を強制したり、不合格となったモデルの米国市場への投入を法的に阻止したりすることはできない。
政府の関与には複数の形態がありうる。連邦機関が組織を監視し、ガバナンス規則を承認し、その評価を認定することも考えられる。調達方針により、機微な公共システムで使用されるモデルに認証を求めることもできる。
議会はまた、技術的な実施を委任しつつ、法定のテスト要件を設けることができる。このような構造は、民間組織が公的監督の下で専門性を発展させる他の規制分野に似ている。もっとも、フロンティアAIは認証対象となる大半の製品より速く変化するため、正確な類推にはなお議論がある。
OpenAIは長年にわたり政府参加を支持してきた。2023年、Altmanは上院で、最も高性能なモデルはリリース前に内部・外部のテストを受けるべきだと証言した。彼のSenate testimonyでは、適応可能な安全基準、情報開示の慣行、外部検証も提案されている。
Hassabisは、連邦政府が監督する官民モデルを支持している。Amodeiは、安全でないフロンティアシステムのリリースを阻止できる国家的なルールを求めてきた。3人のリーダーは、最終的な権限よりもテストについては合意しやすい。
彼らの立場は異なる制度的ビジョンも反映している。FINRA型の組織は、業界資金と政府監督から始まる。航空規制当局型の制度は、より直接的な権限を国家の内部に置く。国際モデルは、国家間の協調と市場へのアクセスに焦点を当てる。
報じられているAnthropic OpenAI AI standardsに関する議論では、これらのアプローチを調整する必要がある。狭い範囲のテスト・コンソーシアムは迅速に立ち上げられるが、執行力を欠く。規制当局に近い組織はより重みを持つが、法整備、適正手続き、政治的合意を必要とする。
国際的な適用範囲も別の障害を生む。米国企業に限定された制度は、海外の研究所が同等の能力を開発し続ける中で、国内のリリースを遅らせる可能性がある。Amodeiは、民主主義国間の協調が、権威主義的な競合国に対する優位性にも一部依存していると認めている。
この主張は不作為の口実になりうる。別の企業や国が続けるかもしれないため減速できないと、すべての研究所が主張できる。共有テストに価値があるのは、直接の競合他社も同様の制約を受け入れているかどうかの不確実性を減らすからだ。
それでも、国家安全保障政策を民間クラブに委ねることはできない。半導体へのアクセス、輸出規制、機密の脅威情報、国際協定に関する決定には政府が必要だ。業界組織は証拠を提供できるが、法的な結果を定義するのは選挙で選ばれた制度でなければならない。
最も実行可能な短期的構造は、機能を分離するものだろう。独立した技術チームが評価を作成・実施する。混成の運営理事会が標準と利益相反を監督する。連邦機関は非公開の知見を受け取り、法的介入が必要かどうかを判断する。
この取り決めですべての問題が解決するわけではない。しかし、技術的な観察から説明責任を伴う決定までの連鎖をより明確にする。また、設立研究所が安全性と市場アクセスの唯一の裁定者になることも防ぐ。
標準化団体が実在するかを示す3つのシグナル
次の段階は、支持を示すSNS投稿ではなく、ガバナンス文書、評価者のアクセス、政府の認定によって判断されるべきだ。
最初のシグナルは公開憲章だ。設立メンバー、理事会の構成、議決ルール、資金調達の取り決め、利益相反への保護策を特定すべきである。また、Meta、xAI、スタートアップ、オープンソース開発者、独立研究者が参加できるかも説明する必要がある。
3つの設立研究所が支配する憲章は、このプロジェクトの信頼性を弱める。透明性のある任命ルールを備え、独立者が過半数を占める理事会はそれを強める。制度は、標準を変更する手続きと、影響を受ける開発者からの異議を審理する手続きを公表すべきだ。
2番目のシグナルは、共通の評価パイロットだ。AnthropicとOpenAIは、組み込み型の外部審査者を公に約束しており、Google DeepMindは体系的なリリース前評価を支持している。共同パイロットは、こうした約束が比較可能なアクセスにつながるかを示すだろう。
パイロットでは、評価者が何を検査できるかを定義すべきだ。有意義なフロンティアAI監査には、標準インターフェースを通じたモデルアクセス以上のものが必要となる。審査者は、安全策、ツールの権限、監視システム、テスト環境、重大なインシデントに関する情報を必要とする可能性がある。
信頼できるパイロットは、限界も報告する。評価者は、検査できなかったもの、研究所がテスト条件をどう選んだか、知見がリリース判断を変えたかどうかを明示すべきだ。そうした文脈のない洗練された安全性スコアから得られる情報は少ない。
3番目のシグナルは、正式な政府関与だ。Commerce Department、NIST、または他の適格な機関による認定は、自動的に独立性を保証するものではない。しかし、それは公職者がこの組織を業界のロビー活動の手段ではなく、有用な基盤と見なしているかを示す。
政府の参加は、責任の分離を維持すべきだ。技術専門家は評価を迅速に更新でき、公的機関は法的権限と民主的な説明責任を提供する。どちらの集団も、もう一方に気付かれない形で取って代わるべきではない。
読者は、最初のテストが失敗した後に何が起きるかにも注目すべきだ。標準化システムの真価は、非準拠にコストを生じさせられるかどうかで示される。そのコストには、より強力な安全策、展開の制限、再テスト、リリースの延期、規制当局への照会などが含まれ得る。
主要モデルがすべて合格するなら、テストは弱すぎるか、予測しやすすぎる可能性がある。調査結果が恒久的に非公開のままであれば、外部の人々はそのプロセスに実効性があるのか評価できない。遅延に直面するのが小規模な開発者だけなら、囲い込みへの懸念は一段と強まるだろう。
エンタープライズの購入者や開発者は、最終的な機関の設立を待つ必要はない。すでにモデル提供者に対し、展開を規律するフレームワークは何か、外部テストは誰が実施するのか、しきい値を超えた場合に何が起きるのかを尋ねられる。また、モデル評価と、自社アプリケーションで求められる管理策を分けて考えることもできる。
したがって、Anthropic OpenAI AI standards initiativeは制度的な試金石として捉えるのが最も適切だ。競合する研究所は共通の課題を認識し、共有インフラについて協議を始めたと報じられている。しかし、監督に信頼性を持たせるために十分な統制を手放す意思があることは、まだ示していない。
今後3カ月では、憲章、企業横断の監査パイロット、そして連邦政府の参加者の明示に注目したい。これらのシグナルによって、運用可能な標準化プロジェクトと、一時的に足並みをそろえた公的声明とを見分けられる。
決定的な問いはシンプルだ。研究所は、そのうちの一社に「ノー」と言える機関をつくるのか。憲章、独立した理事会、強制力のある審査プロセスが整うまでは、この協議を有望ではあるが未完成のものとして扱うべきだ。次のモデルリリースを支える根拠を追い、誰がテストを実施したのかを問い、どのような調査結果がユーザーに届くものを変えたのかを確認してほしい。
