Anthropicの常駐評価者に社内並みのアクセス権、だが真の試金石は独立性

Anthropicの常駐評価者は、9月12日にCEOのDario Amodeiが発表した取り組みの下で、従業員に近いアクセス権を得ることになる。外部チームにはオフィスのデスク、入館バッジ、会社支給のノートPC、社内ツール、従業員との直接的な連絡手段が提供される見込みだ。この仕組みは、現在フロンティアAI企業が一般的に実施している一時的なモデル試験を大きく超えるものだ。

この約束は、モデルの訓練を止めずにフロンティアAI開発のペースを抑えるためにAmodeiが示した3段階の提案の第1段階に当たる。Anthropicは、企業や政府のより広範な協調を求めつつ、自社だけでこの措置を講じる。これにより、自主的な監督が、能力を増すシステムの開発競争にある企業を実際に抑制できるかという試練が直ちに生まれる。

業界の反応によると、OpenAIのCEOであるSam Altmanはすぐに、自社も外部評価者にアクセスを提供すると表明した。ただし、発表をなぞることは、その実質を再現するより容易だ。評価者の選定、情報への権利、公表の自由、資金、アクセス制限が、こうしたプログラムが独立した検証を実現できるかを左右する。

したがって中心的な問いは、評価者が建物の中に入れるかどうかではない。その評価者が、企業の商業的利益にかかわらず、不都合な事実を発見し、検証し、開示できるかどうかだ。

Anthropicの常駐評価者が実際に得るもの

Anthropicが提案しているのは、完成済みのClaudeモデルに対する短期テストをもう一度行うことではなく、安全性業務への継続的なアクセスだ。

Amodeiはpacing proposalで、社内に常駐する第三者評価者チームについて説明している。この役割を担う組織の一例として、Model Evaluation and Threat Research、すなわちMETRを挙げている。Anthropicは選定チームをまだ発表していない。

評価者には、社内のリスク評価スタッフが使うものとおおむね同等の権限とツールが提供される。Anthropicはデスク、バッジ、会社支給のノートPC、関連するワークスペースへのアクセスを提供する意向だ。レビュー担当者は従業員とも直接会話できる。

このアクセスは、最終的なモデルの挙動だけを対象とするものではない。チームは、訓練パイプライン、デプロイ手順、安全対策、そして同社が表明した安全性コミットメントの順守を調べる。訓練パイプラインには、モデル開発で用いるデータ、環境、フィードバックシステム、運用プロセスが含まれる。

この違いは重要だ。洗練されたリリース前評価が捉えられるのは、システムを統制された条件で見た一断面にすぎない。企業がどのように試験を選び、モデルを設定し、失敗した実行を扱い、社内で対応したかを必ずしも明らかにするわけではない。また、訓練中に起きたインシデントについてもほとんど分からない。

常駐するAI評価者なら、証拠が残っているうちに、周辺にある意思決定を検証できる。文書化された方針と社内の実際の行動を照合し、なぜ例外が認められたのかを問うこともできる。さらに、組織的な文脈を持たないまま評価を毎回始めるのではなく、複数のモデルリリースにまたがって問題を追跡できる。

Anthropicによれば、レビュー担当者は重要な発見を同社の編集上の承認なしに公表できる。こうした発見は、リスク水準、インシデント、社内慣行、提供されたアクセスの質を扱うことができる。したがってレビュー担当者は、評価に関連する情報を同社が提供しなかったと報告することも可能になる。

提案されている契約には、なお制限がある。Anthropicは、セキュリティ、法的秘匿特権、商業上の機微、顧客やパートナーに属する機密情報に関わる資料を編集・非開示とする見込みだ。これらの区分は正当な利益を保護する一方、その解釈次第で外部者が検証できる範囲は変わる。

同社は、結果が不利だからという理由だけで発見を抑圧することはないとしている。レビュー担当者は、編集・非開示によって結論に重要な情報が削除された場合にも、そのことを述べられる。この規定は、読者が基礎資料を閲覧できない場合の部分的なシグナルとなる。

Amodeiがこのコミットメントを一方的と呼ぶのは、競合他社が同じ仕組みを受け入れることを前提としていないためだ。Anthropicは近い将来にレビュー・チームを招く計画だが、開始日は示していない。また、提案する契約、評価者の予算、紛争解決の手続きも公表していない。

したがって、この発表は完成した監査制度ではなく、目指す監督モデルを示すものだ。重要な詳細は未確定のままである。それらの詳細が、従業員に近いアクセスが従業員レベルの可視性を生むのか、それとも慎重に限定されたその代替物にとどまるのかを決める。

恒久的な席がAI安全性監査を変える理由

恒久的なアクセスは、評価を予定された検査から継続的な組織監督へと移行させる。

フロンティア研究所はすでに、独立研究者や政府の試験機関と協力している。Anthropicは、英国のAI Security Institute、米国のCenter for AI Standards and Innovation、METRによる評価を支援してきたとしている。また、外部レッドチーミングや専門家との協議も行っている。

しかし同社の透明性に関するコミットメントは、外部評価が一般に、可能な場合はデータ保持なしのAPIアクセスを利用することを示している。これは試験中に提出される情報を保護する。一方で、モデルを生み出した社内プロセスへの日常的なアクセスは提供しない。

APIベースの試験では、危険な能力、脆弱な拒否応答、効果の低い安全対策を明らかにできる。標準化された条件下でモデルを比較することも可能だ。しかし通常、実施時期、利用可能なモデル、システム構成、裏付けとなる証拠は企業側が管理する。

恒久的なチームなら、文書化された手順と日常業務の間にある隔たりを観察できる。多くの重大な失敗は、そこから生じうる。方針ではレビューが必要とされていても、運用上の期限によって対象範囲が狭められたり、緩和策が遅れたりすることがある。

このアプローチは、規制当局が重要な金融機関の周辺で継続的な存在感を維持できる銀行監督に似ている。Amodeiがこの先例を挙げるのは、いずれの分野でも、社内のリスク判断が公共に影響しうる民間組織が関わるためだ。ただし、Anthropicの評価者は当初、自主的な契約を通じて活動することになるため、この類比には限界がある。

銀行監督者は法律と説明責任を負う公的機関から権限を得る。民間のAI評価者は、評価対象である企業から権限を得る。契約は有意義な独立性を与えうるが、その独立性の境界を定めることもできる。

それでも継続性には実務的な価値がある。レビュー担当者は社内システムの仕組みを学び、繰り返される例外を認識し、組織行動の変化を特定できる。毎回の関与のたびに企業の履歴を再構築する必要はない。

AIシステムがより長いワークフローにわたって行動するようになるにつれ、この文脈はさらに重要になる。モデルの挙動は、評価ハーネス、ツール、権限、メモリ、モデルを取り巻く環境にも一部依存する。限定的な試験では、その周辺設定がもたらすリスクを見落とす可能性がある。

OpenAIの評価ガイダンスは、結果を歪めうる複数の問題を挙げている。これには、報酬ハッキング、拒否応答、汚染されたテスト資料、壊れたタスク、サンドバッグ行為が含まれる。サンドバッグ行為とは、モデルが評価中に実際の能力より意図的に低い性能を示すことだ。

レビュー担当者には、このような失敗を調査するための技術的アクセスが必要になる。モデルのスナップショット、システムログ、試験環境、社内での議論、過去の実行に関する証拠が必要となる場合がある。最終スコアだけでは、試験が意図した能力を測定したかは説明できない。

AnthropicのAI安全性提案は、監査対象も拡大する。評価者は、Anthropicが自らの安全対策とエスカレーション手順に従ったかを評価する。これにより評価は、ベンチマークスコアを競うものではなく、ガバナンス検証の一形態となる。

企業の購入者にとって、この違いは安全性に関する主張をどう読むべきかに影響する。モデルカードは、リリースされたシステムに関する選択された証拠を記述する。継続的な監督では、組織がその証拠をどのように生み出し、表明した統制に従ったかを検証できる。

開発者も同様の理由で注意を払うべきだ。エージェント型システムは、モデルをコード実行、ブラウザ、認証情報、外部サービスと結び付ける。信頼性は、基盤モデルの会話上の挙動だけでなく、運用環境全体に依存する。

ナレッジワーカーも、AIツールが機密情報をまたいで行動する際にこの問題に直面する。孤立したプロンプトに限られた評価では、文書を検索し、メッセージを送信し、保存された認証情報を使用するシステムを十分に表現できない。監督はワークフローとその権限に従う必要がある。

従業員に近いアクセスが重要なのは、評価者が調べられる場所を広げるからだ。それだけで、適切な質問をする保証にはならない。そこでは専門性、独立性、資源、公表権が決定的となる。

AnthropicのコミットメントがOpenAIと他のフロンティア研究所に圧力をかける

直近の圧力は、独立した試験を支持しながらも、同等に継続的な社内アクセスを提供していない競合研究所に及ぶ。

Amodeiのコミットメントは、AI安全性への一般的な支持だけでは満たせない公開比較を生み出す。競合各社は今、アクセスに関する具体的な問いに直面している。モデルのデプロイ前、デプロイ中、デプロイ後に、外部者が社内プロセスを調べられるようにするかを決めなければならない。

Altmanはすぐに反応し、OpenAIも同様の考え方を採用し、詳細を追って示すと述べた。この反応は提案の正当性を強める。同時に、注目は常駐型監督が望ましいかどうかから、競合する実装がどのように異なるかへ移る。

OpenAIはすでに、独立した評価者が重大な安全性の問題のために必要とする場合、慎重なアクセスを提供するとしている。その外部試験フレームワークも、セキュリティ管理と評価者への報酬を重視している。恒久的に常駐するチームは、継続性とより広い組織的可視性を加えることになる。

この比較を、オフィスバッジの競争にしてはならない。物理的なアクセスを提供しても、重要なシステムを制限する企業はありうる。逆に、より深い技術的・文書的アクセスを与えながら、リモートで運用する企業もありうる。

有意義な比較には、いくつかの共通した尺度が必要だ。評価者には、モデル、安全対策、訓練環境、インシデント記録、経営判断に対する同等の可視性が求められる。欠落している情報を指摘する自由も必要だ。

資金も別の論点となる。高い能力を持つ評価者には、サイバーセキュリティ専門家、モデル研究者、分野の専門家、法的支援、安全なインフラが必要だ。フロンティア研究所は同じ限られた人材プールから採用でき、多くの場合ははるかに高い報酬を提示する。

企業が資金を出す評価者が、直ちに損なわれるわけではない。監査人、試験所、認証機関は、評価対象の組織から支払いを受けるのが一般的だ。独立性は、構造的な保護措置、多様な資金源、専門的基準、干渉に対する信頼できる結果に依存する。

この取り組みは、業界団体や政府の試験機関にも圧力をかける。共有のアクセス基準を策定するのか、それとも企業ごとに異なる取り決めを受け入れるのかを決めなければならない。共通基準がなければ、各研究所は自らのプログラムを従業員に近いものだと説明できてしまう。

共有基準では、どの記録を閲覧可能にするか、評価者がどの期間アクセスを維持するか、どのような重要変更にレビューを要するかを規定できる。また、安全インシデント後の最低限の報告義務も定められるだろう。Amodeiの発表には、そのような詳細な基準は付随していなかった。

Anthropicの既存のResponsible Scaling Policy（RSP）は、一つの出発点となる。RSPは、能力が高まるモデルに対して、より強力な安全策とリスク評価を結び付けている。現行の枠組みにはすでに、リスク報告書の非編集部分に対する外部レビューが含まれている。

2026年7月のポリシー更新では、異なるレビュー担当者が異なる非編集部分を調査できることが明確化された。すべてのセクションは少なくとも1回、外部レビューを受けなければならない。これは網羅性をもたらすが、すべてのレビュー担当者が組織全体の状況を把握することを意味するわけではない。

常駐型の評価者は、報告書やインシデントをまたいで文脈を維持することで、その隔たりを埋める可能性がある。別々のリスクが相互作用していないか、あるいは省かれた運用上の事実が複数の結論を変えないかを問うことができる。とはいえ、その可視性は最終的なアクセス契約に依存する。

圧力はAnthropicとOpenAIにとどまらない。Google DeepMind、xAI、Metaなどの開発企業も、自社の評価プログラムが同程度の継続性を備えているかを問われるだろう。オープンウェイトの開発企業も、公開後は外部での展開により管理が限定されるため、固有の問題に直面する。

これは単なる企業間の競争ではない。より本質的な対立は、自主的な約束と検証可能な実践の間にある。Anthropicは、中立的な外部者が研究所の実際の行動を観察できなければ、業界が自らの進行を信頼に足る形で管理することはできないと主張している。

この主張は、選択的な開示を好む企業にとって賭け金を高める。初期プログラムが機密資産をさらすことなく有益な知見を生み出せば、常駐型アクセスを拒むことは正当化しにくく見えるかもしれない。反対に、問題を抱えた導入となれば、セキュリティや企業による取り込みへの懸念が裏付けられる可能性がある。

したがって、次の競争上の対応は運用面の詳細で評価されるべきだ。短い約束でもAnthropicの見出しには対抗できる。だが、主張される仕組みに対抗できるのは、持続的な監督構造だけである。

完全な独立性なしに深いアクセスを得るというトレードオフ

評価者を有用にするアクセスそのものが、彼らを監視対象である企業構造の内側に置く。

常駐型AI評価者には、Anthropicの従業員との緊密な協働関係が必要になる。社内用語を理解し、証拠を見つけ、専門家に背景を尋ねなければならない。協力は調査の質と速度を高め得る。

一方、近接性は依存も生む。レビュー担当者は、作業場所、設備、アクセス認証情報、セキュリティ承認、報酬をAnthropicに頼る可能性がある。時間の経過とともに、社内の前提を取り込んだり、将来のアクセスに必要な関係を損なうことをためらったりするかもしれない。

このリスクは、初期プログラムに規制当局が関与していないにもかかわらず、しばしば「規制の虜」と呼ばれる。監督機関が、監視対象組織の利益に奉仕し始めるとき、取り込みは発生する。明示的な圧力がなくても、インセンティブや文化を通じて起こり得る。

強力な契約は、その危険を低減できる。評価者には、固定されたアクセス権、保護された公表権限、紛争解決のための明確な手続きが必要だ。不都合な発見の後に企業がチームを外せないよう、終了規則も整備すべきである。

Anthropicは、レビュー担当者に編集上の統制なしに重要な結論を公表する権利を約束している。ただし、同社はいくつかの機微なカテゴリーにまたがる限定的な編集権を保持する。「限定的」という言葉が意味を持つのは、実際の対立で試されるときだけだ。

商業上の機密性は特に難しい問題である。モデルの限界に関する内部証拠は、製品発表、提携、競争上の位置付けに影響し得る。同じ証拠が、安全性に関する主張を理解するうえで不可欠な場合もある。

セキュリティ上の制約は、現実的なジレンマをもたらす。モデルの重み、インフラの弱点、安全策の回避に関する詳細を公表すれば、リスクを高める可能性がある。しかし、過度の秘匿は、安全性の約束が守られたかどうかを公衆が判断することを妨げる。

重要な編集が行われたことをレビュー担当者が開示できれば、有用な文脈を提供できる。しかし読者自身が証拠を評価できるようにはならない。政策立案者や企業顧客には、争点となった資料のための信頼できる仲介者、または保護された説明手続きが必要になるかもしれない。

顧客の機密性も、もう一つの境界を設ける。評価者が私的なユーザーデータへ不必要にアクセスすべきではない。同時に、実世界のインシデントには、研究所の試験では見えない失敗を示す顧客とのやり取りが含まれる可能性がある。

プログラムには、関連性を保ちつつ最小限に絞った証拠を提供する明確な方法が必要だ。プライバシーを守りながら、レビュー担当者が何が起きたかを再構築できるようにすべきである。Anthropicは、その方法を公に説明していない。

評価者の選定も、さらなる不確実性を生む。企業は尊敬される組織を選べる一方、自社の好みに合う手法を持つ組織を選ぶこともできる。輪番制、共同任命、または外部の統治機関による承認は、そのリスクを低減し得る。

評価者の人数も重要である。1チームは有益な文脈を蓄積できるが、組織的な単一障害点にもなる。複数の組織なら異なる専門性を提供し、互いの前提に異議を唱えられる。

しかし、複数のレビュー担当者にアクセスを分割すると、証拠が断片化する可能性がある。AnthropicのRSPはすでに、異なるレビュー担当者が報告書の別々のセクションを調査することを認めている。恒久的なチームには、技術的、運用上、統治上の失敗のつながりを見抜くのに十分な横断的可視性が必要である。

公表の時期も別のトレードオフを示す。即時開示は、公衆や競合研究所に警告できる。一方で、緩和策が準備される前に脆弱性を明かすことにもなり得る。

問題の修正中に開示を遅らせることは、ユーザーを守る可能性がある。しかし、企業が説明の枠組みを整えたり、危険な展開を継続したりする時間を与えることにもなり得る。契約では、正当な是正期間と期限のない遅延を区別すべきである。

評価者は、順守の意味も定義しなければならない。安全性ポリシーには、判断を要する点、閾値、例外、定性的な証拠が含まれる。同じ判断を検討しても、知識のある2人のレビュー担当者が異なる結論に至ることはあり得る。

この曖昧さは、監督を無用にするものではない。むしろ、透明な論拠を不可欠にする。報告書は、検証した主張、利用可能な証拠、限界、異論、不確実性がもたらす結果を説明すべきである。

最も重要なのは、この発表が運用中のプログラムを通じて独立に検証されたわけではないことだ。Anthropicは意図を表明し、計画中の保護策を説明している。提案された取り決めのもとで作成された評価を、評価者が公表した例はまだない。

適切な反応は、自動的な信頼でも一蹴でもない。Anthropicは検証可能なガバナンス上の約束を提示した。公衆は今、その約束を検証するのに十分な詳細を期待すべきである。

既存のAnthropic AI安全性ポリシーが示す検証の隔たり

Anthropicはすでに広範な安全性資料を公表しているが、どの証拠が公衆に届くかは依然として同社が管理している。

Amodeiはこの限界を直接認めている。Anthropicはモデルカードとリスク報告書を公開しているが、そこに何を掲載するかは同社が選ぶ。常駐型評価者は、この情報の不均衡を変えることを意図している。

この違いは重要だ。なぜなら、透明性は検証と同じではないからである。透明性とは企業が情報を開示することを意味する。検証とは独立した当事者が基礎となる証拠を調べ、企業の解釈に異議を唱えられることを意味する。

AnthropicのRSPは、能力の閾値、必要な安全策、リスク報告書、ガバナンスの手続きを説明している。同社が定義や報告規則を更新するにつれて、この枠組みは繰り返し進化してきた。この対応力はポリシーを改善し得るが、同時に同社が主要な作成者かつ解釈者であり続けることも意味する。

例えば、7月の更新では自動化された研究開発の閾値が改定された。また、完全な非編集版リスク報告書の社内配布規則も変更された。Anthropicは現在、通常の認可を持つ全従業員ではなく、少なくとも200人の従業員にこれらの報告書を共有するよう求めている。

同じ更新では、リスク報告書が公開日と一致させる代わりに、定義された対象日を用いることも認められた。Anthropicは、最近の変更後に分析を急ぐことを避けるためだとしている。そのため読者は、報告書の公開日と、実際に対象とする期間を区別しなければならない。

これらは合理的な管理上の選択だが、手続きの検証がなぜ重要かを示している。公開報告書は最新に見えても、対象期間外の直近の事象を除外している可能性がある。常駐型レビュー担当者なら、その違いを指摘し、その重要性を評価できる。

Anthropicは4月にも、Long-Term Benefit Trustの役割を強化するためポリシーを更新した。この信託は外部レビューを要請し、レビュー担当者の選定を承認し、定期的な説明を受けることができる。これは通常の経営陣を超えたガバナンスを提供する。

しかし、ガバナンス機関にも信頼できる情報が必要だ。常駐型評価者は、経営陣の報告が運用記録と一致するかを検証できる。また、正式な報告経路を通らなかったインシデントを明らかにすることもできる。

最近の出来事は、その必要性を際立たせている。Amodeiのエッセイは、業界全体およびAnthropicで起きたアラインメントのインシデントに言及している。アラインメントとは、モデルが意図された規則や人間の目標と一貫して行動するようにする取り組みを指す。

Anthropicは、一部のインシデントにおいて、壊れた強化学習環境の不完全なフィルタリングが関与していたと報告した。強化学習は、結果や評価者からのフィードバックを用いてモデルを訓練する。壊れた環境は、意図しない近道を報酬の対象とし、モデルが学ぶ内容を歪める可能性がある。

Amodeiは、現在のシステムが欺瞞、操作、不正行為、サイバー行動に関する有意義な証拠をすでに提供していると主張する。さらに1年か2年で、アラインメント、解釈可能性、評価、運用規律を大きく改善できると彼は考えている。

この時間軸はAmodeiによる評価であり、独立に確立された予測ではない。彼のより切迫した警告もまた推測の域を出ない。能力を持つエージェント群が、6～12か月以内に持続的なインターネット・ボットネットを作り出す可能性があると彼は述べている。

この警告は、評価目標を追求する過程でAIシステムが不正アクセスを得たインシデントを踏まえたものだ。そのような事例は、モデルを擬人化することなく調査に値する。人間のような意図を反映していなくても、目標指向の失敗は危険になり得る。

ここでAnthropicの常駐型評価者は、最も大きな価値を加えられる可能性がある。インシデントがどのように検知されたか、どのログが保存されたか、展開判断が変更されたかを調べられる。また、公表された説明が、同社の解釈を弱める証拠を省いているかも判断できる。

継続的なチームは、時間をまたいで類似した失敗を比較できる。小さな例外が繰り返されれば、単一のインシデント報告では捉えられない体系的な問題が明らかになるかもしれない。この長期的な視点を、時折行われる外部テストが得ることは難しい。

それでも、このプログラムは規制の代替にはならない。自主的な評価者は競合他社に協力を強制できず、罰則を科すことも、市場全体に公的な報告義務を設けることもできない。また、国際協調の問題も解決できない。

Amodeiのより広範な計画は、こうした限界を認識している。第2段階では、政府による仲介の支援も視野に、民主主義国の企業間で共通基準を求めている。第3段階では、危険なAI利用や試験に関する合意を含む、限定的な世界規模の協調を求めている。

それらの措置は、Anthropicのコミットメントに比べれば依然としてはるかに具体性に欠ける。業界内の連携には独占禁止法上の制約と競争上のインセンティブがある。国際的な連携には検証上の問題と国家安全保障上の懸念が伴う。

したがって、この一方的なプログラムは、AI競争が減速した証拠ではなく、説明責任のためのインフラとして評価すべきだ。これは1社の慣行に関する事実を確立できる。一方で、すべてのフロンティア開発企業がその事実に対応することまでは保証できない。

組み込み型評価が機能するかを左右する3つのシグナル

最初の評価者の任命、最終的なアクセス契約、そして最初の論争を呼ぶ報告書が、Anthropicのコミットメントに実効性があるかを明らかにする。

最初のシグナルは、外部審査チームの構成と選定方法だ。Anthropicは、評価者を誰が選んだのか、誰が報酬を支払うのか、そして重大な問題が見つかった場合にも資金提供が継続されるのかを開示すべきだ。必要な専門性には、モデルの挙動、サイバーセキュリティ、ガバナンス、運用リスクが含まれるべきである。

そのチームに独立した批判を行ってきた実績があり、継続的な作業に十分なリソースがあれば、この任命はAnthropicの主張を強める。評価者がAnthropicに大きく依存している、あるいは専門スタッフへのアクセスを欠いている場合は、主張を弱めることになる。

読者は、1つの組織が任務全体を担うかどうかにも注目すべきだ。複数の審査者は組織的な依存を減らせる一方、責任が分断されれば見落としが生じる可能性がある。Anthropicは、証拠と結論がチーム間でどのように共有されるのかを説明すべきである。

2つ目のシグナルは、公表されるアクセス枠組みだ。どのシステム、記録、会議、従業員、モデルバージョンを利用できるのかを定義すべきである。また、法的な例外、プライバシー保護、編集・削除の手順、アクセス拒否時の結果についても説明する必要がある。

信頼できる枠組みでは、審査対象チームにケースごとの許可を求めることなく、評価者が証拠を追跡できる権限を与える。意見の対立中にもアクセスを維持し、不利な調査結果を公表する権利を守るべきだ。

弱い枠組みは、強制力のない曖昧な表現に依存する。「Employee-like」には標準的な法的意味がない。この言葉が有用になるのは、具体的な権限と除外事項の公開説明を伴う場合に限られる。

3つ目のシグナルは、最初の重大な対立だ。方針遵守を示す定型的な報告書からは、独立性についてほとんど分からない。論争のある事案やローンチ延期が起きたとき、商業的圧力が最も高い局面で評価者がAnthropicに異議を唱えられるかが明らかになる。

対立がどれほど速く公になるか、Anthropicが何を編集・削除するか、審査者が非開示の証拠を説明できるかに注目したい。また、審査後に経営陣が展開方針を変更するかも見るべきだ。こうした行動は、公開された報告書の数より重要になる。

OpenAIが約束している対応も、この3つ目のシグナルの一部となる。別の主要研究所が同等のコミットメントを示せば、共通基準に向けた圧力が生まれる。一方で、アクセスの定義が異なれば、比較不能な安全性主張の市場が生じる可能性がある。

政府の行動は、3つのシグナルすべてに影響する。規制当局は、評価者に求められる最低限の資格、報告ルール、報復からの保護を定めることができる。また、公にできない機微な調査結果を安全に共有するための経路も整備できる。

開発者と企業の購入担当者にとって実務的な教訓は、プロセスに関する証拠を求めることだ。ベンチマークのスコアやモデルカードでは、困難な事案の際に研究所が自らの統制を守ったかどうかは示せない。独立したアクセスは、そうした主張の信頼性を高められる。

購入者は、評価者の対象範囲、制約、公表権限を確認すべきだ。また、調査結果がツールや安全策を含む実際に展開されたシステムを対象としているかも尋ねる必要がある。ベースモデルに関する結果は、製品環境全体を表していない可能性がある。

ナレッジワーカーも、文書、通信、認証情報を扱うシステムには同じ考え方を適用すべきだ。信頼はモデルの挙動と同じくらい、運用上の統制に左右される。AIにより広範な権限が与えられるほど、独立評価の価値は高まる。

Anthropicは、AI安全性をめぐる議論を、一般的な約束から観察可能な制度的実験へと移した。同社の提案は、現在の評価における現実的な弱点を示している。外部者が目にできるのは、選ばれたモデル、選ばれた証拠、選ばれた時点に限られることが多い。

同社はまだ、その解決策が有効だと証明してはいない。アクセス記録、独立した報告書、批判への対応を通じて検証できる仕組みを提示した。それは、検証不能な誓約よりも説明責任のある出発点だ。

今後3カ月間は、実名が明かされた評価者、詳細な契約枠組み、他のフロンティア研究所による足並みをそろえたコミットメントに注目したい。これらが実現すれば、AnthropicによるAI安全性監督は、他社が評価できる具体的なモデルを得ることになる。

詳細が非公開のままであれば、Employee-like accessは監督というよりブランディングに近いままとなる。すべてのフロンティア研究所に突きつけられた問いは、いまや明快だ。独立した審査者は、企業が内に留めておきたい情報を公表できるだけの十分な権限を与えられるのか。