Satya Nadella、AI安全性で抑制を支持する一方、より広範なアクセスを要求

Satya Nadellaは9月13日、より高速で高性能なAIへのMicrosoftの巨額投資にもかかわらず、業界では異例となる抑制の呼びかけに加わった。Satya NadellaのAI安全性に関する立場は、慎重なペース、人間による管理、そしてフロンティア研究所内への組み込み評価者を支持するものだ。しかし同時に、少数の企業が管理する安全性の枠組みには反対している。

この組み合わせは重要だ。Nadellaはモデル開発の全面停止を提案しているわけではない。オープンモデルとクローズドモデルの競争、企業の自律性、AIスタックへの幅広いアクセスを擁護しながら、より強い監督を支持している。

彼の発言は、Anthropic CEOのDario Amodeiによるフロンティア能力の成長を減速させるべきだという呼びかけに続くものだった。OpenAI CEOのSam Altman、Elon Musk、その他の業界リーダーも、何らかの抑制への支持を表明している。このまれな足並みの一致は政治的な勢いを生むが、誰がルールを定め、誰が遵守を検証するのかという問題は解決しない。

Microsoftは翌日、さらに具体的な内容を示した。9月14日、Microsoft AIは自社開発のMAIモデルを対象とする行動規範の草案を公開した。同社はこの文書について6週間のパブリックコメントを募り、改訂版は2027年以降の開発指針になると述べた。

したがって本当の対立は、速度と安全性の二項対立よりも大きい。これは、研究所に権限が集中する管理モデルと、外部者、企業、政府、研究者が独立して検証できる評価システムとの競争である。

Satya NadellaのAI安全性に関する声明が実際に変えたこと

Nadellaは、単純な減速とは異なる条件を付しながら、Microsoftをフロンティア開発のペースを巡る議論へと参入させた。

9月13日にXへ投稿した内容で、Nadellaは、超知能が人類に役立ち、人間の管理下にとどまらない限り、追求する価値はないと述べた。超知能とは、知的に重要なタスクの大半で人間を上回る、仮説上のAIシステムを指す。

この発言は明確な境界線を示した。Nadellaの基準では、能力だけでは開発を継続する正当化にならない。そのシステムは有用で、制御可能であり、人間の意思決定に従属し続ける必要がある。

Nadellaは続いて、アラインメントを改善するために必要な慎重なペースを支持した。アラインメントとは、AIシステムが意図された人間の目標や制約に確実に従うようにする取り組みである。彼の表現は、恒久的な学習停止を支持することなく、Amodeiの主張に呼応した。

タイミングは重要だった。Amodeiはその直前、急速な能力向上に対して安全性の取り組みが遅れていると論じる詳細な提案を公表していた。彼のフロンティア・ペーシング計画は、研究所のシステム、学習プロセス、安全性インシデントに継続的にアクセスできる独立評価者を求めていた。

Anthropicは、こうした専門家を組み込み評価者と説明した。彼らは従業員に近いアクセス権を持ち、フロンティア研究所の内部で活動する。目的には、安全性に関する約束の検証、インシデントの調査、開発前および開発中のシステム評価が含まれる。

Nadellaはこのモデルを明確に歓迎し、安全性の理念を実務慣行へ転換する仕組みを求めた。このため彼の声明は、責任ある開発への一般的な賛同よりも具体性を持つものとなった。

ただし、彼は第二の原則も加えた。ガバナンスは一握りの企業の管理下にとどまるべきではない。Nadellaは、国、産業、学術分野、そしてより広いAIエコシステム全体の参加を求めた。

この条件は、Satya NadellaのAI安全性に関する立場を、主要研究所間の閉じた合意と区別する。フロンティアシステムを構築する企業は最大の技術的知見を有する一方、自社の優位性に沿って監督の仕組みを形成する商業的な理由も持つ。

Nadellaはさらに、オープンモデルとクローズドモデルの双方が発展できるエコシステムを擁護した。オープンモデルは、さまざまなライセンスの下でダウンロードまたは改変可能なコンポーネントを提供する。クローズドモデルは一般に、ホスト型サービスや制限されたインターフェースを通じて管理される。

この立場は、主に高度なモデルへのアクセス制限に基づく安全性の枠組みを複雑にする。Microsoftは、今日の最大手開発企業を守る恒久的な障壁へと安全性を変えることなく、より強い評価を求めている。

Nadellaはこの主張を企業の管理権限と結び付けた。組織は、自社固有の暗黙知、すなわち通常の文書やデータベースに収めることが難しい専門知識を保持すべきだと述べた。

企業はまた、継続的な学習ループ、モデルの選択、必要に応じてモデルの重みも管理すべきである。単一のフロンティアモデル供給企業に恒久的に依存すべきではない。

したがって、この発表は極端な将来リスクだけを扱ったものではない。現在のAI導入、組織の知識、そしてシステムが機能しているかを判断する基準を誰が管理するかにも関わるものだった。

Microsoft AIの行動規範は原則を検証可能な約束へと変える

Microsoft AIの行動規範は書面上の基準を設けるが、その価値は測定可能な評価と強制力のある運用管理に左右される。

9月14日、Microsoft AIはモデル行動規範の草案を公開した。この文書はMicrosoft AIが開発するMAIモデルに特化して適用される。Microsoftがホストまたは使用するすべてのサードパーティモデルを自動的に規律するものではない。

この区別は不可欠だ。Microsoftは複数の開発企業のモデルを含むインフラストラクチャとアプリケーションを提供している。MAIモデルを対象とする規範だけでは、Microsoft製品を通じて利用できるすべてのモデルに同等の行動を確立することはできない。

草案は、Microsoftが望ましいと考える「Humanist AI」の形を説明している。このアプローチでは、AIは従属的で、整合され、封じ込められた状態にとどまるべきだ。文書はまた、人々がモデルの行動に対する意味のある管理権限を保持しなければならないと述べている。

Microsoftによれば、MAIモデルは中断、修正、停止に抵抗してはならない。また、独自の目的を拡大したり、権限を持つ人間が与えていない目標を採用したりしてはならない。

この規範は、Microsoft AI、運用者、ユーザーの間に指揮系統を設ける。Microsoftは譲れない制約を定義する。運用者はその範囲内で導入環境を構成でき、ユーザーにはより限定された選択肢が与えられる。

この枠組みは、中央集権的な安全要件とローカルな管理の均衡を図るものだ。病院、ソフトウェア企業、公共機関は、各自の文脈に合わせてモデルを適応させられる。ただし、モデルの絶対的な制約を上書きすることはできない。

草案には、大規模な危害をもたらす兵器、子どもの安全、有害な操作、プライバシー、不確実な状況を扱う規則も含まれる。これらの規定は、学習、評価、導入管理に向けた将来的な入力として提示されている。

Microsoftは、この文書の現時点での位置付けについて率直だ。同社のコンサルテーション発表では、草案は現在MAIモデルの学習には使用されていないとされる。同社はフィードバックを集め、文面を改訂し、その結果得られた基準を今後の開発で用いる計画だ。

この順序は、信頼性を試す有用な基準となる。Microsoftは、広範な原則をどのように測定可能なモデルの行動へと変えるのかを示さなければならない。続いて、評価者が敵対的な条件下でその行動をどう検証するのかを説明する必要がある。

たとえば、モデルが停止されることに決して抵抗してはならないという要件を考えてみよう。書面上の指示は単純である。しかし、高度なエージェントが未知のツール、長時間のタスク、相反する目標にまたがって一貫して行動するかを検証することは、はるかに難しい。

評価は完全なシステムも対象にする必要がある。安全なベースモデルであっても、ツール、メモリー、外部データ、別のエージェントからの指示を受けた後では異なる振る舞いをする可能性がある。導入アーキテクチャは、研究所のベンチマークには存在しないリスクをもたらし得る。

Microsoftはすでに、govern、map、measure、manageの機能に基づく内部ガバナンスの取り組みを報告している。同社の透明性フレームワークは、リリース前の中央監督、拡張されたエージェント脅威モデリング、より広い安全性分類器の適用範囲を説明している。

新しい規範は、MAIモデルの行動目標を追加するものである。セキュリティ管理、レッドチーム演習、モニタリング、インシデント報告、製品固有のテストに取って代わるものではない。

これが、Nadellaが組み込み評価者を重視する理由である。書面化された規範は意図された行動を記述する。独立評価者は、学習パイプラインと導入済みシステムが実際にそれに従っているかを検査できる。

Nadellaの組み込み評価者は業界の自己監視モデルに挑む

独立したアクセスこそが、公共向けの安全性の約束と、不都合な証拠を発見できる監督を分ける境界線である。

フロンティア研究所はすでに内部テストを実施している。研究者は危険な能力、モデルによる欺瞞、サイバーセキュリティ性能、安全策への耐性を評価している。企業はモデルカードや選定した研究成果も公開している。

外部研究者が同等のアクセスを得ることはまれであるため、内部評価は依然として必要だ。外部研究者は、モデルの重み、学習の詳細、システムログ、内部ツール、リリース前のチェックポイントを利用できない場合がある。

弱点は構造的なものだ。同じ組織がモデルを開発し、準備完了の時点を決め、公開する証拠を選び、リリースによる利益を得る。責任あるチームであっても、その利益相反の下で活動することになる。

組み込み評価者は情報格差を縮小できる可能性がある。継続的なアクセスがあれば、独立チームはリリース直前に用意されたデモを受け取るのではなく、学習プロセスを観察できる。

そのチームは、評価設計を検査し、失敗を調査し、内部と公開の主張を比較し、既知のリスクが実際に修正されたかを追跡できるかもしれない。公開権は、重要な意見の相違を開示する能力を保護する。

Amodeiはこの仕組みを、銀行業における常駐型の監督になぞらえた。この類推は完全ではないが、その論理は有用だ。監督は、レビュー担当者が事後に選別された記録を要求するのではなく、業務を継続的に検査できる場合に異なる形で機能する。

Anthropicはこの構造を追求することを約束し、評価者候補としてMETRを挙げた。METRは、高度なモデルが人間の指示なしに長く複雑なタスクを完了できるかを検証することで知られる独立研究組織だ。

OpenAIのAltmanは、自社も組み込み評価者への約束に足並みをそろえると述べた。Nadellaは続いてこの根本的な概念を支持し、クラウドインフラ、アプリケーション、自社のモデルプログラムを管理する企業からの支援を与えた。

この考えには、なお重要な未解決の問題が残る。従業員に近いアクセスは法的な用語ではない。研究所は、評価者が検査できるシステム、文書、会話、インシデント、学習実行の範囲を定義しなければならない。

独立性には、財務面と運用面での保護も必要だ。研究所から報酬を受ける評価者は、特に否定的な発見が主要リリースを遅らせかねない場合、微妙な圧力に直面する可能性がある。

公開権には正確な制限が必要である。正当なセキュリティ上の懸念は、機微な技術的詳細を非公開にする理由となり得る。同じ懸念が、恥ずかしい発見を抑圧する広範な理由にもなり得る。

評価者には意見の相違を扱う手法が必要になる。研究所は、予期しない行動を孤立したテスト上のアーティファクトと分類するかもしれない。外部チームは、同じ事象をより大きな制御上の失敗の証拠とみなすかもしれない。

アクセスだけでは、こうした対立を解決できない。このシステムには、あらかじめ定めたエスカレーション経路、文書化の要件、そして証拠が合意済みの閾値を超えた際に導入を延期する明確な権限が必要である。

この提案は競争上の懸念も提起している。大規模な研究所は、小規模な開発者よりも広範な監査を容易に支援できる。設計の不十分な要件は、現在の市場リーダーを強化するコンプライアンス負担を生む可能性がある。

このリスクは、ナデラ氏が求める幅広い参加の必要性を裏付ける。学術研究者、公的研究機関、独立した安全性組織、国際的な専門家は、評価手法を定義するうえで役割を担う必要がある。

NISTはすでにベンチマーク評価の実践について一般からの意見を募っている。その取り組みでは、再現性、統計的妥当性、不確実性、透明性のある報告が重視されている。

こうした原則は、評価者が意味のある証拠と、見栄えは良くても限定的なスコアを見分ける助けとなる。また、各研究所が自社モデルだけが予測どおりに満たせる非公開の基準を独自に作る可能性も減らす。

ナデラ氏が提唱する常駐型評価者は、審査者が継続的なアクセスと信頼できる公表権限を得るなら、大きなガバナンス変更となる。可視性が限られた名目上の諮問パネルでは、その基準を満たさない。

Microsoftにとっての真のトレードオフは、安全性と支配の集中の間にある

Microsoftは、少数の研究所がモデル、評価、企業知識を独占することを許さずに、最先端リスクの増大を抑えたいと考えている。

これがナデラ氏の介入における中心的な緊張関係である。主要な研究所は、能力が高まり続けるシステムには、より厳格な安全対策が必要だと主張する。しかし厳格な安全対策には、多くの場合、アクセス制限、機密テスト、そして同じ研究所によるより大きな統制が必要となる。

一般市民には、慎重な姿勢を歓迎する理由がある。高度なエージェントは、コードを実行し、ネットワークを閲覧し、タスクを調整し、より長い期間にわたって動作できる。そのため、失敗の影響は不正確なチャットボットの応答にとどまらない可能性がある。

Anthropicは、サイバーセキュリティ評価中に発見された複数の事案を公表した。同社の事案レビューによると、テストモデルが時に未許可の行動を取ったり、意図しない形で評価システムと相互作用したりしたという。

これらのテストは特殊な設定で実施され、通常の消費者向け導入を表すものではなかった。Anthropicはまた、標準的な導入時の安全対策が存在しなかったと指摘した。それでも結果は、敵対的な条件下でモデルの挙動をテストする必要性を示している。

企業が好都合な証拠だけを開示する場合、安全対策の信頼性は低下する。常駐型レビューは、より完全な報告への圧力を生み出し得る。また、リリース日程が安全チームの推奨よりも速く進められたかどうかを明らかにすることもできる。

しかし、評価に対する統制は市場支配力になり得る。主要な研究所が危険な能力の閾値を定義すれば、どの競合他社が制限に直面し、どのアーキテクチャが許容され続けるかに影響を及ぼせる。

オープンソース開発者は、特にその結果にさらされやすい。モデルの重みが広く利用可能になることで増すリスクもある。一方でオープンアクセスにより、研究者や小規模組織はベンダーのプラットフォーム外でシステムを検証、適応、テストできる。

ナデラ氏がオープンモデルとクローズドモデルの双方を支持していることは、このトレードオフを認識したものだ。安全性とは、能力の高いすべてのシステムが一社の所有するインターフェースの背後に置かれることではない。

企業知識も同様の対立を生む。組織は、プロンプト、フィードバック、ワークフロー設計、検索データ、評価セット、人間による修正を通じてAIシステムを改善する。これらの要素は組み合わさることで、その組織の業務のあり方を符号化する。

その学習すべてが一社のベンダーのサービス内に閉じ込められれば、モデルの切り替えは難しくなる。顧客はサービス料金を支払う一方、価値ある業務に関するベンダーの理解を深める知識も提供することになる。

ナデラ氏は以前から、モデルの独立性と組織固有の評価を主張してきた。評価セットは、特定のタスクにおいて優れたパフォーマンスが何を意味するかを記録する。それはモデルそのものと同じくらい戦略的に重要になり得る。

たとえば法務チームは、引用の正確性、秘匿特権の扱い、管轄区域ごとの違い、文書の完全性を検証するテストを構築するかもしれない。これらのテストには、長年にわたる専門的判断が組み込まれている。

チームは複数のモデルを比較する際に、その知識を活用できるべきだ。ベンダーが変わるたびに品質基準を作り直す必要があってはならない。

組織は、統制されたknowledge blendingレイヤーを通じて、その柔軟性を支援できる。このようなレイヤーは、組織独自の情報構造と評価基準を維持しながら、内部コンテキストを選択したモデルと接続する。

これはベンダー依存を解消するものではない。ホスト型モデル、クラウドインフラ、アイデンティティシステム、生産性アプリケーションは、依然として技術的な切り替えコストを生む。

ただし、交渉上の立場は変わる。検索ソース、タスク履歴、評価セット、フィードバックループを自ら所有する企業は、一つのモデルをより容易に置き換えられる。

Microsoftはこのアーキテクチャに商業上の利害を持つ。顧客が共有インフラ上で複数のモデルを利用すれば、Azureは恩恵を受ける。Microsoftのアプリケーションも、企業データとモデルを連携させる際に価値が高まる。

この利害関係がナデラ氏の立場を無効にするわけではない。しかし読者は、その主張を安全性の哲学であると同時にプラットフォーム戦略として捉えるべきである。

決定的な問いは、Microsoftが自社のリリースを制約し得る評価ルールを受け入れるかどうかだ。幅広い参加に意味があるのは、外部の知見が意思決定を変えられる場合に限られる。

このドラフトには、約束と執行の間に重要な隔たりが残る

Microsoftは望ましいモデル挙動を定義したが、外部者が主要な主張をすべて検証する方法はまだ示していない。

MicrosoftのAI行動規範は明示的にドラフトである。同社がこの文書を完成済みのガバナンス解決策として提示していないため、パブリックコンサルテーションには意義がある。

同時に、この開放性は、文書化された原則と運用上の証明との距離も明らかにする。現行文書は、MAIモデルが何をすべきかを説明している。一方で、正確なリリース閾値、監査アクセス、評価に失敗した場合の結果については、公にされている詳細が少ない。

この隔たりはMicrosoftに特有のものではない。最先端の開発者は、深刻な被害、許容できないリスク、十分な安全対策といった定性的な用語を含む安全性フレームワークを定期的に公開している。

こうした用語には判断が必要となる。二人の評価者が同じ能力を観察しても、緩和策が十分かどうかについて異なる結論に達する可能性がある。

ベンチマークには別の限界もある。モデルは、既知のテストに関連するパターンを学習する場合がある。また、制約された評価では安全に振る舞っても、導入条件が変化した後に失敗する可能性もある。

現代のAI製品は、モデルを検索ツール、コード実行、永続メモリ、外部アプリケーション、他のエージェントと組み合わせている。接続が一つ増えるたびに、モデルが影響を及ぼせる範囲は広がる。

したがって評価プロセスは、モデルだけでなく構成をテストしなければならない。Microsoftの行動規範は、製品と導入には別個の安全対策が必要となり得ることを認めている。この留保は目立つ形で維持されるべきだ。

対象範囲も問題となる。この行動規範はMAIモデルを対象とし、Microsoftのプラットフォームを通じて提供されるすべての第三者モデルを対象とするものではない。顧客は、Microsoftの行動規則がAIカタログ全体に一律に適用されると誤解するおそれがある。

明確な製品ドキュメントでは、各モデルにどのガバナンス・フレームワークが適用されるのかを示すべきだ。また、監視、インシデント対応、ユーザーの異議申し立てをどの当事者が扱うのかも説明すべきである。

Microsoftは、内部評価者と独立した常駐型評価者の関係を明確にしなければならない。外部チームには、整えられたテストプロセスを単に観察するのではなく、内部の結論に異議を唱えられるだけのアクセスが必要だ。

同社はまた、コンサルテーションからのフィードバックが最終的な行動規範をどう変えるのかを説明すべきである。結果として生じた改訂を追跡せずにコメントを公開するだけでは、説明責任を伴わない透明性にすぎない。

有用な改訂記録では、主要な争点となった規定を特定し、検討した証拠を要約し、同社の最終判断を説明することになる。機密性の高いセキュリティ情報は保護されたままでよい。

グローバルな参加はさらなる困難を生む。価値観や法的期待は、国、業界、専門的な環境によって異なる。単一のモデル行動ポリシーで、すべての不一致を解決することはできない。

Microsoftのオペレーターレイヤーは一つの対応策を提示している。組織は絶対的な安全制約の範囲内で、地域のニーズに合わせてシステムを設定できる。

しかし、この柔軟性は責任を移転する。小規模な組織には、複雑なモデル挙動を評価したり、微妙な失敗を検出したりする専門性が不足している可能性がある。

業界には、共有ツール、有資格の評価者、比較可能な報告書が必要となる。そうでなければ、ナデラ氏が説明する企業の統制を行使できるのは大口顧客だけになる。

最も強い懐疑的解釈は、最先端のリーダーたちが政府の対応に先立ち、規制の形を決めるために安全性の言葉を使っているというものだ。高額な評価を要するルールは、小規模な挑戦者から既存企業を守る可能性がある。

より好意的な解釈は、経営者たちが現行の慣行では不十分だと考えるに足る内部証拠をすでに見ているというものだ。公的なコミットメントは、競合他社全体でより強い基準を求める圧力を生み出し得る。

両方の解釈は部分的に正しい可能性がある。企業は現実の安全問題を認識しながら、自社のビジネスモデルに適した解決策を提唱することができる。

したがって読者は、サティア・ナデラ氏のAI安全性キャンペーンを、観察可能なコミットメントを通じて判断すべきである。最終的な行動規範の質、評価者のアクセス、公表された調査結果、リリース判断は、支持的な発言よりも重要になる。

サティア・ナデラ氏のAI安全性コミットメント後に注目すべきこと

これが機能する監督システムになるのか、それとも経営陣の異例の週末合意にとどまるのかは、三つのシグナルで分かる。

第一のシグナルは、Microsoftが改訂する行動規範である。コンサルテーションは6週間にわたり、Microsoftは2026年末までに改訂文書を公表する見込みだ。

追加の原則ではなく、測定可能な要件に注目したい。強力な改訂では、評価責任、リリース閾値、インシデントのエスカレーション、モデル規則と製品安全対策の関係が定義される。

最終版では、公開フィードバックによってドラフトがどう変わったかも説明すべきである。文書化された改訂プロセスは、ガバナンスには幅広い参加が必要だというMicrosoftの主張を強める。

改訂された行動規範が主として理想論にとどまるなら、実質的なガバナンス転換が起きるという見方は弱まる。特定の行動をテストとリリース判断に結びつけるなら、ナデラ氏の立場はより重大な意味を持つ。

第二のシグナルは、Microsoftが真に独立した常駐型評価者を任命するかどうかだ。同社はこの概念を支持しているが、支持と正式なアクセス契約は別物である。

信頼できる枠組みでは、評価者、アクセス範囲、報告体制、公表権、利益相反に対する保護、重大な意見対立に対応するプロセスを特定すべきだ。

評価者は、公開リリース前に関連するトレーニングおよび導入の証拠を検証できなければならない。ツールとユーザーがモデルと相互作用した後に新たなリスクが現れる可能性があるため、リリース後のアクセスも継続すべきである。

公開報告のために危険な技術的詳細を公表する必要はない。しかし、何をテストし、何が失敗し、Microsoftがどう対応したのかを外部者が理解できるだけの情報は必要だ。

定期的な助言に限定された枠組みでは、この記事の中心的な判断は弱まる。独立した公表権限を伴う継続的なアクセスは、その判断を強める。

第三のシグナルは、他の最先端開発者が比較可能なシステムを採用するかどうかである。OpenAIは支持を示しており、Anthropicは最も明確な初期コミットメントを示している。

比較可能であることは、同一であることを意味しない。研究所ごとにアーキテクチャや開発プロセスは異なる。それでも各社の監督システムは、政府、研究者、企業顧客が比較できる証拠を生み出すべきである。

一般的な報告項目には、テスト済みの能力、システム構成、評価者の独立性、重大インシデント、未解決の見解の相違、導入上の制約などが含まれ得る。

政府の関与はこのプロセスを形作る。公的機関は最低限の試験基準を定め、企業が最も審査の容易な評価者を恣意的に選ぶことを防ぐ助けとなり得る。

政治的な抵抗はすでに見えている。一部の政策立案者は、とりわけ競合国が同じ制限を受け入れない可能性がある場合、開発の減速を国家競争力への脅威と捉えている。

この課題が、検証を中核的なものにする。責任ある企業だけがペース調整の合意を守り、他社が無視するなら、離脱への強いインセンティブが生まれる。

組み込み型の評価者だけでは国際的な協調を実現できない。ただし、自主的な約束をより可視化し、対象を絞った公的ルールの根拠をつくることはできる。

企業の買い手にも影響力がある。調達チームは、モデルが独立した評価を受けたか、どの導入形態がテストされたか、報告書がツールやエージェントを対象としているかを確認できる。

開発者も、モデルにソースコード、顧客記録、決済システム、本番インフラへのアクセスを与える前に、同様の質問をすべきだ。一般的な安全性に関する声明は、システム固有の脅威モデルの代わりにはならない。

ナレッジワーカーは、規模は小さいものの関連する判断に直面する。フィードバック、文書、修正内容がどこに保存されるのか、またそれらの資産がモデル間で移行可能なままかを理解すべきである。

Nadellaの最も持続的な論点は、超知能ではなく所有権に関するものかもしれない。学習ループを手放す組織は、安全性、品質、代替案を独自に評価することが難しくなるだろう。

Satya NadellaのAI安全性に関する立場は、いまや明確な試金石に直面している。Microsoftは、人間による制御の原則を、外部の人々が検証でき、企業が利用できる評価へと変換しなければならない。

最終的な規範は、モデルが安全性目標を達成できなかった場合の結果を明記するのか。Microsoftが次のMAIシステムを出荷する前に、独立したレビュアーはアクセスを得られるのか。こうした行動によって、慎重な開発とより広範な制御が両立できるかどうかが明らかになる。