OpenAIのNYC議会公聴会、AIラボに宣誓証言を求める

OpenAIは、議員らが召喚状をちらつかせた後に大半が出席へ同意したことを受け、3社の主要な競合企業とともに、宣誓の上でNYC議会の公聴会に出席する。10月5日の会合では、Anthropic、Google、Meta、OpenAIが議会の全51議員の前で証言する。高度なAIが人間の制御を逃れる可能性があると公に警告してきた元Anthropic研究者、Jacob Coxonも証言する見込みだ。

OpenAIを巡るNYC議会の公聴会は、単なる政策ラウンドテーブルではない。議員らは、モデルの外部検証、内部告発者への報奨、予見可能な被害に対する責任の創設、迅速なインシデント報告の義務化を求める提案を検討している。こうした措置は、広範な安全性の約束を、企業、検証者、導入者が文書化する必要のある義務へと変える可能性がある。

中心的な対立は、説明責任と自主的ガバナンスの間にある。AI企業は安全性フレームワークを公表し、社内テストの責務を受け入れてきた。ニューヨーク市の議員らは現在、独立した証拠、法的救済、公式記録に残る証言を求めている。この公聴会は、主要ラボが自社の評価者ではなく選挙で選ばれた公職者から質問を受けた際に、リスク管理を擁護できるかを試す場となる。

OpenAIを巡るNYC議会公聴会の対象はより広い

この公聴会は、AI安全性を企業の方針文書から、宣誓を伴う公開証言へと移す。

ニューヨーク市議会は、10月5日午前11時に市庁舎で全体委員会の公聴会を予定している。全体委員会では、案件を常設委員会1つに委ねるのではなく、議会全体が集まる。

議会はこの会合を、人工知能がもたらすリスクの検証と説明している。公聴会の議題には、監督案件1件と立法提案9件が掲載されている。提案はモデル検証、内部告発者、チャットボットのプライバシー、インシデント報告、責任、緊急時の計画、広告上の主張を扱う。

Metaは、議会が強制手続きを示唆する前に上級代表者を派遣すると約束した。OpenAIとGoogleは、召喚状の警告を受けて参加に同意した。Anthropicは当初辞退したものの、警告された期限の直前に出席を確認した。

議会によれば、これはAIの危険性と立法上の対応可能性について、4社が宣誓の上で行う初の公開証言となる。この説明は重要だ。これは議会による説明であり、公聴会は各社が何を認め、何に異議を唱え、何を公式記録に残すかをまだ明らかにしていない。

招かれた企業が最高経営責任者を派遣するとは見込まれていない。Bloombergは、政策および安全性担当者がラボを代表すると報じた。彼らの身元、権限、技術的な質問に答える意思が、公聴会の価値を左右する。

SpaceXAIも、議会の当初の招待に応じなかったことで論争の一部となった。Julie Menin議長は議会の調査権限に基づき召喚状を発行した。議会は、同社が従わない場合、ニューヨーク州最高裁判所に執行を求める可能性があるとした。

その後の地元報道では、SpaceXAIも参加する見込みだとされた。この追加の可能性は参加企業の顔ぶれを広げるが、主要な対立を変えるものではない。議員らは、フロンティアAI開発者が、自ら管理したデモンストレーションの外でも保護策が機能することを示せるのかを知りたがっている。

Coxonは異なる種類の証言をもたらす。退職に関する報道によれば、彼は以前OpenAIとAnthropicで事前学習研究に携わっていた。事前学習とは、モデルが後の調整の前に、大規模なデータセットからパターンを学ぶプロセスである。

彼は9月にAnthropicを退職し、主要ラボが容認できないリスクを取っていると非難した。彼の証言に関する報道によれば、Coxonは高度なシステムを構築する人々が、AIが10年以内に人類を滅ぼす可能性があると信じていたと述べた。

これは確立された予測ではなく、並外れた主張である。Reutersも、Coxonの出席予定に関するBloombergの報道を独自に確認できなかったと伝えた。議会は、より広範な公聴会を開催した理由を説明する際に、彼の辞任を別途引用している。

報道によれば、Coxonは元Google DeepMind研究者のAlex Turner、AI Futures Projectを率いる元OpenAI研究者のDaniel Kokotajloとともに出席する。彼らの存在により、この会合は企業側の証人だけで構成される公聴会より対立的になる可能性がある。

企業の代表者は、評価、導入管理、インシデント手順について説明する可能性が高い。元内部関係者は、こうした保護策がラボが競って構築しているシステムに対応しているのかを問うことができる。その後、議員らは同じ公開ルールの下で両者の説明を比較できる。

この比較こそが当面の変化である。AI安全性を巡る議論では、企業の保証と批判者の警告がしばしば分かれている。ニューヨーク市は、不完全な検証や回避可能な被害に結果を伴わせる法律を検討しながら、両者を同じ議場に置こうとしている。

ニューヨークは導入前の証拠を求める

最も重要な提案は、対象となるAIモデルを市内で提供または導入する条件として、独立した検証を義務づけるものだ。

議題ではT2026-2602として記載されている議会の提案は、第三者による検証なしにニューヨーク市でAIモデルを販売促進、販売、または導入することを禁じる。また、人間のオペレーターがモデルを停止できる技術的機能も求める。

第三者検証とは、開発者自身の評価だけに依存せず、外部の評価者がシステムを調査することを意味する。この提案は、タスク性能、差別的影響、プライバシー、安全性を関連領域として挙げている。また、検証者に対し、人間による停止機能が機能するかを調べるよう求める。

検証者はモデルに関連する利害を開示する必要がある。また、そのシステムが検証済みか、導入の準備が整っているかも報告する。ニューヨーク市Cyber Commandが実施規則と検証者の資格を定める。

罰則は、評価関係の双方にリスクをもたらす。議題によれば、民事罰は2万5,000ドルに達する可能性があり、必要な検証なしにモデルを提供または導入した場合は、1件ごとに定額2万5,000ドルの罰金が科される可能性がある。虚偽の検証にも同額が科されうる。

提案されているAI規則は、検証を超える範囲に及ぶ。ある措置では、対象AIに関する違反について、消費者・労働者保護局に苦情を申し立てられるようになる。同局は、苦情が軽率、虚偽、または重複している場合を除き、原則として調査する。

市が申し立てられた事実を用いて訴訟を進めた場合、申立人は回収額の25％を受け取ることができる。この割合は、当局が申立人を違反通知の送達または民事訴訟の開始担当者に指定した場合、50％に上昇する可能性がある。

このインセンティブの仕組みは、情報の問題を解決しようとするものだ。外部者が、社内評価がどのように設計されたか、どの警告が上申されたか、なぜ導入が進められたかを知ることはめったにない。従業員や請負業者はよりよい情報にアクセスできる場合が多いが、不正行為の報告はキャリアを危険にさらしかねない。

別の法案は、市職員と対象請負業者の内部告発者保護を明確化する。従業員が、AIの開発または使用が重大かつ具体的な公衆安全リスクをもたらすと合理的に信じる場合の報告を保護する。

このパッケージは、市の契約に結びつくインシデントも対象とする。請負業者と市の機関は、報告対象のAI安全性インシデントを発見してから24時間以内にCyber Commandへ通知する必要がある。Cyber Commandはその後、さらに24時間以内に報告された事象を公開する。

この要件は、すべてのモデル障害に対する一般的な報告義務より狭い。対象となる市の契約に焦点を当てている。それでも、研究者、ジャーナリスト、ベンダー、住民が時間をかけて比較できる可視的な記録を生み出すことになる。

私的訴権は、別の執行上の欠落に対応する。T2026-2600の下では、市販されているモデルが、悪意ある、または不適切な第三者利用を通じて被害を引き起こした企業を、個人が提訴できるようになる。この請求には、予見可能な被害と、その不正利用に関連する不十分な保護策が必要となる。

予見可能性は争点となるだろう。開発者は、あらゆる悪意あるプロンプトや導入後の改変を防ぐことはできない。しかし、別の人物が最終的な指示を与えたというだけで、企業が予測可能な悪用を予見不能として扱うこともできない。

この提案は、その判断を企業の政策チームだけに委ねず、法廷に持ち込む。それにより、評価結果、悪用の予測、社内警告、導入判断を保存する圧力が生まれる。

他の措置は、チャットボットのデータ慣行と安全性に関する広告を規制する。チャットボット提供者は、プライバシー、セキュリティ、透明性、ユーザーアクセスに関する要件に直面する。提供者は、チャットボットが有資格専門家と同等の助言を提供するかのように示唆することはできない。

AIモデルの広告では、第三者がそのモデルを検証したかどうかを開示する必要がある。重大な虚偽または誤解を招く安全性の主張には、最大2万5,000ドルの罰金が科される可能性がある。

これらの規定は、安全性に関する表現を製品表示により近いものへと変える。開発者がモデルを安全だと広告する場合、市はその主張が特定可能な評価プロセスと結び付いていることを求めている。

パッケージ全体は、なお法案段階にある。10月5日の公聴会は最終採決ではなく、法案は大幅に変更される可能性がある。議会の行動に続いて、実施上の問題、法的異議申し立て、行政機関の規則、または市長の判断が生じることもある。

この不確実性によって、進行している方向性を見失うべきではない。ニューヨーク市は、狭い範囲のアルゴリズム監督から、汎用AIモデルとそれを供給する企業に対する、より広範な監視へと移行しつつある。

自主的なAI安全性と強制力を伴う証明の衝突

核心的な争点は企業がモデルをテストするかどうかではなく、誰が十分なテストを定義し、誰がその結果を検証できるのかだ。

OpenAI、Anthropic、Google、Metaはいずれもモデル評価を実施している。各社は、システムカード、安全性レポート、責任あるスケーリング方針、研究論文、導入制限を異なる組み合わせで公表している。

これらの文書は有用な証拠を提供する。しかし同時に、テスト設計、開示の基準、タイミング、懸念すべき結果への対応について、企業に広範な管理権を残している。

ニューヨークの提案は、この権限の一部を独立した検証者と市当局へ移すことになる。この変化こそ、公聴会がニューヨークを超えて重要である理由を説明する。主に自主的な約束と選択的な透明性を軸に構築されたガバナンスモデルに挑戦するものだ。

企業主導のテストは迅速に進められ、外部評価者にはない社内アクセスを利用できる。モデル開発者は、多くの規制当局よりも自らのシステム、インフラ、導入計画をよく理解している。また、公開リリースによって結果を擁護する圧力が生じる前の開発段階で、テストを実行することもできる。

外部レビューには異なる利点がある。企業内で当たり前になった前提に疑問を投げかけられる。ベンダー間で証拠を比較し、安全性の主張が一貫した基準を用いているかを問うことができる。

いずれのアプローチも、信頼できる監督を保証するものではない。独立した検証機関であっても、モデルへのアクセス、技術的な能力、あるいは十分な時間を欠く可能性がある。不適切に設計されたコンプライアンステストは、実質的なリスク低減ではなく書類作業を評価するおそれがある。

提案に含まれる利益相反要件は、明白な弱点の一つを認識している。開発者から報酬を受け取る検証機関は、顧客のシステムを承認するよう圧力を受けかねない。開示は有用だが、それだけで財務上の依存関係が解消されるわけではない。

「キルスイッチ」要件は、別の難しい問題を提起する。人間が停止できる機能は一見わかりやすく聞こえるが、AI製品はクラウドサービス、アプリケーション、エージェント、顧客のインフラにまたがって展開されている。

中央の提供事業者は、ホストするモデルへのアクセスを停止できる。しかし、複製済みのすべての出力、エクスポートされた成果物、ローカル統合、あるいはユーザーによって既に引き起こされた下流の行為まで止められるとは限らない。

法案には、停止対象となるシステムの正確な定義が必要になる。また、サービスの無効化と、封じ込められたインシデントを区別しなければならない。そうでなければ、開発者は害が発生する経路に対処せずに、形式上の統制だけを満たせてしまう。

タスクの性能も同様に、文脈に依存する。ベンチマークで高い性能を示すモデルでも、病院、採用ワークフロー、法務サービス、自律型ソフトウェアエージェントの内部では失敗するかもしれない。検証は、モデルの一般的な能力と、想定される導入先を結び付ける必要がある。

ニューヨークはすでに、自動化された採用に対する監督を通じてこの問題に直面している。Local Law 144は、対象となる自動雇用決定ツールを、直近のバイアス監査と必要な通知なしに使用することを雇用主および職業紹介機関に制限している。

同市は2023年7月にこの制度の執行を開始した。そのhiring audit rulesは重要な先例を築いたが、現在の提案はより広範だ。

Local Law 144は、明確に定義された雇用上の用途に焦点を当てている。一方、市議会の要約によれば、T2026-2602は市内で販売促進、販売、または導入されるAIモデルに適用される。この文言は、適用範囲、管轄権、技術的実現可能性についてはるかに大きな問題を提起する。

狭く定義されたツールには、識別可能な利用者、判断、出力がある。汎用モデルは、コーディング、文書分析、カスタマーサービス、調査、創作活動、自律的な行為を支援し得る。リスクは統合のたびに変化する。

したがって公聴会では、証人に具体的な証拠を求めるべきだ。検証機関はどのようなモデルアクセスを得るのか。導入前にどの評価を実施しなければならないのか。モデルの更新後、検証はどの頻度で更新すべきなのか。

市議会議員は、開発者がモデルを提供し、別の企業がアプリケーションを構築する場合に、誰が責任を負うのかも問うべきだ。広範な規則は、モデル提供者、販売代理店、導入者、あるいはそのすべてを対象にし得る。

ここで、説明責任とイノベーションは本格的なトレードオフとなる。弱い基準では、信頼できない主張が通ってしまう。曖昧または過度に広い基準は、安全性を高めることなく有用な導入を阻害しかねない。

主要な研究所には、技術的知見に基づき、全国で一貫した規則を求める動機がある。市の立法者には、連邦基準が不十分に見える場合に行動する動機がある。この公聴会は、競合する優先事項を同じ公的記録に載せる。

内部告発者の警告には見出し以上のものが必要だ

Coxonの警告は政治的な緊張を高めるが、立法者には依然として、具体的なシステム、判断、失敗に関する検証可能な証拠が必要だ。

存亡に関わるリスクの主張は、想定される害が甚大であるため注目を集める。同時に、プライバシー、差別、詐欺、サイバーセキュリティ、安全でない自動化に関する、より差し迫った問題を覆い隠すこともある。

市議会の一連の提案は、両方の水準に対処しようとしている。緊急時の計画とモデル停止要件は重大な失敗に対応する。チャットボットのプライバシー、広告開示、契約規則、民間の救済措置は、住民がより早く遭遇し得る被害に対応する。

Coxonの証言が最も有用になるのは、確率に関する主張から運用上の詳細へ進む場合だ。立法者は、彼がどの能力を懸念しているのか、どの証拠が判断を変えたのか、現在の研究所にどのような安全策が欠けていると考えるのかを理解する必要がある。

また、個人的なリスク推定と、企業が文書化した知見を区別すべきだ。元従業員の警告は、深刻な意見の相違を明らかにし得る。しかし、それだけで破局的な結果が起こることを独立して立証するわけではない。

同じ基準は企業の証言にも当てはまる。安全文化に関する発言は、モデルが有意義な敵対的テストを通過したことを証明しない。責任あるスケーリングの枠組みも、事業上の圧力が高まった際に従業員がリリースを止められることを示すものではない。

市議会は各社に対し、重大な社内警告が組織内でどのように伝達されるのかを問うべきだ。誰が導入を遅らせられるのか。どの幹部がその決定を覆せるのか。意見の相違が生じた後、どの文書が残るのか。

内部告発者保護が重要なのは、正式な報告経路が機能しない可能性があるためだ。従業員は、報復、将来の仕事の喪失、または機密情報をめぐる法的紛争を恐れるかもしれない。しかし、奨励金制度は、根拠の弱い、重複した、あるいは戦略的な苦情を招く可能性もある。

提案された苦情処理制度は、軽薄、虚偽、反復的な通報をふるいにかけようとしている。その成否は、当局の専門性と調査能力に左右される。当局者は、不人気な技術的判断と法令違反を区別しなければならない。

金銭的報奨は慎重に設計する必要がある。回収された制裁金の一定割合は、規制当局が他の手段では得られない情報を内部者が報告する後押しになり得る。一方で、決定的な事実を最初に提供したのは誰かをめぐる争いを生むこともある。

市議会は、適格な情報、保護される開示、機密保持規則、セキュリティ上機微な証拠を扱う手続きを定義しなければならない。公開開示が、個人データ、モデルの重み、悪用可能な脆弱性を漏らす経路になってはならない。

企業にも、不正確な申し立てに異議を唱える権利がある。苦情が調査、制裁、訴訟、または公的な評判の毀損を引き起こし得る場合、適正手続は重要だ。

これは秘密主義を正当化するものではない。市には、信頼できる内部告発者と証拠の完全性の双方を守るプロセスが必要だという意味である。

懐疑的な問いは、自治体がフロンティアAI産業全体でそのプロセスを運営できるかどうかだ。ニューヨーク市には規制経験、技術機関、調達権限、大きな市場がある。しかし、同市は全国的な研究政策、チップ輸出、市外におけるすべての導入を統制しているわけではない。

広範なモデル規制は、管轄権をめぐる紛争にも直面し得る。クラウドモデルは別の場所で訓練され、別の州でホストされ、仲介者を通じてアクセスされ、ニューヨークの住民に利用される可能性がある。それぞれの接点が、地域的権限に関する異なる理論を生む。

こうした困難が、公聴会を象徴的なものにするわけではない。都市は技術を購入し、事業を規制し、消費者を保護し、地域活動の条件を定める。ニューヨークの規模により、その規則は市境を越えてベンダーの慣行に影響を及ぼし得る。

ただし、影響力と執行可能性は同じではない。市議会は、当局が未検証のモデルをどのように検出し、責任主体を特定し、モデル更新と新規導入をどのように区別するのかを示さなければならない。

企業は、セキュリティの詳細や営業秘密を露出させずに、どの証拠を提供できるのか説明すべきだ。立法者は、外部の検証機関が重要な主張を試験するのに十分なアクセスをどのように得るのか説明すべきだ。

双方が破局対イノベーションという水準にとどまれば、公聴会は記憶に残る短い発言を生むだけで、運用上の明確さはほとんど得られない。監査アクセス、インシデントの定義、権限、証拠について議論すれば、会期は法案を改善し得る。

この区別は、エンタープライズの購入者にとっても重要だ。調達チームは、モデルのセキュリティ、信頼性、コンプライアンスに関する主張にますます直面している。信頼できる検証枠組みは、情報格差を縮小し得る。

弱い枠組みは、購入者のリスク評価に役立たないまま、また一つの証明書を増やすことになる。アクセスの詳細、テスト範囲、独立性、再評価の仕組みが、ニューヨークがどちらの結果を得るかを決める。

圧力は4社のAI企業にとどまらない

提案された規則は、モデル開発者だけでなく、検証機関、請負業者、導入者、広告主、AIサービスを購入する組織にも影響を及ぼす。

OpenAI、Anthropic、Google、Metaが注目を集めるのは、著名なモデルを構築しているためだ。だが、議題で説明された法案は、より幅広い組織の連鎖に及ぶ。

ニューヨークでAIモデルを提供する企業には、検証の証明が必要になる可能性がある。モデルを導入する事業者は、別個の義務に直面する可能性がある。検証機関は、虚偽の認証について責任を問われる可能性がある。

市の請負業者には、インシデント検出手続きと迅速な報告が必要になる。各機関には、インシデントをCyber Commandへエスカレーションするプロセスが必要になる。さらに市は、提案された時間枠を満たすほど迅速に情報を公開する必要がある。

消費者向けチャットボットの提供者は、データアクセス、プライバシー、セキュリティ、透明性の慣行を見直す必要がある。マーケティングチームには、安全性に関する主張を裏付ける証拠が必要になる。法務チームには、予見可能な悪用を評価する必要がある。

AIリスクは一つの組織だけに存在することがほとんどないため、この責任分担は重要だ。モデル開発者は基盤となる能力を生み出す。アプリケーション企業はワークフローを定義する。顧客はデータを提供し、システムアクセスを付与する。

自律型エージェントは、さらに一層を加える。エージェントとは、モデルを用いて計画を立て、しばしば外部ツールを通じて行動するソフトウェアである。その挙動は、モデル、利用可能な権限、指示、周囲のアプリケーションに依存する。

モデルはチャットインターフェースでは制御されているように見えても、メール、データベース、決済システム、ソフトウェアリポジトリに接続されると危険になり得る。したがって検証は、ベースモデルだけでなく、導入環境も検証しなければならない。

市議会のインシデント報告提案は、市との契約について、この運用上の現実を認識している。報告対象の事象はモデル出力から始まっても、システム権限や不十分な監視を通じて有害になり得る。

AIを利用する組織は、最終的な法制化を待ってこれらの経路を調べるべきではない。どのモデルが機密データにアクセスするのか、どのツールが外部アクションを実行できるのか、誰が権限を取り消せるのかを特定できる。

文書化はその作業の中心にある。チームには、モデルのバージョン、評価結果、インシデントの判断、安全策の変更に関する記録が必要だ。それらの記録がなければ、説明責任は記憶をめぐる議論になってしまう。

ナレッジワーカーにも直接的な利害がある。AIアシスタントは、社内文書、会議メモ、コード、調査、顧客情報にますます触れるようになっている。利用者は、どのデータがシステムに入力され、取得や保持をどの統制が管理しているかを知る必要がある。

適切に維持されたAI knowledge baseは、チームが文脈を保持し、判断を追跡する助けになる。これは、モデル検証、アクセス制御、インシデント対応の代替にはならない。

開発者にとって、この公聴会は、安全性に関する主張が今後ますます根拠資料を必要とすることを示している。アプリケーションにガードレールがあるという声明だけでは、懐疑的な規制当局を納得させられない。チームには、テストケース、評価ログ、アクセス記録、対応手続きが必要になる可能性がある。

エンタープライズの購入者は、企業が独立テストに関する共通のベースラインを受け入れるかどうかを注視すべきだ。共有されたベースラインは、調達を簡素化し得る。異なる基準は、購入者に互換性のない報告書の比較を強いる可能性がある。

各社は異なる戦略的圧力にも直面している。OpenAIとAnthropicは、フロンティアモデルの開発と安全性研究を重視している。Googleは、検索、クラウド、生産性向上、消費者向けサービス全体にAIを統合している。

Metaは、大規模なソーシャルプラットフォームと広告システムを運営しながらモデルを開発している。こうした事業上の違いは、導入規模、アクセスモデル、各社が提示できる証拠に影響する。

公聴会では、こうした違いを業界全体に共通する一つの回答へと単純化すべきではない。事業モデルをまたいで適用すべき義務と、状況に応じたルールを必要とする義務を明確にすべきだ。

ニューヨーク州の先行する採用関連法は、先例であると同時に警告でもある。地域レベルの監査義務は、外部レビューの市場を生み出し得る。一方で、定義や適用範囲、監査が当事者にとって重要な被害を測定しているかを巡る議論も招き得る。

新たな提案は、より大きな規模でこれらの問題に直面する。汎用モデルは頻繁に変化し、開発者が完全には予測できない用途にも利用される。軽微な変更のたびに法的対応が困難にならないようにしつつ、更新後も検証の実効性を維持しなければならない。

市議会は、このパッケージをイノベーション推進と安全性向上の双方を目指すものとして位置付けている。その均衡はスローガンではなく、定義と実装によって決まる。

明確な適用範囲は、すでに統制措置を文書化している開発者に報いる可能性がある。曖昧な適用範囲は、コンプライアンス費用を吸収できる大企業を有利にし、小規模な提供者を撤退に追い込むおそれがある。

この可能性は、公聴会で検討に値する。説明責任が、最大手企業だけが負担できる障壁になってはならない。また、市場集中への懸念を、脆弱なテストの言い訳にしてもならない。

公聴会の意義を示す3つのシグナル

公聴会の重要性は、そこで生み出される証拠、法案への修正、そしてニューヨークが実際に執行できる基準によって測られる。

第1のシグナルは証言そのものだ。企業代表者が、具体的な評価手法、エスカレーション手順、導入判断の基準を示して回答するか注目したい。

責任あるAIに関する一般論から得られるものは少ない。独立したアクセス、レッドチームの調査結果、インシデント対応、リリース権限について具体的に説明されれば、外部の人々が評価できる記録が残る。

Coxon氏や他の元研究者にも同じ基準が求められる。立法者が調査できるメカニズム、ガバナンスの失敗、あるいは意思決定を特定できれば、彼らの証言はより強固になる。破滅的な予測だけでは、市がどのように規制すべきかは分からない。

第2のシグナルは、立法改正のプロセスだ。企業証言計画では、市議会が提案された解決策について業界からの意見を求めているとされる。実質的な修正が行われれば、公聴会が立法者の理解を変えたことを示すだろう。

AIモデルの定義、第三者検証の対象範囲、そして導入の意味に注目したい。これらの用語によって、ルールの対象が限定的なシステム群にとどまるのか、ほぼすべてのAI対応サービスに及ぶのかが決まる。

提案されている停止機能にも注目したい。実務的な規定であれば、誰がそれを管理するのか、何を無効化するのか、どのようにテストするのか、どの導入に必要なのかを明示すべきだ。

内部告発者へのインセンティブには、詳細な適格性と機密保持のルールが必要になる。私的訴権には、予見可能性と合理的な安全対策について、擁護可能な判断基準が求められる。

第3のシグナルは実施への道筋だ。提案の下では、Cyber Commandと消費者・労働者保護局が大きな責任を担うことになる。

人員配置、技術的アクセス、規則制定権限、執行手続きは、法文と同じくらい重要になる。調査能力のない義務付けは、市を企業の開示に依存させることになる。

市議会の議題には、新提案が依然として事前審議項目として掲載されている。予定された公聴会前には、議事録と立法上の措置は確認できなかった。したがって読者は、このパッケージを成立法ではなく出発点として捉えるべきだ。

OpenAIに関するニューヨーク市議会の公聴会が成功するのは、安全性に関する約束と検証可能な統制の隔たりを縮められた場合に限られる。そのためには、どのような証拠があるのか、誰がそれを検査できるのか、警告が無視された場合に何が起きるのかを問う必要がある。

開発者、エンタープライズの購入者、AIユーザーは、こうした問いを念頭に証言を追うべきだ。証人は検証可能な安全対策を開示するのか。立法者は広範な文言を実務的な義務へと修正するのか。行政機関には、それを執行する権限と専門性が与えられるのか。

その答えは、ニューヨークが信頼できる説明責任モデルを構築しているのか、それともコンプライアンス書類をもう一層増やすだけなのかを示すだろう。公聴会の記録を注視し、その後、すべての公的な保証を宣誓の下で提示された証拠と比較してほしい。