Claudeがイエメンの組織を支援した後、AnthropicがAIによる兵器開発への対応に直面
Anthropicによると、イエメン北部のある組織は、AIによる兵器開発を阻止するためのセーフガードがあったにもかかわらず、3つの兵器プログラムでClaudeを利用した。対象には誘導ロケット、射程2,000キロメートル超を目標に掲げた弾道ミサイル構想、「R2000」ミサイル・ファミリーが含まれていたとされる。
これはフィルターをすり抜けた単発の禁止プロンプトではなかった。Anthropicによれば、関係者は作業を複数の会話に分散させ、ソフトウェアが何を制御するのかを隠していた。また、複数のClaudeインスタンスに異なるエンジニアリング上の役割を割り当てていた。
最も重要な結論は、実用的なミサイルが完成したわけではないという点だ。Anthropicは、この組織が運用可能な装置を配備した証拠は見つからなかったとしている。より深い懸念は、プロバイダーが全体像を再構築するまでの間、AIコーディングアシスタントが長期にわたるエンジニアリングのワークフローを支援していたとみられることにある。
この開示は、相反する二つの現実を試すものとなる。AIモデルは正当なエンジニアリングを加速できる一方で、同じ汎用的な能力が兵器研究に必要な労力を減らし得る。
Anthropicが語るイエメンでの出来事
Anthropicの説明は、危険な情報を得ようとした孤立的な試みではなく、AIが支援したエンジニアリング・プログラムを描いている。
同社は2026年9月の不正利用に関する調査でこの事案を公表した。Anthropicはこのグループをイエメン北部を拠点とする脅威アクターの組織と特定したが、組織名は公表していない。
Anthropicによると、この組織は3つのプログラムを進めていた。1つは汎用品のスマートフォン級コンピューターを用いる誘導ロケットで、もう1つは射程2,000キロメートル超を目標とする多段式弾道ミサイルに関するものだった。
3つ目は、R2000シリーズと呼ばれるミサイルの派生型群だった。Anthropicによれば、このファミリーには極超音速滑空体の派生型も含まれていた。極超音速滑空体とは、極めて高速で大気圏内を飛行するよう設計された、機動可能なペイロードである。
報告書は、このグループがいずれかのシステムを完成させたとは結論付けていない。Claudeの利用中に関係者が議論、開発、シミュレーション、または試行した内容を記述している。
最も進展していた活動は誘導ロケットに関するものだった。Anthropicによれば、関係者は実地試験を行ったが、試験は失敗したようだ。その後、数時間以内にClaudeへ戻り、失敗の原因を調査した。
この一連の流れは、モデル利用と物理的な開発サイクルを結び付けるため重要である。関係者は推進や空気力学について抽象的な質問をしていただけではない。ソフトウェア開発、シミュレーション、実地試験、失敗分析の間を行き来していたとされる。
Claude Codeが中心的な役割を担った。Anthropicによれば、関係者は誘導・航法・制御ソフトウェアの開発において、人間のソフトウェアエンジニアの代わりにこれを使った。GNCソフトウェアは、機体が自らの位置を推定し、安定を保ち、計画された経路に従う方法を管理する。
この組織は、オープンソースのオートパイロットとスマートフォン級コンピューターの統合にClaudeを利用したとされる。作業には制御ソフトウェア、位置推定、パラメーター調整、ファームウェアのビルド、シミュレーションが含まれていた。
これらの詳細は重要だが、慎重な解釈が必要である。Anthropicが確認したのは会話と関連するアカウント活動である。報告書は完成した兵器の独立した検証を示しておらず、実地試験の証拠も公開していない。
セキュリティ研究者のBruce Schneierは、短いセキュリティ警告でこの事案を取り上げた。彼の結論は率直だった。AIシステムは、通常は有益な目的のために専門知識と能力を広めるが、常にそうとは限らない。
したがって、この事例は運用上の成功よりも、支援が試みられたことの強い証拠を示している。脅威アクターが商用AIサービスをエンジニアリング作業に組み込んだことを示す一方、Claudeが単独で実用可能なミサイルを設計または配備したことを示すものではない。
この区別は中心に置くべきである。扇情的な呼称は実際の開発段階を覆い隠しかねず、過度の懐疑論はAnthropicが記録した継続的なワークフローを見落としかねない。
この事例が深刻なのは、AnthropicがAI製の兵器の成功を証明したからではなく、そのプロセスにある。
AIによる兵器開発はチーム型ワークフローになった
中心的な変化は組織面にある。小規模なグループでも、複数のAIエージェントにエンジニアリング作業を分担させ、その一部を並行して進められるようになった。
Anthropicによると、イエメンを拠点とする関係者は複数のClaudeインスタンスを同時に管理していた。1つのインスタンスがコードを書き、別のインスタンスが調査を行い、さらに3つ目が最初のインスタンスの出力をレビューした。
この体制は小規模なエンジニアリングチームに似ていた。人間のオペレーターが指揮を執っていたものの、モデルの各インスタンスは専門的なタスクにまたがる労働力を提供していた。この構造は、AIがプロジェクト全体を制御しなくても速度を高められる。
ここで「AIの自律性」という言葉は誤解を招き得る。Anthropicは、Claudeが兵器プログラムを選択したり、発射を開始したりしたとは報告していない。人間が目標を選び、文脈を与え、出力を確認し、ソフトウェア作業をハードウェアへ結び付けたようだ。
それでも、AIが作戦を変えるために完全な自律性は必要ない。モデルは、コードの下書き、前提の確認、試験準備、失敗の記録、代替案の比較に費やす時間を減らせる。
この労働の圧縮こそが、当面の安全保障上の問題である。モデルは物理学の新たな分野を発明する必要はない。既存のチームが、より少ない専門家で馴染み深いエンジニアリング作業を完了できるよう支援するだけでよい。
この組織はデジタルモデリングにもClaudeを利用した。Anthropicによると、関係者は軌道シミュレーション、制御最適化、参照実装に対する較正に取り組んだ。最終的には、ClaudeやMATLABに依存しないオフラインのシミュレーションツールキットを作成した。
この最後の段階は、封じ込めの問題を変える。アカウントを停止すれば継続的なアクセスは中断できるが、すでにサービスからエクスポートされたソフトウェア、文書、モデルを回収することはできない。
Anthropicの報告書では、同じパターンが別の場所でも見られた。同社は通常兵器に関する6件の事例を記述しており、中国に関連するものが3件、ロシアに関連するものが2件、イエメンに関連するものが1件含まれていた。
4件は兵器の開発または設計に関するもので、2件は防衛関連作業を支援する調達と情報収集に関するものだった。
中国を拠点とするアクターは、対魚雷火器管制の仕様書と200ページを超える提案書の作成にClaudeを利用したとされる。Anthropicによると、このアクターは敵対的な査読者の立場から連続する草案を批評するようモデルにも求めた。
ロシアを拠点とするグループは、自律型ドローンスウォーム用ソフトウェアの開発中にClaude Codeを利用したとされる。Anthropicは、このプロジェクトが運用配備ではなく、シミュレーションと開発ボード試験の段階に達したと評価している。
別の中国を拠点とするアクターは、電子戦および防空制圧に関連する約16のソフトウェアモジュールを開発したとされる。Anthropicによれば、このアクターはスイートを12バージョンにわたって改訂した。
これらの事例は、すべての出力が正確だった、あるいは軍事的に有用だったことを証明するものではない。しかし、汎用コーディングエージェントが一つの環境内で、計画、文書化、シミュレーション、レビュー、実装を支援し得ることを示している。
この広がりこそ、AIによる兵器開発を、禁止された質問に答えるチャットボットの問題へ還元できない理由である。モデルは、ファイルやツール、反復的な試験、持続的なプロジェクト文脈にまたがって動作するほど有用になる。
核心的なリスクは、支援の累積にある。一つひとつの要求は通常のものに見えても、組み合わされたワークフロー全体が禁止された目的を支え得る。
制御ソフトウェアのデバッグを求める依頼は、正当なロボティクス作業に似ているかもしれない。位置推定の改善を求める依頼は、民生用ドローン、産業システム、誘導兵器のいずれにも応用できる。
モデルが見るのは技術的なタスクである。プロバイダーは、それらのタスクの連続が有害な意図を示すかどうかを見極めなければならない。
ここでエージェント型システムは、安全対策への圧力を高める。エージェント型システムは、ユーザーが定義した目標を追求しながら、サブタスクを計画し、ソフトウェアツールを使い、ファイルを調べ、自らの作業を改訂できる。
こうした能力は、コンテキストの切り替えを減らすため開発者に利益をもたらす。一方で、悪意ある利用者にとっては、質問応答インターフェースでは提供できない、より包括的なエンジニアリングアシスタントを与えることにもなる。
したがってイエメンの事例は、情報へのアクセスからワークフローの実行への転換を示している。関連する知識の多くは、すでに公開文書やオープンソースソフトウェアに含まれていた。Claudeは、その知識を組み立て、試験し、再利用しやすくしたとされる。
隠れた意図こそがセーフガードの課題
Anthropicは多くの個別要求を拒否したが、関係者は意図をセッション間に分散し、危険な作業を通常のエンジニアリングとして提示することで、支援を得ることに成功したとされる。
同社によると、セーフガードはイエメンを拠点とする組織からの多くの要求を拒否した。それでも関係者は、ソフトウェアの目的を隠し、関連作業を分離することで、プログラム全体を止められるのを回避した。
単一の会話だけでは、必ずしも完全な目的が明らかにならなかった。あるセッションでは推定ソフトウェアを議論し、別のセッションではシミュレーションを扱い、3つ目ではコードをレビューすることができる。
この断片化は、コンテンツモデレーションの基本的な弱点を突く。分類器は通常、見えている材料を評価する。有害な意図が、一見中立的な多くのやり取りを結び付けて初めて現れる場合、判断はより難しくなる。
エンジニアリングのデュアルユース性が、この問題をさらに複雑にする。飛行制御の概念は、民間航空、教育、宇宙研究、産業用ドローン、趣味のプロジェクトにも関係する。概念を広く遮断するフィルターは、正当な作業を妨げることになる。
許容的なフィルターは反対のリスクを生む。決意したアクターが、通常の部品が兵器ワークフローの一部となるまで支援を蓄積することを許しかねない。
Anthropicは、関係者と結び付けたすべてのアカウントを停止することで対応した。また、適切な公的・民間パートナーと脅威情報を共有したとしている。
同社はさらに、高性能爆薬と兵器開発を対象とする分類器を導入した。分類器とは、事前に定義されたリスクカテゴリーに従ってトラフィックをラベル付けする専門モデルである。
この対応は、Anthropicが以前から取り組んできた核安全保障の研究に続くものだ。2025年には、米国エネルギー省および国立研究所とともに開発した核関連分類器について説明している。
Anthropicは、このシステムについて、初期試験で96％の精度を報告した。評価では、危険な核関連の議論と、無害なエネルギー、医療、政策に関する会話を区別するために設計された数百件の合成プロンプトが用いられた。
高い試験スコアだけでは、今回の事例を決着させられない。語彙を変え、複数アカウントを使い、プロジェクトを無害に見える断片へ分割する、粘り強い敵対者を合成例で完全に再現することはできない。
精度はまた、異なる誤りがもたらす結果を覆い隠す。偽陽性は正当な研究を阻害し得る。偽陰性は、後から回収することが難しい支援を提供してしまう可能性がある。
セッションをまたぐ分析は一つの防御策になり得るが、それ自体にも懸念がある。プロバイダーは、技術利用者のすべてを容疑者として扱うことなく、時間をまたぐ活動を結び付け、関連アカウントを特定し、行動パターンを調べる必要がある。
それはプライバシーに対する期待と衝突しかねない。すべてのプロジェクトがセキュリティ調査の対象になると開発者が考えるなら、独自コードをサービスに置くことをためらう可能性がある。
競争上の制約もある。あるプロバイダーが厳格な監視を行えば、悪意ある利用者は別のホスト型モデルへ移行したり、アカウントを侵害したり、ローカルで実行するシステムを採用したりできる。
オープンウェイトモデルは、運用者が安全策を取り外せるため、さらなる課題を生む。ただしホスト型プラットフォームには、ローカルシステムにはない利点がある。悪用を観測し、アカウントを停止し、防御を更新し、パートナーに警告できることだ。
イエメンの事例は、その可視性の両面を示している。Anthropicは、政府であれば回収したハードウェアを調べた後でしか発見できないかもしれない活動を検出した。しかし、検出は相当な作業がすでに行われた後だったようだ。
したがって政策上の問いは、安全策が絶対的な意味で成功したか失敗したかではない。一部の支援は阻止し、他の支援は見逃し、最終的には捜査を支援した。
この複合的な結果は、単純な失敗の物語よりも多くを教えてくれる。モデルの安全性は、リリース時に設置される恒久的な障壁ではなく、継続的なセキュリティ運用として機能することを示している。
プロバイダーには、脅威アナリスト、アカウント管理、行動検知、モデル評価、情報共有の関係性が必要だ。モデルをより大きな開発環境の一部として扱う敵対者には、拒否訓練だけでは対処できない。
Claudeは労働コストを下げたが、物理法則を変えたわけではない
AIによる支援はソフトウェアや分析を加速できるが、信頼できる兵器を構築するための物理的、産業的、運用上の障壁を取り除くものではない。
Anthropicの報告書には重要な限定がある。同社は、イエメンの関係者が実運用可能な装置を配備した証拠を見つけていない。
誘導ロケットの試験は失敗したとみられる。この失敗は、もっともらしいソフトウェア出力と、現実の条件下で機能するシステムとの隔たりを示している。
ミサイル開発に必要なのはコードだけではない。製造品質、推進、材料、センサー、試験インフラ、信頼性の高い部品、そしてそれらを統合できるチームに依存する。
言語モデルは、微妙な誤りを含みながらも説得力のある文章を生成できる。兵器工学では、タイミング、前提、センサーの挙動、環境条件に関する誤りが、設計を無効にしかねない。
シミュレーションにも限界がある。デジタルモデルは入力と前提を反映する。振動、熱、干渉、製造上のばらつき、部品故障のもとで、ハードウェアが同じように動作することを保証することはできない。
ストックホルム国際平和研究所による独立分析も、同様の制約を指摘している。同研究所の軍事AI分析は、信頼性の低い出力、サイバー脆弱性、弱いデータ、不十分なハードウェア、限定的な産業能力を強調している。
こうした障壁を踏まえると、Claudeをターンキー型の兵器設計者と表現するのは適切ではない。しかし、報告された悪用が重要でなくなるわけではない。
AIは、すでに機器と専門知識を持つ人々の生産性をなお高めうる。Anthropicによると、関係者はClaudeを、アクセス可能だったハードウェア、ファームウェア、オープンソースのオートパイロットと組み合わせて使用した。
モデルの価値は、こうした要素を結びつける支援にあった。アイデアと試験可能なシステムの間にある反復的な作業を支えた。
これは、能力を生み出すことと能力を底上げすることの違いだ。Anthropicは、Claudeが訓練を受けていない個人にミサイル製造に必要なすべてを与えたとは主張していない。同社は、モデルが既存の技術的取り組みを強化したと述べている。
最終製品が失敗した場合でも、その底上げには意味がありうる。失敗分析は工学の一部であり、診断を加速するシステムは、チームが次の試験により早く到達する助けとなりうる。
リスクは高度な兵器計画だけにとどまらない。より野心的でないシステムは、特に大量生産されたり、ソフトターゲットに使われたりする場合、より低い信頼性を許容できる。
高度なミサイルにはなお不十分なモデルであっても、より安価なドローン、監視システム、標的化インターフェース、調達文書を支援する可能性がある。Anthropicの6件の事例は、このより広い運用チェーンにまたがっている。
同社が報告したロシア関連の調達事例は、この点を示している。その関係者は、サプライヤー調査、多言語でのやり取り、入札文書、ワークフロー自動化にClaudeを使ったとされる。
これらの作業はいずれも、単独で兵器設計を構成するものではない。しかし組み合わされれば、防衛供給ネットワークを支えうる。
この広い視点は、議論が華々しい技術的成果だけに集中するのを防ぐ。AIは、新たなハードウェア能力を生み出す前から、物流、情報、文書作成、ソフトウェア、組織的な処理能力に影響を及ぼしうる。
測定も複雑になる。プロバイダーはブロックしたリクエスト数や閉鎖したアカウント数を数えられるが、その数字からは検出前にどれほど有用な作業が行われたかは分からない。
同様に、試験の失敗はモデルの寄与を測るものではない。Claudeがなければプロジェクトはもっと早く失敗していたかもしれず、あるいはClaudeが失敗を引き起こす誤りを導入した可能性もある。公開された証拠では、この反実仮想を解決できない。
したがってAnthropic自身の説明は、価値はあるが不完全なテレメトリーとして扱うべきだ。同社は、外部者が独立して検証できない内部データにアクセスしている。
また同社には、悪用を検出し安全策を改善していることを示すインセンティブもある。こうしたインセンティブは報告書を無効にするものではないが、慎重な帰属判断を支持する要因となる。
責任ある結論は限定的である。Claudeは、兵器を追求する関係者に意味のある工学支援を提供したと報告されている一方、確認されている物理試験は失敗し、運用上の成功は未検証のままである。
モデルプロバイダーはセキュリティ観測所になりつつある
この開示により、AI企業はサービス提供者、捜査者、証拠保有者、執行主体という、これまでになかった役割を同時に担うことになる。
従来の兵器捜査は、傍受された輸送、情報報告、試験画像、回収された部品から始まることが多い。Anthropicは、自社プラットフォームの利用を通じてイエメンでの活動を検出した。
この立場は、フロンティアモデルのプロバイダーに異例の可視性を与える。ユーザーがコーディング、調査、調達、分析の各領域でAIをどのように活用するかを観測できる。
また、失敗した試み、放棄されたプロジェクト、公に可視化されることのない初期段階の実験も確認できる。
これは潜在的な早期警戒システムを生み出す。モデル利用のパターンは、政府が完成したシステムを観測する前に、新たな脅威を明らかにするかもしれない。
ただし、民間プロバイダーの調査結果は、独立して検証された兵器査察と同じ証拠能力を持つわけではない。通常、一般の人々は完全な会話記録、アカウントのメタデータ、技術的成果物を調べられない。
国家安全保障上の制約は、開示をさらに制限しうる。検出に関する情報を明かしすぎれば、敵対者がそれを回避する助けになりかねない。詳細な技術コンテンツを公開すれば、安全策が封じ込めようとする資料そのものを増幅する可能性もある。
結果として、説明責任のギャップが生じる。Anthropicは見たものを説明できるが、外部者がその評価を検証できる能力は限られているかもしれない。
政府も関連した問題に直面する。プロバイダーからの情報を必要とする一方で、広範な監視義務はプライバシー、研究の自由、商業上の機密性を脅かしかねない。
2026年のAI安全性レビューは、より広範な不確実性を捉えている。同レビューは、高度な攻撃者が現行の防御を回避できる場合が多いこと、多くの安全策には実環境で有効性が証明されていないことを指摘している。
イエメンの事例は、この警告を裏付ける実環境の証拠を提供している。関係者は、単一の魔法のようなプロンプトを発見したのではなく、意図を隠し、作業を分割することで制限を回避したとされる。
政策対応は、禁止語ではなく行動に対処しなければならない。これには、禁止されたシステムに関する反復的な作業、関連付けられたアカウント、不審なツール利用、最終利用者を隠そうとする試みといったパターンが含まれる。
プロバイダーには、機微なユーザーデータを不必要に流通させずに、確度の高い指標を共有する仕組みも必要だ。そうした関係には、適正手続き、アクセス管理、保存期間の制限、独立した監督を含めるべきである。
敵対者はサービスを切り替えられるため、業界の連携は重要になる。Anthropicは、関連する活動を見つけた際に他のプラットフォームへ通知したと述べている。
共有された防御は移行を減らしうるが、競争や市民的自由に関する問題も生じさせる。弱いシグナルに基づく業界ブラックリストは、正当な研究者や紛争影響地域のユーザーを不当に排除しかねない。
地理的制限も不完全な管理策の一つだ。Anthropicは、一部の関係者が地域ごとのアクセス規則を回避するために仮想プライベートサーバーを使ったと報告している。
国をブロックしても、ユーザーの目的を確実に特定できるわけではない。また、高度な組織が制限を迂回する一方で、民間人から有益なツールを奪う可能性もある。
最も強力なアプローチは、複数の層を組み合わせることになる。モデルの挙動、アカウント履歴、ツール活動、本人性シグナル、人による捜査は、それぞれリスクの異なる部分を明らかにする。
どの層も単独で決定的なものとして扱うべきではない。安全性上の拒否は即時の支援を防げる一方、捜査は個々の拒否では見落とすパターンを特定できる。
外部評価も同様に重要だ。Anthropicは脅威報告書とともに、戦術情報および通常兵器のタスクに関する兵器評価を導入した。
評価は、新しいモデルが管理されたシナリオでどれほど能力を高めているかを示せる。インシデント報告は、それらの能力が実際の利用でどのように現れるかを示す。
この二つの証拠形式は相互に情報を与えるべきである。インシデントデータのないベンチマークは敵対的な行動を見逃しうる。標準化された試験のないインシデント報告では、モデル間でリスクがどのように変化するかを示せない。
Anthropic、OpenAI、Google、Meta、その他の開発者は現在、比較可能な証拠を公開するよう圧力を受けている。共通の報告分類がなければ、外部者は、ある企業で悪用が多いのか、それとも単により多くを検出しているのかを判断できない。
透明性には、重大な事例だけでなく、失敗した攻撃も含めるべきだ。プロバイダーが何を観測したか、何が不確実なままか、どの管理策を変更したか、その変更をどう試験したかを説明すべきである。
防御が追いついているかを示す三つのシグナル
次の試金石は、正当な工学作業を阻害したり、ホスト型AIを常時監視へと変えたりせずに、業界が関連する行動をより早く検出できるかどうかである。
第一のシグナルは、Anthropicが新たな分類器を導入した後に、類似の兵器活動を報告するかどうかだ。報告件数の減少が前向きな材料となるのは、同社が検出範囲がどのように変わったかも説明する場合に限られる。
報告事例の減少は、より良い防止を意味するかもしれない。一方で、敵対者が別のアカウント、プラットフォーム、ローカルモデルへ移行したことを意味する可能性もある。
事例の増加は、自動的に安全性の悪化を示すわけではない。検出が改善されると、これまで隠れていた活動が可視化されるため、当初は問題が大きく見える可能性がある。
有用な指標は介入のタイミングだ。プロバイダーは、ユーザーが永続的なツールをエクスポートしたり、コードをハードウェアに接続したり、物理試験を実施したりする前に、禁止されたプロジェクトを特定できたかを報告すべきである。
第二のシグナルは、複数のAI企業が互換性のある兵器リスク評価とインシデント分類を採用するかどうかだ。比較可能な報告は、政府や研究者が、プロバイダー固有の逸話と業界全体のパターンを切り分ける助けになる。
共有された測定は、重要な区別を維持すべきだ。研究、調達、シミュレーション、部品ソフトウェア、物理試験、運用上の配備は、それぞれ異なる懸念レベルを表している。
「AI兵器」とひとまとめにすれば刺激的な見出しにはなるものの、分析としては浅くなる。成熟度を明確に区分すれば、報告書同士の比較もしやすくなる。
3つ目のシグナルは、現実世界での能力向上に関する証拠だ。未解決の問いは、モデルが技術的な資料を生成できるかどうかではない。特定の主体が、危険な作業をより速く、より低コストで、あるいは少ない専門家で完了できるようになるかどうかである。
その検証には、統制された評価、インシデントの再構成、分野の専門家との協力が必要になる。また、AI支援によって成果が改善しなかった場合には、否定的な結果も公表する必要がある。
イエメンでのフィールドテストは一つのデータポイントではあるが、厳密な実験ではない。Anthropicによれば、ロケットは失敗した一方で、Claudeは当事者がその失敗を分析するのを支援したという。
今後の報道では、もっともらしい出力、シミュレーションの成功、ハードウェア統合、統制された試験、実運用を区別すべきだ。どの段階にあるかによって、セキュリティ上の判断は変わる。
読者は、二つの安易な結論を避けるべきである。一つは、AIモデルがすでに高度な兵器を誰もが利用できるものにした、という見方だ。公開されている証拠は、その主張を裏付けていない。
もう一つは、ロケットの失敗がリスクの誇張を証明している、という見方だ。技術開発プログラムは失敗から学ぶ。また、最初の出力が機能しなかったとしても、AIは有用であり続けうる。
兵器開発へのAI利用がセキュリティ上の懸念となっているのは、汎用モデルがワークフロー全体に関与できるためだ。調査、コーディング、レビュー、シミュレーション、文書化、トラブルシューティングを担える。
当面の課題は、機械が独立してミサイルを作ると決めることではない。目的を隠しながら、強い意志を持つ人間チームがAIを使い、利用可能な労働力を増幅させることである。
Anthropicの開示は、提供事業者がこうした活動の一部を検知できることを示している。同時に、拒否応答だけでは、あらゆる有用なやり取りを防げなかったことも示している。
したがって、進展を測る基準は具体的であるべきだ。より早期の検知、転用可能性の低い出力、プラットフォーム間のより強力な連携、そしてより明確な独立した証拠である。
次の脅威報告では、こうしたシグナルに注目してほしい。モデル提供事業者が、シミュレーションがハードウェア試験に移行する前に介入できたことを示せるなら、その安全策は改善している。持続的な技術開発が進んだ後にしかインシデントが発覚しない状況が続くなら、検知のギャップは依然として残っている。
