ChatGPTはSora動画の検出に失敗: 92%の失敗率
- Aisha Washington
- 6月6日
- 読了時間: 9分
更新日：6月17日
AI開発の約束は常に双方向のものでした。生成ツールが向上するにつれて、検出ツールもそれに追いつくとされていました。しかし、それは実現していません。最近のテストでは、OpenAIのエコシステムに著しいギャップがあることが明らかになりました。具体的には、ChatGPTはSoraの動画を検出できず、自身の生成コンテンツを現実と混同しています。
NewsGuardは、OpenAIのテキスト・トゥ・ビデオモデルであるSoraによって作成された20本の偽動画をテストする調査を実施しました。これらは些細な間違いではありませんでした。政治的に扇動的で、明らかに捏造されたクリップでした。その結果、ChatGPTの失敗率は92.5%でした。AIによるクリップであると特定できなかっただけでなく、多くの場合、動画内の出来事が実際に起こったことを「証明」するためにニュースソースを幻視しました。
これは単なる技術的な不具合ではありません。これは、これらのモデルがどのように販売されているかと、どのように機能しているかとの間の根本的な断絶を表しています。OpenAIはSoraの能力をマーケティングしていますが、C2PAメタデータや内部検出トレーニングのような安全メカニズムは、現実世界では脆いことが証明されています。
ユーザーエクスペリエンス：AIが見逃すRedditユーザーが見ているもの
ラボのデータに入る前に、実際のユーザーが見ているものを確認する必要があります。 ChatGPTはSoraを検出できませんが、人間による観察は現在最も信頼できるフィルターですが、その差は縮小しています。
早期テスターやChatGPT Plus/Proユーザー間の議論によると、一般公開された「Sora Turbo」バージョンは、昨年公開された慎重にキュレーションされたデモとは大きく異なるとのことです。コミュニティからのフィードバックは、現在のAI検出モデルが完全に無視している物理的な矛盾を浮き彫りにしています。
機械的な故障と「変形」
Redditのユーザーは、Soraの動画を見分ける最も確実な方法は、ソフトウェアではなく、物理現象を見ることだと指摘しています。Soraは物体の永続性に苦労します。動画では、車が角を曲がる際に微妙に変形したり、人が歩いているときに足が静止している物体をすり抜けたりすることがあります。あるIT専門家は、現実的なシーンから抽象的なデータレイヤーへの移行を生成しようとした際に、モデルが概念的なシフトを把握できずに崩壊し、視覚的なゴミになったと述べています。
音声による「兆候」
もう一つの明確な兆候は音です。Sora Turboに統合された音声は、しばしば「ひどい」または独特の金属音と表現されます。一方、ChatGPTはSoraを検出できない 視覚データに基づいているものの、人間の耳は、視覚的な忠実度と低品質で不一致な効果音との間の乖離をしばしば捉えることができます。
Sora Turbo vs. 競合他社
コミュニティの意見は、OpenAIが遅れをとっている可能性があることを示唆しています。Sora Turboを競合他社と比較したユーザーは、例えばKling 1.5, Pika 2.0、そしてGoogleのVeo2レポート競合モデルの方がプロンプトへの忠実性が高いことが多いという事実があります。Soraは、特定のカメラ移動指示や照明のヒントを無視する癖があります。ユーザーはプレミアムツール（ChatGPT Pro）にお金を払っているのに、特定のシーンを生成するのに苦労し、出力結果を検証する確実な方法がないというフラストレーションは明白です。
NewsGuardのデータ：ChatGPTはSoraを検出できない
NewsGuardの調査は、ユーザーの疑念を裏付ける確かなデータを提供します。テスト方法は単純でした。動画をアップロードし、チャットボットにそれが本物かAI生成かを尋ねます。業界全体の失敗率は高かったですが、動画の背後にあるエンジンをOpenAIが構築したことを考えると、OpenAIのパフォーマンスは特に懸念されました。
事実よりも幻覚
最も危険な側面は、いつChatGPTはSoraを検出できない は沈黙ではなく、自信です。NewsGuardのテストでは、チャットボットは偽の動画の信憑性を頻繁に確認しました。
例えば、戦闘機の納入や逮捕シーンの偽のクリップを見せられたとき、ChatGPTとxAIのGrokは「わかりません」と言うだけでなく、その出来事が現実であると主張しました。Grokは95%の確率で失敗し、一度は存在しない「Sora News」というメディアを引用してその主張を裏付けました。ChatGPTはGrokよりわずかに良い成績でしたが、92.5%の確率で失敗しました。GoogleのGeminiは最も良い成績でしたが、それでも78%の確率で失敗しました。
この現象は、LLMが会話的で役立つように設計されており、法医学的ではないため発生します。それらは文中の次の単語を予測します。ユーザーがリードする質問で動画を提示した場合、モデルのトレーニングバイアスは、前提に異議を唱えるのではなく、確認的なコンテキストを提供する方に傾きます。
安全機能の崩壊
OpenAIはサポートページで、ChatGPTはAIコンテンツを検証するように設計されていないと明示的に述べています。しかし、この免責事項は実際の会話フローに表示されることはめったにありません。この研究では、ChatGPTはコンテンツを検証できないという免責事項を提示したのはわずか2.5%のケースでした。ほとんどのやり取りでは、権威があるが不正確な情報源として機能しました。
技術的なギャップ：メタデータと検出が失敗する理由
もしChatGPTはSoraを検出できない視覚分析を通じて、バックアッププランはメタデータであるはずでした。業界標準はC2PA（Coalition for Content Provenance and Authenticity）であり、デジタルコンテンツの「栄養成分表示」です。
C2PAの脆弱性
SoraはC2PAメタデータをファイルに埋め込みます。理論上、これによりプラットフォームはファイルを読み取り、AI生成としてフラグを立てることができます。実際には、このメタデータは信じられないほど壊れやすいです。Redditユーザーや研究者たちは、スクリーンショットを撮る、特定のブラウザで基本的な「名前を付けて保存」機能を使用する、または無料のエディタでビデオを実行するといった簡単な操作で、このデータが即座に剥がされてしまうことを発見しました。
メタデータが失われると、「透かし」は事実上無意味になります。現在、標準的なソーシャルメディアの圧縮アルゴリズムに耐えられる、堅牢なピクセルレベルのステガノグラフィー（不可視透かし）は存在しません。
モデルが偽物を見ることができない理由
技術的な議論で繰り返し出てくる質問は、モデルの作成者が検出器を構築できないのはなぜかということです。答えはそのアーキテクチャにあります。敵対的生成ネットワーク（GAN）にはディスクリミネーターがありますが、Soraのような最新の拡散モデルは異なる方法で機能します。さらに、GPT-4oのビジョン機能は、理解できるようにトレーニングされています。コンテンツ の画像（例：「この猫を説明して」）、ではなく、「provenanceピクセルの由来（例：「この毛皮のノイズパターンを分析する」）。
モデルが「Soraのアーティファクト」と「カメラのアーティファクト」のデータセットで特別にファインチューニングされていない限り、ChatGPTはSoraを検出できないなぜなら、何を探すべきか文字通り知らないからです。
実践的なステップ：AIなしで検証する方法
チャットボットに頼れないため、検証は手動フォレンジックと特定のツールに頼ることになります。
C2PAクレデンシャルを手動で確認する:ChatGPTに尋ねないでください。代わりに、ファイルをアップロードしてください。verify.contentauthenticity.orgメタデータが削除されていない場合、このサイトはAIによる生成であることを確認します。
物理的な不具合を探す:背景の詳細に焦点を当ててください。Soraはしばしば看板の文字をぼかしたり、指を融合させたり、影に一貫性のないものを作成したりします。太陽が西に沈んでいるのに影が東を指している場合、それは偽物です。
Googleエコシステム例外:画像がPixel StudioのようなGoogleツールからのものであると疑われる場合、GoogleのGeminiは独自のSynthID透かしを検出するのが実際には得意です。ただし、Sora動画のチェックにGeminiを使用しないでください。互換性のある検出は存在しません。
現時点では「AI検出器」を無視する:ほとんどのオンライン「AI動画検出器」は詐欺です。モデルの作成者が検出できない場合、サードパーティのスクリプトも検出できない可能性が高いです。
エコシステムの問題
ここでの根本的な問題は、ChatGPTがSoraを検出できないことだけではなく、問題を作り出して解決を怠るというビジネスモデルです。OpenAIは強力な生成ツールをリリースしていますが、その主力のアシスタンスツールはそれらを監視できません。
ユーザーは、タトゥーショップであり、レーザー除去も提供するデジタル版を求めています。現在、業界は合成メディアで市場を席巻していますが、その洪水に対処するためのツールは壊れているか、存在しません。OpenAIがChatGPTインターフェースに専用のトレーニング済み識別子を統合し、ビデオがアップロードされたときに自動的にトリガーされるようになるまで、プラットフォームの検証能力への信頼はゼロのままにしておくべきです。
「Sora Turbo」の能力とChatGPTの盲目の間のギャップは、理論的なものではない誤報のベクトルを作成します。それは起こっており、ブラウザのアシスタントは現在、それの承認を幻覚しています。
FAQ：SoraとAIビデオの検出
Q：ChatGPTは、ビデオがSoraによって作成されたかどうかを公式に検出できますか？
A：いいえ。OpenAIは、ChatGPTがAI生成の署名を分析する能力を持っていないことを認めています。それは、しばしば欠落しているか無視されるコンテキストまたはメタデータに依存しており、92%以上の失敗率につながっています。
Q：Soraビデオを特定する最も信頼性の高い方法は？
A：現在、物理的なエラー（オブジェクトの変形、不適切な物理演算、不可能な照明）を人間の目で観察することが、AI検出よりも信頼性があります。また、C2PAメタデータが存在するかどうかを確認するために、remioのverify.contentauthenticity.orgでファイルを確認することもできます。
Q：チャットボットはなぜ偽のビデオを本物だと言うのですか？
A: 大規模言語モデルは、ユーザーのプロンプトを満たすために情報を幻覚します。「この動画はXイベントのものですか？」と尋ねると、モデルはしばしばウェブ上で類似のキーワードを検索し、無関係なコンテンツを見つけ、アップロードした動画と誤って関連付けます。
Q: Soraの動画にウォーターマークは永続的ですか？
A: いいえ。C2PAメタデータと可視ウォーターマークは非常に壊れやすいです。簡単な編集、画面録画、あるいは異なるフォーマットでファイルを再保存するだけでも、来歴データが剥ぎ取られ、ソフトウェアからは実際の映像と区別がつかなくなります。
Q: Sora Turboは初期デモよりも優れた動画を生成しますか？
A: 多くのユーザーは、Proユーザーが利用できる「Sora Turbo」は、初期のキュレーションされたデモと比較してダウングレードされたように感じると報告しています。ユーザーは、プロンプトへの追従性、音質の問題、そして生成時間の短縮による忠実度の低下を挙げています。
