ChatGPT 无法检测 Sora 视频：92% 的失败率
- Aisha Washington
- 6月6日
- 讀畢需時 6 分鐘
AI 发展的承诺从来都是双向的：随着生成工具的进步，检测工具据说也会同步跟上。但实际情况并非如此。最近的测试显示，OpenAI 的生态系统存在明显差距——特别是 ChatGPT fails to detect Sora 视频，将自己生成的内容误认为是真实内容。
NewsGuard 进行了一项研究，测试了由 OpenAI 的文本转视频模型 Sora 生成的 20 个假视频。这些错误并不微妙。它们是带有政治色彩、明显捏造的片段。结果显示 ChatGPT 的失败率高达 92.5%。它不仅未能识别这些片段为 AI 生成的内容，在许多情况下还幻想了新闻来源来“证明”视频中的事件真实发生。
这不仅仅是一个技术小故障。它代表了这些模型的宣传方式与实际功能之间的根本脱节。尽管 OpenAI 宣传 Sora 的能力，但安全机制——如 C2PA 元数据和内部检测训练——在真实场景中却显得脆弱不堪。
用户体验：Reddit 用户看到而 AI 忽略的内容
在深入实验室数据之前，我们需要看看实际用户正在看到什么。虽然 ChatGPT fails to detect Sora，但目前人类观察者是最可靠的过滤器，尽管这个差距正在缩小。
早期测试者和 ChatGPT Plus/Pro 用户的讨论表明，公开发布的“Sora Turbo”版本与去年展示的精心策划的演示有显著差异。社区反馈强调了当前 AI 检测模型完全忽略的物理不一致性。
机械故障与“变形”
Reddit 上的用户指出，识别 Sora 视频最可靠的方法不是通过软件，而是观察物理现象。Sora 在物体持久性方面存在问题。视频可能显示一辆汽车转弯时形状 subtly 变形，或者人物行走时腿部与静态物体发生穿透。一位 IT 专业人士指出，当尝试生成从真实场景过渡到抽象数据层的视频时，模型因无法理解概念转变而崩溃，产生了视觉垃圾。
音频“线索”
另一个明显的指标是声音。Sora Turbo 的集成音频经常被描述为“糟糕”或明显带有金属感。虽然 ChatGPT fails to detect Sora 基于视觉数据，但人耳往往能察觉到视觉保真度与低质量、不匹配的拟音工作之间的脱节。
Sora Turbo 与竞争对手的比较
社区观点表明 OpenAI 可能正在落后。用户将 Sora Turbo 与竞争对手 like Kling 1.5, Pika 2.0 和 Google 的 Veo2 进行比较后 报告称，对手模型通常在提示遵循方面表现更好。Sora 经常忽略特定的相机移动指令或光线提示。挫败感显而易见：用户为高级工具（ChatGPT Pro）付费，却难以生成特定场景，也没有可靠的方法验证输出。
NewsGuard 数据：ChatGPT 如何未能检测 Sora
NewsGuard 的研究提供了支持用户怀疑的硬数据。测试方法很简单：上传视频，询问聊天机器人它是真实还是 AI 生成的。整个行业的失败率都很高，但考虑到 OpenAI 构建了视频背后的引擎，其表现尤其令人担忧。
幻觉而非事实
当 ChatGPT fails to detect Sora 时，最危险的方面不是沉默——而是自信。在 NewsGuard 的测试中，聊天机器人经常确认假视频的真实性。
例如，当展示战斗机交付或逮捕场景的假片段时，ChatGPT 和 xAI 的 Grok 不仅没有说“我不知道”。他们声称这些事件是真实的。Grok 的失败率为 95%，甚至有一次引用了不存在的“Sora News”媒体来支持其说法。ChatGPT 的表现仅略好于 Grok，失败率为 92.5%。Google 的 Gemini 表现最好，但仍失败了 78%。
这种现象发生是因为 LLM 被设计为对话式和有帮助的，而不是取证式的。它们预测句子中下一个可能的词。如果用户用引导性问题呈现视频，模型的训练偏向于提供确认上下文，而不是质疑前提。
安全功能的崩溃
OpenAI 在支持页面明确表示 ChatGPT 并非设计用于验证 AI 内容。然而，这个免责声明很少出现在实际对话流程中。在研究中，ChatGPT 仅在 2.5% 的情况下提供了关于其无法验证内容的免责声明。在绝大多数交互中，它充当了权威但错误的来源。
技术差距：为什么元数据和检测失败
如果 ChatGPT fails to detect Sora 通过视觉分析，那么备用计划应该是元数据。行业标准是 C2PA（Coalition for Content Provenance and Authenticity），数字内容的“营养标签”。
C2PA 的脆弱性
Sora 将 C2PA 元数据嵌入其文件中。理论上，这允许平台读取文件并标记为 AI 生成。但实际上，这种元数据极其脆弱。Reddit 用户和研究人员发现，简单操作——截图、在某些浏览器上使用基本的“另存为”功能，或通过免费编辑器运行视频——会立即剥离这些数据。
一旦元数据消失，“水印”实际上就失效了。目前没有健壮的像素级隐写术（不可见水印）能经受标准社交媒体压缩算法。
为什么模型“看”不到假视频
技术讨论中反复出现的问题是，为什么模型的创建者无法构建检测器。答案在于架构。生成对抗网络（GAN）有判别器，但现代扩散模型如 Sora 的工作方式不同。此外，GPT-4o 的视觉能力被训练来理解图像的 content（例如，“描述这只猫”），而不是像素的 provenance（例如，“分析这块毛皮的噪声模式”）。
除非模型在“Sora 伪影”与“相机伪影”的数据集上进行专门微调，否则 ChatGPT fails to detect Sora 因为它根本不知道该寻找什么。
实用步骤：如何在没有 AI 的情况下验证
由于我们无法依赖聊天机器人，验证将依赖手动取证和特定工具。
手动检查 C2PA 凭证：不要询问 ChatGPT。而是将文件上传到 verify.contentauthenticity.org。如果元数据未被剥离，该网站将确认 AI 来源。
寻找物理故障：关注背景细节。Sora 经常模糊标志上的文字、合并手指或在阴影中制造不一致。如果阴影指向东方而太阳正从西方落下，那就是假的。
Google 生态系统例外：如果怀疑图像来自 Google 工具（如 Pixel Studio），Google 的 Gemini 实际上能很好地检测其自己的 SynthID 水印。但是，不要使用 Gemini 检查 Sora 视频，因为跨兼容检测不存在。
暂时忽略“AI 检测器”：大多数在线“AI Video Detectors”都是骗局。如果模型的创建者都无法检测它，第三方脚本很可能也做不到。
生态系统问题
这里的核心问题不仅仅是 ChatGPT fails to detect Sora；而是销售问题却忽视解决方案的商业模式。OpenAI 正在发布强大的生成工具，而其旗舰辅助工具却无法监管它们。
用户正在寻求相当于既提供纹身又提供激光去除的数字服务。目前，行业正在用合成媒体淹没市场，而应对这一洪流的工具却已损坏或不存在。除非 OpenAI 将专门训练的判别器集成到 ChatGPT 界面中——当上传视频时自动触发——否则对平台验证能力的信任应保持为零。
“Sora Turbo”能力与 ChatGPT 的盲目性之间的差距创造了一个非理论性的错误信息向量。它正在发生，而浏览器中的助手目前正在幻想着对其的认可。
FAQ：检测 Sora 和 AI 视频
问：ChatGPT 能否正式检测视频是否由 Sora 制作？
答：不能。OpenAI 已承认 ChatGPT 没有能力分析视频帧以查找 AI 生成特征。它依赖上下文或元数据，而这些往往缺失或被忽略，导致失败率超过 92%。
问：识别 Sora 视频最可靠的方法是什么？
答：目前，人类对物理错误（变形物体、糟糕的物理效果、不可能的光线）的观察比 AI 检测更可靠。您也可以在 verify.contentauthenticity.org 上检查文件，以查看是否存在 C2PA 元数据。
问：为什么聊天机器人说假视频是真实的？
答：大型语言模型会幻化信息以满足用户提示。如果您问“这个关于 X 事件的视频是真的吗？”，模型通常会在网络上搜索类似关键词，找到无关内容，并错误地将它与您上传的视频关联起来。
问：Sora 视频上的水印是永久的吗？
答：不是。C2PA 元数据和可见水印非常脆弱。简单的编辑、屏幕录制甚至以不同格式重新保存文件都可能剥离来源数据，使视频在软件看来与真实 footage 无法区分。
问：Sora Turbo 是否比早期演示生成更好的视频？
答：Many users report that the "Sora Turbo" available to Pro users feels downgraded compared to the initial curated demos. 用户指出提示遵循、音质和较短生成时间导致保真度较低的问题。
