Google Earth 因违反政策撤下 AI 图像生成功能

用户生成灾难、暴力和政治事件的虚构场景后，Google 在大约一天内撤回了 Google Earth 的 AI 功能上线。

这次撤回的意义不止于一次失败的实验。Google 将图像生成器嵌入了一款与卫星证据密切相关的产品中，随后依赖水印和用户自行核验。这种组合使创作自由度与 Google Earth 作为真实地点窗口的声誉产生了直接冲突。

对 Google News 读者而言，这一事件也警示我们，视觉证据如今如何在搜索、社交媒体和新闻报道流程中流转。一张合成图像无需骗过 Google Earth 的界面；它只需在离开该平台后，以截图形式继续传播即可。

Google 表示，生成图像从未出现在共享的 Google Earth 体验中，并带有其 SynthID 水印。这些防护措施降低了部分风险，但未能阻止逼真的虚构图像在失去原始语境后继续传播。

最接近的历史参照，是 Google 在 2024 年暂停 Gemini 的人物生成功能。当时的暂停源于外界对不准确历史描绘的批评。Google Earth 的这次逆转则暴露了另一种问题：这些图像足够可信，可能损害人们对真实证据的信任。

Google Earth 几乎在功能上线后立刻撤下了生成器

Google 的迅速逆转表明，来源标识并未解决该功能最核心的设计风险。

Google 推出了一项图像生成功能，允许用户在 Google Earth 中选择地点，并通过文本提示创建新场景。该工具使用 Nano Banana，这是 Google 对其 Gemini 图像技术的称呼。

这一流程将多个步骤整合进一个界面。用户可以浏览真实地点，以 Google 提供的地理语境为起点，并要求模型改变该地点呈现的内容。

这种便利正是其吸引力所在。城市规划师、设计师、建筑师和地理空间专家可以利用生成视图来呈现拟议改造。一名用户无需准备单独的源图像，便可设想新增树木、不同建筑，或替代性的公共空间。

但同样的流程也让误导性场景变得异常容易生成。The Atlantic 报道称，其生成了燃烧的建筑、旧金山遭到破坏的画面，以及取代埃菲尔铁塔的陨石坑。其他示例还包括虚构的抗议活动、边境场景和政治敏感建设项目。

这些图像并未作为官方卫星更新出现在公共地图中。Google 随后强调了这一点。然而，用户仍可截取并在 Google 控制的界面之外传播结果。

这一差异在技术层面很重要，但当图像进入社交信息流后，其意义便会减弱。经过裁剪的截图可能失去界面标签、警告信息和周边语境。观众随后看到的是类似航拍证据的内容，而且往往发生在事件快速发展的过程中。

Google 起初提到了 SynthID，即其针对 AI 生成内容的不可见水印。该公司称，人们可以询问 Gemini，或通过 Search 中的 Lens 调查可疑图像。

这种回应将部分核验责任转移给了观众。它假定接收者会怀疑图像、了解检测工具，并在转发前额外采取一步操作。

虚构图像开始流传后，Google 改变了方向。该公司表示，正在回滚该功能，以实施更强的护栏措施。它还承认，部分被分享的截图似乎违反了其政策。

此次回滚并未将 Nano Banana 从 Google 更广泛的产品组合中移除。它撤下的是一项特定集成：在这里，合成图像与对现实世界的可信呈现并置。

这也解释了为何此事不只是又一次内容过滤失败。在创意应用中生成的虚构景观，自带一种隐含的创作语境。而从 Google Earth 衍生出的类似图像，则可能借用其底层地图赋予的权威性。

Google Earth 自身的内容政策禁止欺骗性材料和对新闻事件的误导性描绘，也限制涉及恐怖主义、危险活动和无端暴力的内容。

据报道的输出结果暴露出书面规则与生成器实际行为之间的缺口。据称，该模型会在其他 Google 产品中拒绝部分有害请求，却会在 Google Earth 内接受相关编辑请求。

这种不一致表明，特定集成的安全防护要么存在差异，要么效果较差。这也引发了疑问：地理语境是否改变了安全系统对这些请求的分类方式。

一次常规产品回滚通常意味着性能不佳、存在漏洞或需求有限。这次回滚传递出更严重的信号：该功能运行得足够好，能够生成令人信服的内容，而 Google 不希望这些内容与 Google Earth 产生关联。

为什么 Google News 生态系统牵涉更深

压力落在所有那些在核验来源前就将视觉材料视为证据的系统身上。

Google News 并未生成这些存在争议的图像。然而，一旦有人在其他地方发布它们，围绕 Google Search、Lens、Discover、YouTube 和出版商页面形成的新闻生态系统，就可能承载这些结果。

这形成了一个令人不安的循环。一个 Google 产品可以生成虚构场景，而其他 Google 产品则必须帮助用户判断该场景是否为合成内容。

在战争、自然灾害、选举和突发安全事件期间，这个问题尤为严峻。最早出现的图像往往早于记者抵达现场。一张看似可信的航拍图，可能在更正消息赶上之前就塑造公众认知。

卫星和航拍图像在开源调查中扮演着独特角色。记者和研究人员会用它们检视受损建筑、环境变化、军事活动和难以进入的地区。

Google Earth 并非实时卫星服务，谨慎的分析人士本就会核查拍摄日期和提供方。尽管如此，该产品提供了一种受众与地理现实相联系的熟悉视觉语言。

合成叠加层可以利用这种熟悉感。风险并不需要完美伪造，只需要具备足够可信度，以获得转发、支撑虚假说明，或延误准确评估。

这对规模较小的新闻编辑部尤其重要。大型调查团队可以比对坐标、阴影、天气、地标和历史图像。本地记者和独立创作者在截稿压力下可能缺乏这些资源。

因此，Google 的回滚给三类群体带来了压力。

首先，Google 的产品团队必须决定生成式创作应当出现在哪里。在设计应用中看似可接受的能力，嵌入地图、医疗工具或新闻发现产品时，可能带来不同后果。

其次，出版商必须为每一张具有重要影响的图像保留来源语境。若没有来源核验和独立佐证，从社交媒体获得的截图已不再是充分证据。

第三，读者必须在不陷入犬儒主义的前提下变得更具怀疑精神。如果每张图像都被视为虚假内容，真实记录会与合成材料一同失去价值。

最后一种结果会让宣传者受益。研究人员有时将其称为“骗子红利”，即高度可信的合成媒体的存在，让真实证据也可以被斥为人工伪造。

Google 提出的核验路径无法独自解决这一社会问题。SynthID 可以识别由参与其中的 Google 系统生成或修改的内容，但它无法证明每一张没有水印的图像都是真实的。

问题也不止于一个模型。第三方生成器无需使用 Google Earth 或携带 Google 的水印，也能创建虚假的航拍图像。有动机的行动者可以从一张普通截图开始，再在其他地方进行编辑。

但 Google Earth 确实降低了所需门槛。它在一个易于识别的界面中结合了地点选择、图像和生成能力。这既减少了合法可视化的阻力，也同时降低了有害伪造的难度。

这次上线也发生在生成式功能向消费者产品全面扩张的时期。企业日益将模型访问视作一种可嵌入用户接触文本、图像或数据之处的功能。

当错误仍可逆转且局限于私密范围时，这种策略最为有效。当输出内容能够冒充证据、影响公共安全，或传播到原始应用之外时，情况就变得更棘手。

Google 的迅速撤退表明，该公司在部署后意识到了这一类别差异。尚未得到解答的问题是：为何这种区别没有更早阻止功能上线。

对 Google News 的用户而言，实际的教训不是放弃视觉报道，而是要求从原始拍摄到发布图像之间具备可记录的链条。

这种习惯类似于良好的知识管理。当生成内容能够高度接近一手记录时，来源、日期和语境就变得更加重要。

真正的冲突在于创作能力与证据可信度

Google Earth 无法既是开放式图像画布，又是不容置疑的现实地点记录。

主要矛盾并非 Google 与另一家 AI 公司之间的竞争，而是 Google 对创作能力的承诺，与 Google Earth 长期积累的证据可信度之间的冲突。

模型集成可以准确满足用户请求，却仍会损害宿主产品。这正是此次回滚成为一次产品设计逆转，而非单纯内容审核事件的原因。

Google Earth 的价值部分来自约束。用户期待其图像代表对真实地点的拍摄或拼接视图，并受制于图像年代和分辨率等已知限制。

生成式模型遵循不同的契约。它们根据提示和已学习的模式生成看似可信的输出。其效用依赖于能够自由改变源内容中并不存在的细节。

将这两种契约结合会产生模糊性。一名用户可能明白场景具有推测性质，而下一位观看者只会看到导出的结果。应用程序在分享发生的那一刻便失去了对解释方式的控制。

Google 试图通过可见呈现和不可见水印来管理这种模糊性。它还将生成图像排除在主要的共享 Earth 体验之外。

这些选择降低了用户意外替换公共地图图像的可能性。但它们并未解决一个问题：展示可信地图产品中已知地点的截图所借用的可信度。

水印只能回答一个狭窄的问题：某个特定系统是否将此文件标记为生成内容？它无法回答图中描绘的事件是否真实发生。

Google DeepMind 将SynthID描述为一种嵌入 AI 生成图像、音频、文本和视频中的不可感知水印。检测工具可以检查兼容内容中是否存在这一信号。

这项技术具有实际价值。它可以在元数据消失后保留机器可读的来源信息，也可以帮助平台大规模识别由 Google 模型创建的材料。

然而，溯源并不等于预防。水印无法阻止一张虚假图像在有人核查之前引发恐惧、愤怒或困惑。

检测同样依赖于获取渠道与用户认知。观看者必须意识到可能存在问题，将内容提交给合适的工具，并正确解读结果。

阴性结果的意义有限。它可能表明该图像并非由 Google 生成，也可能是编辑影响了检测，或由其他系统生成。它并不能证明图像真实。

Google 自己的文档也承认了重要边界。其负责任 AI 指导原则指出，水印应与其他安全措施配合使用。这项技术本身并非旨在阻止意图明确的对手。

关于生成式水印的研究也得出了类似结论。一项经同行评审的水印研究发现，SynthID-Text 在既定条件下表现强劲，同时也指出其容易受到窃取、伪造和清除攻击的影响。

该论文讨论的是文本，而非 Google Earth 所采用的确切图像实现方式。不过，其更广泛的启示同样适用：水印只是溯源基础设施的一个组成部分，并非通用的真实性检验工具。

更严格的提示词过滤可以解决问题的另一部分。Google 可以拦截涉及攻击、政治欺骗、灾难，或受保护人物和地点的请求。

但广泛的过滤机制也会带来自身冲突。同样的提示词可能服务于正当的建筑设计、新闻报道、教育、应急规划或艺术创作。

例如，规划人员可能需要将关键基础设施周边的洪灾损害可视化。纪录片团队可能需要对历史事件进行明确标注的重建。全面禁止可能会在移除欺骗性用途的同时，也剔除有价值的应用。

因此，Google 面临的是产品边界决策，而不只是扩充黑名单。它必须判断开放式生成是否应该被纳入 Google Earth，以及应在何种条件下纳入。

一种方案是将该能力限定于具备更强控制措施和导出标签的专业账户。另一种方案则是将生成限制在明确具有推测性的规划类别中，例如植被、开发概念或季节变化。

Google 也可以将生成的场景置于视觉上明显不同的工作区。持续显示的边框、嵌入式说明文字和导出归属信息能够减少歧义，尽管截图仍可能被裁剪。

另一项保障措施是限制模型的源材料和变换方式。与其生成任何被要求的事件，不如支持风险更低、预先定义的规划操作。

这些措施没有一项能够保证安全。每一项都会削弱产品实用性、输出灵活性或分享便利性。这正是最初发布似乎低估的权衡。

随着 Gemini 功能进入更多 Google 产品，这一决定变得更加重要。用户不会对所有界面赋予同等信任。地图、新闻、健康和文档档案承载的期待高于娱乐工具。

Google 只有将集成场景视为模型安全的一部分，才能维持这些期待。一个在某个界面中安全的模型，并不会自动在另一款产品中同样安全。

更严格的防护措施无法消除验证缺口

此次下线限制了即时伤害，但并不能证明 Google 可以安全地恢复同一功能。

Google 尚未公开说明哪些更严格的防护措施将决定功能重启。这留下了若干尚未解答的技术和治理问题。

第一个问题涉及失败的范围。公开案例显示，用户可以创建具有破坏性、暴力和政治敏感色彩的场景。研究人员在发布前对系统进行了多广泛的测试，仍不清楚。

全面评估不应只覆盖被禁止的词语。它还应测试间接请求、视觉参照、拼写变体、多语言提示词，以及通过多次编辑逐步构建有害场景的序列。

地理语境同样重要。一条中性的提示词，一旦关联到军事基地、学校、宗教场所、边境口岸或公职人员的房产，便可能变得敏感。

传统内容过滤器通常检查提示词语言和生成的像素。Google Earth 的集成还需要从所选地点和当前事件中获取风险信号。

这会形成一个复杂的审核系统。Google 既需要维护敏感地点类别，又不能在大范围区域内阻碍正常工作。它还需要在危机期间快速更新。

第二个问题涉及导出控制。应用内标签在被裁剪后几乎无法提供保护。嵌入在关键图像区域中的可见标记更难移除，但会降低视觉质量。

不可见的 SynthID 可以补充可见标签。它无法替代普通观看者无需专业验证就能理解的提示信息。

Google 表示，用户可以询问 Gemini 或使用 Lens 来核查可疑材料。该流程对有意调查很有帮助，但不太适合浏览病毒式传播帖文最初几秒钟的判断。

第三个问题涉及生成后的执法。Google 的禁止使用政策限制其生成式系统被用于欺骗、危险、非法及侵犯隐私的用途。

政策执行可以限制可识别账户的重复滥用。然而，账户处罚通常发生在尝试或输出已经被记录之后。

最具影响力的图像，可能来自此前没有违规记录、一直受信任的用户。主要围绕惯犯设计的系统，可能会错过这种一次性事件。

第四个问题是 Google 是否能够衡量成功的滥用行为。内部日志会显示被拦截的提示词和已生成的输出，却无法呈现每一张通过外部平台分享的截图。

因此，较低的政策违规率可能掩盖巨大影响。一张有说服力的伪造图像，可能比数千张无害的可视化作品更重要。

Google 还必须区分模型安全与产品安全。模型的行为或许符合一般阈值，但宿主应用却可能带来不可接受的风险。

这种区别在 2024 年已曾出现，当时 Google 暂停了 Gemini 生成人物图像的功能。该公司承认，其试图生成多样化输出的努力在部分历史语境中失败了。

美联社报道称，用户指出不准确的描绘后，Google 暂停了这一功能。该公司后来将问题描述为过度补偿，以及未能识别需要特定历史处理的提示词。

此前这次Gemini 暂停事件构成了相关先例。在这两起事件中，公开案例都与预期的安全设计相矛盾，促使 Google 撤回图像功能。

底层失败各不相同。2024 年的争议聚焦于表现方式与历史准确性。Google Earth 事件则聚焦于借用地理图像可信度来伪造事件。

两者共同说明，修复过滤器并不能自动恢复信任。用户评判的是完整的产品决策，包括公司将生成器置于何处，以及它预期人们会如何使用。

批评者可以合理追问，Google Earth 为什么需要开放式事件生成。专业可视化确有明确用途，但这些需求可以通过更窄范围的工具和受控工作流程来满足。

支持者也可以认为，因滥用而完全移除该功能，会牺牲正当工作。外部编辑器已经能让任何人操纵 Google Earth 截图。

这种辩护存在局限。其他地方已有滥用，并不意味着每种集成都承担同等责任。产品设计会改变一项行为所需的成本、速度、规模和被感知的正当性。

据报道，Google 的工具将伪造简化为选择地点并输入提示词。这种摩擦差异意义重大，尤其对于协同虚假信息行动而言。

因此，此次下线是对发布后所获得证据的负责任回应。它并不能证明最初的防护措施已经充分。

可信的重启需要独立测试、更清晰的导出标签、一致的政策执行，以及对预期使用场景更明确、更有限的说明。

即使如此，不确定性仍会存在。一旦生成式图像在第一眼看上去与普通地图图像无异，每一项设计决策都必须假定语境会被剥离。

Google News 的考验将在下线后到来

下一阶段将显示，Google 是会改变产品边界，还是只会增加更多过滤器。

有三个信号将决定此次下线是否代表持久的纠正。

第一个信号是 Google 的重启设计。如果恢复时仍采用同样的开放提示词输入框，只是增加更长的屏蔽名单，就意味着该公司将此视为审核缺陷。

受限的规划工作区会传递不同信息。它将表明 Google 认识到了推测性创作与 Google Earth 作为证据性工具身份之间的冲突。

最强的设计应当在导出过程中保留语境。生成场景在截图、下载、缩放和日常分享后，仍应保持明显区别。

没有任何标签能永久抵御意图坚定的编辑者。目标应是让无意误读变得困难，并让蓄意欺骗的成本更高。

第二个信号是关于评估的透明度。Google 应说明其测试了哪些有害场景、哪些在发布后失效，以及修订后的系统表现如何。

如果采用有意义的分母，汇总数字将有所帮助。单独的提示词拦截率无法描述安全性，除非读者知道类别、测试覆盖范围以及成功输出的严重程度。

在广泛重启前，独立研究人员也应获得结构化访问权限。内部团队或许了解模型，而记者和开源调查人员则了解虚假图像如何在真实事件中传播。

这些调查人员能够测试常规基准套件遗漏的工作流程。他们了解截图如何被裁剪、重新配文、重新压缩，以及如何与真实材料结合。

第三个信号是 Google News、Lens、Search 和 Gemini 如何传达溯源信息。检测应出现在用户接触图像的地方，而不应只存在于单独的验证流程中。

当 Lens 检测到 SynthID 时，Google 可以展示清晰信息。当带标记的图像被索引时，搜索结果可以保留生成披露。新闻产品可以鼓励发布者提供内容凭证。

这种方法仍只能覆盖合成媒体市场的一部分。Google 的检测器无法可靠地验证由其他公司模型创建的每一张图像。

行业范围的溯源标准仍然必要。这些系统需要相机制造商、编辑软件、AI 提供商、发布者、浏览器和社交平台的支持。

标准也需要谨慎措辞。凭证可以显示文件来自何处以及发生过哪些更改，但不应被表述为所描绘主张真实的证明。

真实照片也可能配上虚假说明。合成图像也可以用于说明真实提案。溯源与真实性有所重叠，但二者并不相同。

读者应关注 Google 如何描述这种区别。如果人们将缺少水印视为真实性证书，关于 AI 检测的营销语言就可能制造虚假的信心。

Google News 生态系统有机会树立更好的行为范式。搜索和新闻界面可以更突出原创发布日期、图片来源、拍摄细节和有据可查的编辑记录。

出版商也需要更完善的内部规范。编辑应为重要的视觉证据保留原始文件、来源沟通记录、位置数据和核验笔记。

知识工作者同样可以遵循这一原则。保存图片时若不保留其来源，即使其中并无欺骗意图，也会削弱它日后的价值。个人档案应让内容与其背景信息一同留存。

实际的核验流程依然并不复杂，只是需要时间：找到最早可获得的版本，确认发布者，比较独立来源的图像，检查现场环境，并核查可用的溯源信号。

对于影响重大的主张，一张图片很少应当单独构成证据。天气记录、目击者叙述、官方通告、视频以及商业卫星服务商的数据，都可能支持或反驳这幅图像所讲述的故事。

与社交媒体相比，这一标准或许显得缓慢。但缓慢有时恰恰是其价值所在。生成式系统压缩了伪造的成本，却没有同等程度地压缩核验的成本。

Google 的回滚承认了这种不平衡。该公司移除了一项功能；它曾让带有地理锚定信息的伪造内容比负责任的调查更快生成。

接下来会发生什么，将揭示 Google 是将这一事件视为暂时的产品发布问题，还是视为有关产品定位的警示。

如果 Google 在增加提示词过滤后恢复不受限制的生成能力，核心矛盾仍将存在。该工具仍会把推测性的图像，与一个因提供现实世界方位指引而受到信任的产品结合在一起。

如果该公司限制这项能力、保留持久的背景信息，并邀请外部测试，它便能挽回部分信心。这条路径也将为其他高信任度应用提供一个有益的范本。

更广泛的 Google News 教训很明确：水印有助于核验，但无法独自承担信任的全部重担。

在分享下一张震撼的航拍图片之前，不妨问一个比“它看起来是否真实”更难的问题：它源自何处，之后经历了什么，以及有哪些独立证据支持它所声称的内容。