top of page

Google.com/goto:Google 的反爬虫更新让每条结果都更难提取

9月13日
讀畢需時 13 分鐘

Google 在搜索结果与目标页面之间增加了一次额外请求,直接冲击了大规模收集结果 URL 的工具。这项被称为 google.com/goto:Google 的反爬虫更新 的改动,将许多原本直接指向自然搜索结果的链接替换为不透明的 Google 重定向地址。

对用户而言,搜索结果看起来依然熟悉:标题、显示域名、网站图标和描述仍然可见。但其底层链接如今可能指向 google.com/goto?url=...,而非发布者页面。

这种差异很重要,因为编码后的值并不会暴露完整的目标 URL。浏览器可以请求 Google 自动解析它;爬虫则必须额外发起一次请求、处理响应,并避免触发 Google 的防御机制。

Google 将此次部署描述为一项应对滥用的技术措施。该改动并未彻底阻止自动化采集,而是将原本低成本的 HTML 解析任务,变成了一连串更嘈杂、且可被 Google 观察到的请求。

这正是核心矛盾所在。搜索用户仍需要可靠的外部链接,而 Google 希望对自动访问其搜索结果拥有更大的控制权。SERP API 公司、SEO 平台、研究人员和 AI 开发者如今都处在这一张力之中。

Google.com/goto:Google 的反爬虫更新改变了链接层

Google 并未改变自然搜索结果展示的内容,但改变了软件抵达结果目标页面的方式。

传统的 Google 搜索结果会将目标页面直接放在锚元素的 href 属性中。软件只需下载一个搜索结果页面、解析其 HTML,即可提取多个完整 URL。

新结构插入了由 Google 控制的重定向。结果的锚链接可能指向一个 /goto 地址,其中包含一个通常以 CAES 开头的值。该值代表目标页面,但并未将其作为可读文本公开。

用户点击结果时,浏览器会请求 /goto 地址,随后 Google 返回 HTTP 重定向,将浏览器发送至实际页面。这个过程通常快到搜索者几乎不会察觉。

Google 于 2026 年 8 月 26 日确认了此次部署。一位发言人表示,公司会定期采取技术措施应对不断演变的滥用行为,以保护其服务和用户。该确认将此类重定向描述为其中一项措施。

公司没有公开该令牌的技术规范,也未解释哪些浏览器、地区或会话会收到重写后的链接,以及决定因素具体为何。

在官方确认之前,已有早期观察报告。搜索领域专家在 6 月和 7 月发现了这一模式,当时它看起来仍像是有限测试。到 8 月下旬,多家数据提供商已观察到其部署范围明显扩大。

部署确认报道称,在多家住宅 IP 提供商中,该机制的覆盖率已接近全面。这一估计来自排名追踪公司 Nozzle 的 Derek Perkins,而非 Google。

搜索数据 API 提供商 Autom 报告了类似的演进过程。其团队起初只在少量搜索结果页面中遇到 /goto,后来则在退出登录和无痕浏览会话中持续看到这一格式。

该提供商的技术说明称,无法通过常规本地解码将不透明参数转换为目标地址;目标地址只能通过重定向响应获得。

这一格式不同于 Google 较早的 /url 包装器。后者通常会在查询字符串中包含可读、经过 URL 编码的目标地址,软件无需再次联系 Google 即可提取该值。

使用 /goto 后,可见的搜索结果与可操作的目标地址成为两份独立数据。Google 仍会呈现足够的信息,让用户判断结果是否相关;但页面源代码不再保证提供可复用的外部 URL。

这才是实质性变化:Google 将目标地址的解析从静态 HTML 转移到了与其自身服务器的交互中。

一次额外重定向为何让搜索数据提供商承压

重定向会为每个已解析结果增加边际成本,而这一成本会在高流量采集系统中不断累积。

过去,基础爬虫只需一次请求,就能从一个搜索结果页面收集多个自然搜索目标。在新格式下,它可能需要先发起原始请求,再为每个唯一的 /goto 令牌额外发起一次解析请求。

设想一个服务需要跨地区、设备和语言监测大量查询。它可能为每个查询采集多个页面,并在一天中反复执行。每条结果增加一次请求,很快就会转化为可观的基础设施工作量。

成本不只体现在带宽上。每次解析都会增加延迟、连接管理、重试逻辑和额外的故障机会,也会形成一股指向 Google 重定向端点的、易于识别的请求流。

Google 可以观察某个客户端解析链接的速度,并将这些请求与 Cookie、网络身份、浏览器特征及此前搜索活动进行比对。Google 尚未披露其在此使用了哪些信号。

因此,这次更新不只是引入了一种新的解析格式。它在获取搜索结果页面与获知每个精确目标地址之间,设置了一个服务器端检查点。

传统排名追踪就体现了这种压力。排名追踪工具必须识别某个查询对应的是哪一个页面,而不仅仅是哪个域名出现。对于同一主题有多个页面竞争的网站而言,精确路径至关重要。

如果工具存储的是 Google 重定向地址而非发布者 URL,就可能生成误导性记录。它可能报告结果缺失、合并本应不同的页面,或将落地页变化误判为排名变化。

搜索 API 面临相关问题。它们的客户期待获得干净、结构化的目标 URL,不应被迫理解 Google 当前使用的链接包装器,也不应在格式变化时重写集成。

Autom 表示,其已修改管道以解析 /goto 链接,同时保留现有响应字段。这种做法将兼容性负担从 API 客户转移给了数据提供商。

但这一修复仍依赖于 Google 的重定向服务持续向采集方开放,也假设当前响应行为将保持稳定。Google 并未对任何一项作出承诺。

AI 搜索与研究产品面临另一种压力。一些系统使用商业搜索 API,另一些则通过自有基础设施收集搜索结果页面。两种方式都依赖于可预测地访问源 URL。

重定向不会阻止模型在有人提供目标地址后读取页面。它影响的是分析开始前、用于发现、排序和获取来源的上游流程。

知识工作者可能会间接感受到这种影响。当研究助手错误处理重定向 URL 时,可能漏掉来源;它也可能在用户期待稳定发布者链接的位置存储 Google 包装地址。

这让溯源更难核查。可信的研究记录应保留支撑某项主张的页面,而不是搜索引擎拥有的临时路由地址。

因此,构建内部研究系统的团队应将来源身份与发现元数据分开保存。只有当引用能解析至持久文档时,可搜索的AI 知识库才仍然有用。

眼下的直接压力落在搜索数据中介身上,而下游风险则会波及任何将其输出视为可靠来源基础设施的产品。

真正的较量:开放结果与受控解析

Google 仍会发布可读的搜索结果页面,但正日益控制将该页面转化为可复用数据所需的操作。

这并非只是 Google 与某一家爬虫公司的对抗。核心较量在于两种访问面向公众的搜索结果的技术模型之间。

第一种模型将结果页面视作文档:客户端下载页面、读取嵌入 HTML 的链接,然后决定下一步操作。早期 Web 的很大一部分正是按照这种简单模式运作。

第二种模型将结果视为交互式服务。用户所见内容仍可访问,但重要值只能通过受平台管控的额外请求获取。

/goto 的部署使 Google Search 更接近第二种模型,同时并未移除自然搜索结果,也未迫使普通用户采用新工作流。

这种微妙之处很重要。将该更新称为爬虫禁令夸大了它的影响:链接仍可被解析,独立测试也显示开发者仍能恢复其目标地址。

ScrapingBee 在浏览器、自动化会话和不同网络配置中测试了 /goto。其重定向实验发现,该令牌可以从结构上解码,但无法在本地转换回原始 URL。

该公司报告称,在禁用自动重定向的情况下,HTTP GET 请求会返回 302 响应及 Location 标头,该标头包含目标地址。

其测试还发现,HEAD 请求的行为不同:它们会返回 200 响应,但不包含所需的位置标头,迫使采集方使用 GET 才能可靠解析。

这一发现与 Autom 最初建议通过 HEAD 读取位置的做法相冲突。差异可能反映了行为变化、测试条件不同,或存在多种部署变体。

开发者不应将任何一种方法视为永久契约。防御性实现可以测试响应行为、支持多种包装器,并在不破坏已存储 URL 的前提下记录失败情况。

ScrapingBee 测得,按顺序处理时,50 次解析的中位耗时约为 3.27 秒;在其环境中,使用五个工作线程可将中位耗时降至约 1.23 秒。

这些数据来自一家供应商的测试,并非通用基准。网络位置、连接复用、Google 响应和限流都可能产生不同结果。

不过,这项实验说明了其中的取舍。该更新增加了摩擦,但适度并发可以消化其中一部分。因此,这项措施更可能重塑成本,而非彻底消除爬取行为。

服务器交互也让 Google 获得了静态链接无法提供的选择空间。它可以调整响应、改变令牌格式、实施速率控制,或区分不同客户端类型。

Google 原本就控制搜索结果页面本身。然而,在客户端获得 HTML 后,直接的外部 URL 限制了公司后续的参与程度。/goto 将这种参与延伸到了目标地址解析环节。

这一变化延续了其他让大规模采集变得更复杂的举措。Google 已加强对自动化流量的防御,并修改了采集方此前用于获取更大结果集的结果页参数。

每一项单独调整都可以通过工程手段应对;但结合起来,它们会让非官方访问变得更难预测,并提高维护采集基础设施的价值。

这一转变也暴露出一种令人不安的对称性:Google 通过爬取其他网站建立自己的索引,同时又限制自动化系统收集 Google 对该索引的呈现方式。

这些活动并不相同。Googlebot 遵循发布商控制规则,构建的是搜索产品,并在有文档说明的抓取系统下运行。SERP 抓取工具则收集 Google 生成的排名页面,往往并不处于受支持的 API 关系之内。

即便如此,发布商和开发者仍注意到了这种不平衡。Google 希望开放网络在技术上保持可访问,同时却让其自身聚合层越来越难以被复用。

一则受到广泛讨论的社区帖子反映了这一争议。在为本文提供的快照中,该帖获得了 472 分和 369 条评论。

一些参与者认为,这次更新是合理的服务保护措施。另一些人则将其描述为又一道围绕源自公开网站信息的围栏。还有几人没有纠缠政策争论,而是聚焦于实际的工程挑战。

最有力的解读介于这两种立场之间。Google 并未关闭搜索结果,但它让大规模复用更加依赖由 Google 控制的交互。

此次更新增加了摩擦,并非全面封锁抓取

最大的未知之处在于,`/goto` 是否仍会是一种可管理的重定向格式,还是会成为更严格执法系统中的一层。

当前机制存在明显限制。抓取工具可以请求每个重定向并读取其目标地址。底层 URL 的某些副本也可能仍保留在渲染后的页面其他位置。

Google 需要目标信息来显示域名、网站图标、面包屑导航和来源归属。根据结果格式,采集器或许无需解析每个链接,也能重建部分身份信息。

但这并不总能得到精确的落地页。显示的域名无法区分同一网站上的产品页和支持文章。面包屑文本也可能省略参数或路径组成部分。

此次部署也并不统一。ScrapingBee 报告称,在 Chrome、Edge、Playwright 及其自有采集环境中均发现了 /goto。而 Brave 和 LibreWolf 在同一轮测试中返回了直接链接。

Safari 返回的是另一种 Google 包装链接,而非相同的 /goto 格式。更换代理位置也无法稳定地移除该重定向。

这些结果表明客户端之间存在差异,但并未揭示 Google 的选择规则。浏览器类型可能与结果相关,却未必直接导致这一结果。

在 ScrapingBee 的测试中,这些令牌似乎也具有可移植性。通过一个连接采集到的令牌,之后可由另一个客户端解析,无需原始 Cookie 或代理。

在这些实验中,它们超过 24 小时后仍可使用。其最长有效期仍未知,Google 也可能在不另行通知的情况下更改可移植性或过期规则。

这种不确定性应当影响工程决策。生产级采集器不应将不透明令牌储存为永久标识符,而应在接近采集时间时解析并验证目标地址。

它还应保留原始包装链接以便诊断。同时保留两个值,有助于团队区分排名变化、解析器故障或新的 Google 响应变体。

重试需要谨慎设限。激进地解析可能会放大这次变化似乎意在暴露的请求模式。无边界重试还可能在局部故障期间带来更高成本。

采集系统应在解析前对相同令牌进行去重。ScrapingBee 发现部分结果页面中存在重复令牌,因此可以避免不必要的重复请求。

服务提供商还需要在多个边界进行监控。他们应追踪使用各种包装格式的结果占比、解析成功率、响应代码和延迟分布。

客户输出中 Google URL 的突然增加,是一次解析事故,而非发布商从搜索中消失的证据。区分这些情况可防止误报排名警讯。

分析团队则有另一个问题:当真人访问发布商网站时,该重定向是否会改变引荐归因。

服务器端重定向仍可将用户带往预期目标,同时保留可用的引荐信号。实际归因取决于浏览器行为、请求头、分析配置和 Google 的具体实现。

目前没有经过验证的依据表明,此次部署会广泛破坏自然流量归因。网站运营者应在得出该结论前检查自己的落地请求和分析分类。

Google 的通用重定向指南解释了其爬虫如何理解常见的重定向类型。它并未将 /goto 记录为面向第三方采集器的公开集成接口。

这一差异很重要。Google Search Central 文档告诉发布商如何重定向自己的页面,并不承诺 Google 对外搜索包装链接具有稳定行为。

用户面临的取舍较小,但确实存在。将鼠标悬停在结果上时,可能看到的是 Google 地址,而不是完整目标地址。显示的域名仍提供上下文,但浏览器的状态栏预览信息会变得较少。

这可能削弱一种常见的安全检查。谨慎的用户可能希望在打开前检查确切目标地址,尤其是在多个页面标题相似时。

Google 可以认为,其可见的域名标签和滥用防护依然有效。批评者也可以合理地回应:平台控制的标签并不等同于检查实际链接。

这两种担忧都不能证明此次部署会伤害大多数用户。它表明,即使点击体验看似没有变化,反自动化措施也可能改变透明度。

当前证据支持一个较为有限的结论:/goto 提高了采集成本,破坏了简单解析器,并扩大了 Google 对目标地址解析的控制。

它并不支持“Google 已让搜索抓取变得不可能”这一更强的说法。服务提供商已经展示了可行的解析路径,尽管这些路径带来了新的运营风险。

Google 的反抓取更新迫使团队接下来关注什么

三项信号将决定这究竟会成为一次常规解析器更新,还是搜索数据经济中持久的变化。

第一项信号是链接格式覆盖率。服务提供商应衡量直接 URL、/url 包装链接和 /goto 令牌在不同浏览器、地区和会话状态下出现的频率。

稳定的混合比例将加强这样一种观点:Google 正在运行一套分层控制系统。若迅速转向普遍使用 /goto 链接,则会强化反抓取的解读。

若重新转向直接链接,则会削弱更广泛的结论。这将表明,兼容性问题、用户担忧或实验结果的重要性超过了额外控制所带来的价值。

第二项信号是解析器行为。团队应追踪:简单的 GET 请求是否仍能在没有浏览器会话的情况下,持续返回可用的 302 Location 请求头。

如果这一路径仍然可用,有经验的服务提供商可以将此次更新视为增加的基础设施成本。基础抓取器会失效,但维护良好的系统可以继续运行。

新的身份验证要求、较短的令牌有效期、严格的速率限制或绑定客户端的令牌,都会实质性地提高门槛。它们将表明 Google 正在收紧检查点,而不仅仅是在重写链接。

HEADGET 行为的变化也值得关注。相互矛盾的早期报告说明,服务提供商为何需要直接测试,而不能依赖单一的实现方案。

第三项信号是 SEO 和 AI 产品中的数据质量。客户应留意缺失的落地页、重复的 Google URL、无法解释的排名波动,或止步于重定向包装链接的引用。

这些症状将表明部分服务提供商尚未完全适应。稳定的输出则意味着供应商已吸收这项变化,而没有将太多负担转嫁给客户。

搜索数据买家应向供应商提出具体问题。服务是否返回最终目标地址?是否保留规范参数?如何标记未解析结果?

他们还应询问,报告中的排名是否因链接格式而发生变化。排名工具必须将采集错误与 Google 排序中的实际变动区分开来。

AI 产品团队也需要围绕引用进行类似检查。每一项检索到的主张都应连接至最终发布商 URL,并让运营人员能够看到采集失败。

Google 下一次公开声明同样重要,尽管该公司可能不会提供太多额外细节。若正式解释用户保护或滥用类别,将缩小有关其意图的争论范围。

目前的声明确认 /goto 是一种保护措施。但它并未说明,设计动机是 AI 爬虫、SEO 工具、点击衡量,还是其他类别的滥用。

法律冲突可能提供更多背景。Google 曾挑战一些采集并转售搜索结果的公司,表明技术控制与法律压力并存。

不过,/goto 影响的客户端范围比任何单一被告都更广。研究人员、无障碍工具、浏览器扩展程序和内部监控系统都可能遇到相同的包装链接。

未来几个月将揭示 Google 是否会区分这些用途。统一限制将有利于能够维护大型解析系统的集中式数据提供商。

选择性访问则可能形成不同的市场。受支持的合作伙伴和获批准的接口将变得更加重要,而非官方采集会变得不那么可靠。

对开发者而言,眼下的应对方式很直接:将搜索结果链接视为可变数据,验证目标地址,保留诊断上下文,并将解析器故障与排名变化分开监控。

对买家而言,任务在于验证。在相信报告出现意外变化之前,应询问你的 SEO、监控或研究服务提供商是否已经适应。

对知识工作者而言,当自动化研究系统返回 Google 包装链接时,应检查引用。一个可用的答案应通向底层来源,而不是止步于搜索引擎的路由层。

Google.com/goto:因此,Google 的反抓取更新既不是全面封锁,也不是表面的重定向。它是在搜索数据管道中一个重要节点设置的架构性收费站。

关注这项收费是否仍只是一次低成本请求。如果它加入更严格的身份检查、更短有效期的令牌或更紧的限制,今天的解析器修复将演变为一场更大的访问权争议。

 
 

免费开始

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

你的 AI 工作伙伴

remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page