top of page

Gemini API 预览按需工具检索

9分钟前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Godfrey Atima / Pexels.

Google 于 2026 年 11 月 19 日推出了 Tool Retrieval,对智能体开始工作前加载每个工具完整说明的惯例提出挑战。其公告《Introducing Tool Retrieval in the Gemini API》介绍了一项预览功能:在需要时加载参数模式,即可接受输入的定义。眼下的问题是,这种选择性是否能改善完整工作流。

核心较量在于预先加载全部内容,还是在执行过程中检索细节。智能体,即利用模型选择并执行操作的软件,需要足够的信息来选择有用的能力。立即提供所有细节会带来另一种问题:相关说明会与任务根本不需要的信息相互竞争。

Anthropic 已提供类似的工具搜索方法,因此 Google 的发布是既有架构转变的一部分。对于开发者和企业采购方而言,压力落在集成设计上。如果助手难以在其中做出选择、响应更慢,或需要反复纠正,那么可用连接数量再多也意义有限。

在 Gemini API 中引入 Tool Retrieval 改变了最先加载的内容

Google 的预览功能改变了工具细节进入模型工作上下文的时机,而不是消除了对这些细节的需求。

根据 Google 的 Tool Retrieval 公告,延迟加载的工具会保留可见的名称和描述,而其参数模式则留在初始上下文之外等待调用。上下文是模型生成回复时可获得的信息。开发者可通过 tool_search 和 defer_loading 启用这一行为。

这一区别划定了该发布的边界。模型仍需要对可用能力进行有用的描述。它可以推迟读取某项操作的确切输入,但仍需掌握足够的信息,以识别该操作的用途。

设想一个连接文档搜索、客户记录、日程安排和支持运营系统的工作场所助手。有关会议的请求不应要求它掌握每项客户管理操作的详细说明。选择性加载让开发者能够将对某项能力的认知与调用该能力的准备状态分开。

其架构含义是,工具描述成为重要的选择界面。在模型获得详细模式之前,模糊的标签会让它只能猜测。简洁且能明确操作、对象和适用情境的描述,则能为发现过程提供更清晰的起点。

这也改变了团队在故障发生时应检查的内容。错误操作可能在参数生成之前就已开始,即助手识别了错误的能力。只查看最终请求会忽略这一更早的决策。

Google 会在交互响应中暴露检索和调用步骤。这种可见性很重要,因为开发者可以区分发现问题与执行问题。前者涉及模型寻求的是哪项能力;后者涉及完成选择后发生了什么。

该预览功能通过 Interactions API 支持 Gemini 3.6 及后续模型,包括 Gemini 4。在讨论采用时,这项可用性应保持明确。功能公告并不意味着与所有现有 Gemini 集成都兼容。

因此,真正的变化比对智能体能力的无限制扩展更为狭窄。Google 引入了另一种管理既有工具访问方式的方法。它的价值取决于,延迟提供细节是否能帮助应用完成用户实际请求的工作。

对于产品团队而言,这是一个有用的重新界定。工具目录可以保持广泛,而模型的即时说明可以保持选择性。接下来的决策是,哪些应用能从中获得足够收益,以至于值得改变现有执行路径。

大型工具目录让集成团队面临压力

承受最明显压力的团队,是那些助手暴露出的能力多于大多数单项任务实际所需能力的团队。

广泛的目录创造了一项产品承诺:助手可以跨越业务系统开展操作。每增加一项连接,也会带来命名选择、重叠操作、访问规则和可能的故障状态。检索改变了这些能力抵达模型的方式,但开发者仍需负责组织它们。

Google 的 function calling 文档 将函数调用描述为把模型连接到外部操作和数据。对于应用定义的函数,模型请求一项操作,再由应用执行。这个分离仍然是评估工具选择功能的核心。

模型选择正确操作,并不意味着该操作已经成功。应用可能遇到不可用服务、过期凭证或无效的业务条件。采购方需要区分发现质量与连接系统的可靠性。

在一个假想的支持工作流中,这种压力会变得具体。客户询问为什么替换件尚未发货。助手需要识别合适的查询操作、解读其结果,并确定是否有必要采取进一步行动。

庞大的集成列表无法回答这些问题。相似的能力可能会检索订单、检查货运状态、创建替换件,或联系客户。它们之间的区别需要经受从自然语言请求到可执行操作这一过程的考验。

从工程角度看,选择性加载让工具目录维护的问题更难被忽视。如果描述相互重叠,检索就增加了另一个可能让歧义影响结果的位置。增加连接器却不审查其名称和职责,只会让选择层越来越难以推理。

负责内部知识工具的团队面临相关但不同的区别。查找文档与查找软件操作是两类不同的检索问题。一个 可搜索知识库 关乎信息访问;工具检索关乎能力访问。

将这些层结合起来可以让助手更有用,但每一层都值得单独评估。系统可以定位到正确文档,却仍选择不恰当的操作。它也可能选择正确的搜索操作,却得到不完整的信息。

企业采购应反映这些差异。询问产品支持多少项集成,只能得到一份清单。询问助手如何选择、授权、执行和验证一项操作,才能更有意义地了解其行为。

对于维护现有应用的开发者而言,这项发布带来了一个实际的审查点。哪些能力确实需要立即可用?哪些属于偶发工作流?哪些与另一工具的用途足够接近,以至于会混淆选择?

这些问题在作出任何迁移决定前就很重要。检索机制可以迅速改变加载行为,而不清晰的目录仍然不清晰。将该公告视为审查其集成设计邀请的团队,将比仅仅启用另一个选项的团队收获更多。

延迟加载让决策更早发生

选择性加载使发现成为操作路径中的明确环节,因此初始描述的质量更为重要。

Google 的 工具检索文档 区分了服务端发现和应用管理的发现。默认服务器模式会在内部解析已声明的工具。客户端检索则允许应用搜索自身注册表,即可用操作目录,并返回匹配的定义。

客户端路径增加了一次请求往返,即应用与模型之间多了一次交换。它也适应在对话期间引入的工具。这些是不同的运行选择,对应用控制和响应时间有不同影响。

设计问题在于选择逻辑应归属何处。稳定的目录可能更适合托管式发现路径,因为应用已知其可用操作。不断变化的目录则可能证明应用参与是合理的,尤其当可用性取决于当前用户或所连接的系统时。

这一判断应遵循应用的需求。更多控制意味着需要维护更多代码、检查更多故障状态,并在响应路径中增加另一项依赖。更简单的托管式路径仍要求对暴露能力进行仔细定义。

该指南还要求持续关注对话状态。必须重新发送工具声明,而自行管理历史记录的应用则必须保留检索步骤及其签名。签名是 API 用于保留检索上下文的不透明值。

对于开发者而言,这意味着小小的配置变动可能带来更广泛的集成影响。转换对话历史的中间件需要审查。只捕获最终答案的日志可能会掩盖选择路径。重试行为需要保留继续执行所需的信息。

这些考虑说明,检索应属于架构讨论,而非功能清单。模型的选择取决于应用暴露了什么、如何描述这种暴露,以及请求之间保留了什么状态。

一个假想的日程助手能让问题更容易理解。“查找可用时间”和“预订会议”涉及相同主题,却带来不同后果。发现过程需要在模型收到详细输入之前保留这种区别。

同样的推理适用于客户操作。“检查退款”和“发起退款”应保持可区分,即使其详细模式尚未提供。围绕清晰用户意图组织的目录,能为选择阶段提供更有用的基础。

这并不能证明延迟加载会改善每一种存在歧义的工作流。它指出了开发者测试时应关注的位置。发现阶段需要在应用其余部分执行工作之前选择正确操作。

这还有一项产品设计层面的含义。当助手找不到合适能力时,用户应获得清晰解释。反复搜索、无关操作和请求澄清代表不同的结果。

成功的实施会让维护团队能够观察这些结果。否则,看似简洁的最终答案可能掩盖混乱的发现过程。加载机制改变了执行路径;应用需要具备足够的可见性来评估这一变化。

Anthropic 提供了先例,而非 Gemini 基准

竞争背景表明按需发现是一种严肃的设计选项,同时 Google 在应用层面的收益仍有待衡量。

Anthropic 的 advanced tool use 文章介绍了其自身的 Tool Search Tool 和延迟定义。它也明确承认其中的权衡:额外的搜索步骤必须通过更好的上下文利用或准确性来证明其价值。

这一先例很重要,因为 Google 正进入一场既有的架构争论。核心选择仍是:应用应立即暴露完整定义,还是应随着工作推进逐步发现这些定义。提供商的品牌并不能消除这一根本性的工程问题。

这些实现方式也存在差异,因此不应轻易视为等同。Google 表示,其延迟工具会在初始上下文中保留名称和描述。Anthropic 则描述了一种搜索机制:先发现延迟工具,再展开其定义。

不能仅因两者都会延迟提供信息,就将这些方法视作可以互换。模型的初始视图会影响其识别相关能力的方式。不同的发现方法也可能产生不同的故障模式。

Anthropic 报告了其实现的内部改进,但这些结果并不能证明 Gemini 的表现。基准测试属于其所测试的模型、工具集合、任务和评估方法。跨提供商套用某个百分比,会掩盖这些条件。

因此,对采购方而言,有价值的比较应聚焦方法论。每个系统最初会揭示什么?它如何找到工具?预期能力不存在时会发生什么?应用如何检查并从错误选择中恢复?

公平的评估还需要可信的基线。若将检索机制与一个刻意杂乱无章的目录比较,就会夸大新机制的贡献。现有方法也应具备清晰描述、合理分组,并移除不必要的操作。

同样,以极少使用的工具为主的测试自然会偏向选择性加载。反复使用大部分可用能力的工作流,则呈现另一种负载。任何一种结果都无法单独描述所有智能体应用。

最有参考价值的比较应保持业务任务不变。用户提出相同问题,已连接的系统返回等价信息,应用遵循相同的授权规则。评估随后检验改变加载策略是否改善了最终完成的结果。

这还包括人的使用体验。反复澄清后才正确完成任务的助手,与一开始就理解请求的助手并不相同。更快的初始响应,仍可能导致整体解决时间更慢。

提供商之间的竞争应让这些差异更容易测试,而非鼓励对谁已解决工具使用问题作出笼统断言。相似的产品方向带来了开展可比实验的机会,但并未直接提供实验结果。

对于 Introducing Tool Retrieval in the Gemini API,可以得出的稳妥结论是:Google 已加入选择性加载能力的趋势。其预览功能是否会成为某个具体应用的首选路径,取决于该应用经测量后的实际表现。

更小的提示词并不保证更低的完整工作成本

相关的经济衡量指标,是成功完成一个工作流的成本,其中包括发现、执行、恢复和持续对话。

Google 表示,Tool Retrieval 不单独收费,但普通模型 token 计费仍然适用。Token 是衡量模型输入和输出的单位。搜索会增加固定的输入开销,而检索到的 schema 在后续对话上下文中仍会产生计费。

这种计费模式带来了有条件的机会。将未使用的材料排除在外,可能减少输入消耗;之后加载材料仍会产生消耗,而最终需要目录中大部分内容的对话则呈现不同的成本特征。

重要的分析点在于分母。只衡量初始提示词,可能会让一项优化看起来比实际更有价值。企业关心的是客户请求是否得到解决、报告是否完成,或预期记录是否被正确更新。

一个假设中的助手或许以更少的输入开始,却进行了一次不必要的发现尝试。它可能检索到错误操作、请求澄清,然后再次尝试。此时,初始节省只描述了交互的一部分。

反向结果同样可能发生。更好的选择可以避免一次错误调用及随后的恢复工作。在这种情况下,收益不仅来自被省略的 schema 文本。

如果没有证据,任何一种情景都不应被表述为已观察到的 Gemini 结果。它们解释了为何团队需要衡量实际工作负载。Token 数量、完成质量和耗时回答的是相关问题,但没有任何一项可以替代其他项。

延迟,即响应或操作完成前经过的时间,也需要同样谨慎地对待。内部服务器搜索避免了一次额外的应用交换,但它仍是请求内部的一项工作,因此“没有额外往返”并不等于“没有检索时间”。

缓存增加了另一个变量。缓存会复用符合条件的、此前已处理的内容。Google 表示,延迟加载可保留稳定的提示词前缀,但团队在估算经济收益前,仍需检查自身实际的对话模式。

安全性和权限也应纳入同一项实际评估。直到稍后才隐藏或提供 schema,并不能证明用户有权执行该操作。应用应在暴露能力时和执行具有后果的操作时都强制执行访问控制。

退款示例清楚说明了这一边界。发现退款操作回答的是哪个工具适合某项请求;它并不能证明客户符合退款条件、金额正确,或当前用户有权授权退款。

预览功能也将发布风险留给采用者。Google 的文档将 Tool Retrieval 标记为预览功能,其接口可能在正式发布前发生变化。团队在决定依赖程度时需要考虑这一状态。

因此,合理的试点不应只评估更低的输入数量,还应比较已完成的任务、错误、恢复工作量和总耗时。当效率在这些更广泛的衡量标准下依然成立时,结果才具有商业意义。

这正是该公告承诺的核心限制。选择性加载创造了更谨慎使用上下文的机会,但并不能免除证明整个应用表现更好的需要。

接下来应关注稳定性、工作流结果和目录质量

下一阶段应依据可观察的应用结果来评判,同时将发布成熟度和可维护性作为必要背景。

首先应关注产品稳定性。在未来数月中,预览状态、支持行为和文档的变化将影响采用决策。稳定的接口能让团队更容易投入工程资源,并维持一致的行为。

这一信号会加强更广泛使用的理由,但不能证明效率有所提升。发布成熟度和工作负载表现回答的是不同问题。可靠的接口对于工具集紧凑且高频使用的应用,仍可能是错误选择。

第二个信号是完整工作流的证据。有价值的结果应在选择性加载和预先加载下比较等价任务,并保持应用的其他行为稳定。报告应说明哪些内容成功、哪些失败,以及恢复如何影响结果。

跨多种请求的结果会比精心挑选的演示更有说服力。常规查询、模糊请求、不断变化的对话目标以及不可用能力,会暴露不同的弱点。能在这些条件下表现良好的功能,拥有更有力的采用依据。

在完成质量稳定的同时,若有证据表明总输入消耗更低,将支持 Google 的效率论点。更多的发现失败或更长的解决时间,则会削弱其在所测试工作负载中的论据。无论哪种结果,都有助于开发者作出更具体的决定。

第三个信号是维护中应用的目录质量。团队应关注:随着集成发生变化,清晰的名称、聚焦的描述和有意划定的能力边界是否仍然有效。若一个应用需要不断修补才能保持可发现性,其维护负担就另当别论。

这一信号同样关乎责任归属。当某项能力发生变化时,需要有人负责其描述、访问条件和预期行为。检索使这种责任更显而易见,因为目录文本直接参与选择过程。

对企业采购方而言,这些信号意味着应向供应商提出具体问题。产品能否展示它如何选择某项操作?能否解释发现失败?团队能否比较改变加载策略前后的完整工作流?

对开发者而言,最有力的下一步是使用具有代表性的工作进行有限范围的比较。应包括需要熟悉能力的请求、需要偶发能力的请求,以及本应不产生任何操作的请求。保留既有基线,以确保结果仍可解释。

应将 Introducing Tool Retrieval in the Gemini API 视为一种可测试的架构变更。选择一个用户已能察觉选择错误或延迟的工作流,然后比较成功完成率、总消耗和耗时。检查助手选择错误、未发现有用内容或需要澄清的案例。也应结合这些失败审视目录,因为更清晰的描述可能解决仅靠加载变化无法解决的问题。在整个比较过程中保持权限一致,并在预览功能发展期间保留原有执行路径。最终决策应遵循来自自身应用的证据:选择性加载是否能让助手以更少的用户投入,完成正确的工作?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page