Gemini API 預覽按需工具檢索功能
Google 於 2026 年 11 月 19 日推出 Tool Retrieval,挑戰代理程式在開始工作前載入每項工具完整指令的做法。其公告〈Introducing Tool Retrieval in the Gemini API〉介紹了一項預覽功能,可在需要時才載入參數 schema,即可接受輸入的定義。眼前的問題是,這種選擇性是否能改善完整工作流程。
核心競爭在於預先載入所有內容,還是在執行期間檢索細節。代理程式是指利用模型選擇及執行操作的軟件,需要足夠資訊來選取有用的能力。立即提供所有細節會帶來另一個問題:相關指令要與任務從不需要的資訊競爭。
Anthropic 已提供類似的工具搜尋方式,使 Google 的推出成為既有架構轉變的一部分。對開發人員及企業買家而言,壓力落在整合設計上。若助理難以從中作出選擇、回應時間變長,或需要反覆修正,即使可用連接的清單更長,意義也會減少。
Gemini API 的 Tool Retrieval 改變了最先載入的內容
Google 的預覽版改變工具細節進入模型工作上下文的時機,而非免除對這些細節的需要。
根據 Google 的 Tool Retrieval 公告,延遲工具會保留可見的名稱和描述,而其參數 schema 則會留在初始上下文之外等待。上下文是模型生成回應時可取得的資訊。開發人員可透過 tool_search 和 defer_loading 啟用此行為。
這個區別界定了此次推出的範圍。模型仍需要對可用能力有實用的描述。它可以延後讀取某項操作的精確輸入內容,但需要足夠資訊辨識該操作的用途。
試想一個假設的工作場所助理,連接至文件搜尋、客戶記錄、排程和支援營運系統。有關會議的要求,不應需要每項客戶管理操作的詳細指示。選擇性載入讓開發人員能將對某項能力的認知,與準備好調用該能力分開處理。
其架構含意是,工具描述成為重要的選擇介面。模糊的標籤會令模型在收到詳細 schema 前只能猜測。能夠識別操作、對象及預定情境的精簡描述,為探索提供更清晰的起點。
這亦改變了團隊在故障發生時應檢查的內容。不正確的操作可能在產生引數之前已開始,即助理識別了錯誤的能力。只檢視最終請求,會錯過這個更早的決定。
Google 在互動回應中公開檢索和調用步驟。這種可見性很重要,因為開發人員可區分探索問題與執行問題。前者關乎模型尋找了哪項能力;後者則關乎選擇後發生了甚麼。
預覽版透過 Interactions API 支援 Gemini 3.6 及後續模型,包括 Gemini 4。這項可用性在採用討論中應保持明確。功能公告並不代表與所有現有 Gemini 整合均相容。
因此,有意義的改變較不受限制地擴展代理程式能力更為狹窄。Google 引入了另一種管理現有工具存取的方法。其價值取決於延遲提供細節,是否有助應用程式完成用戶實際提出的工作。
對產品團隊而言,這是一個有用的重新框定。目錄可以保持廣泛,而模型的即時指令則可維持選擇性。下一個決定是,哪些應用程式受益足以證明改變其既有執行路徑是合理的。
大型工具目錄為整合團隊帶來壓力
面臨最明顯壓力的團隊,是其助理提供的能力多於大部分個別任務所需的團隊。
廣泛的目錄帶來一項產品承諾:助理可以跨越各個業務系統運作。每增加一項連接,同時也增加命名選擇、重疊操作、存取規則和可能的失敗狀態。檢索改變這些能力如何到達模型,但開發人員仍須負責其組織方式。
Google 的 function calling 文件 將 function calling 描述為把模型連接至外部操作和資料。就應用程式定義的函數而言,模型請求一項操作,而應用程式負責執行。這種分隔仍是評估工具選擇功能的核心。
模型選擇正確操作,並不表示操作已成功。應用程式可能遇上無法使用的服務、已過期的憑證或無效的業務條件。買家需要區分探索品質與連接系統的可靠性。
在一個假設的支援工作流程中,這種壓力會變得具體。一名客戶詢問為何替換貨品尚未寄出。助理需要識別合適的查詢方式、理解其結果,並判斷是否有理由採取另一項行動。
龐大的整合清單無法回答這些問題。相似的能力可能用於擷取訂單、檢查貨運、建立替換貨品或聯絡客戶。這些差異需要在從自然語言請求到可執行操作的路徑中保留下來。
從工程角度看,選擇性載入使目錄維護更難被忽視。若描述互相重疊,檢索便增加了一個模糊性可影響結果的位置。若只增加連接器而不檢視其名稱和職責,選擇層便會愈來愈難以理解。
負責內部知識工具的團隊亦面對相關區別。尋找文件與尋找軟件操作,是兩個不同的檢索問題。一個 可搜尋知識庫 關乎存取資訊;工具檢索則關乎存取能力。
將這些層結合可以令助理更有用,但每一層都值得獨立評估。系統可以找到正確文件,卻仍選擇不恰當的操作。它亦可能選取正確的搜尋操作,卻取得不完整資訊。
企業採購應反映這些差異。詢問產品支援多少項整合,只能提供庫存清單。詢問助理如何選擇、授權、執行及驗證一項操作,則能更有意義地呈現其行為。
對維護既有應用程式的開發人員而言,此次推出提供了一個實際檢視點。哪些能力確實需要立即可用?哪些屬於偶發工作流程?哪些與另一項工具的用途足夠相近,以致可能混淆選擇?
這些問題在任何遷移決定之前都很重要。檢索機制可以迅速改變載入行為,但不清晰的目錄仍然不清晰。將公告視為檢視整合設計邀請的團隊,會比單純啟用另一個選項的團隊學到更多。
延遲載入把決定前移
選擇性載入令探索成為操作路徑的明確部分,因此初始描述的品質更為重要。
Google 的 工具檢索文件 區分伺服器端探索與由應用程式管理的探索。預設伺服器模式會在內部解析已宣告的工具。客戶端檢索則讓應用程式搜尋自己的 registry,即可用操作目錄,並回傳相符定義。
客戶端路徑增加一次請求往返,即應用程式與模型之間的額外交換。它亦可容納在對話期間引入的工具。這些是不同的運作選擇,對應不同的應用程式控制程度和回應時間後果。
設計問題在於選擇邏輯應置於何處。穩定的目錄可能較適合受管理的探索路徑,因為應用程式已知道可用的操作。當可用性取決於目前用戶或連接系統時,變動的目錄可以證明應用程式介入是合理的。
這項判斷應跟隨應用程式的要求。更多控制意味著更多需要維護的程式碼、更多需要檢查的失敗狀態,以及回應路徑上的另一項依賴。較簡單的受管理路徑,仍需要一組經過仔細定義的公開能力。
指南亦要求持續注意對話狀態。工具宣告必須重新傳送,而自行管理歷史記錄的應用程式必須保留檢索步驟及其簽名。簽名是 API 用來保留檢索上下文的不透明值。
對開發人員而言,這表示一項小型設定變更可能有更廣泛的整合含意。轉換對話歷史記錄的中介軟件需要檢視。只擷取最終答案的記錄方式,可能掩蓋選擇路徑。重試行為需要保留延續所需的資訊。
這些考慮說明,檢索應屬於架構討論,而非功能核對表。模型的選擇取決於應用程式公開甚麼、如何描述這些公開內容,以及請求之間保留甚麼狀態。
假設的排程助理令問題更容易理解。「尋找可用時間」和「預約會議」涉及同一主題,卻帶來不同後果。在模型收到詳細輸入前,探索需要保留這個區別。
同樣的推理適用於客戶操作。「檢查退款」和「發出退款」即使缺少詳細 schema,仍應維持可區分性。圍繞清晰用戶意圖組織的目錄,能為選擇階段提供更有用的基礎。
這並不證明延遲載入會改善每個含糊的工作流程。它指出了開發人員測試時應檢視的地方。探索階段需要在其餘應用程式能完成工作前,選擇正確操作。
這亦有產品設計上的含意。當助理找不到合適能力時,用戶應獲得清晰解釋。重複搜尋、不相關的操作,以及要求澄清,代表不同的結果。
成功的實作會讓維護團隊能夠觀察這些結果。否則,看似簡潔的最終答案可能掩蓋混亂的探索過程。載入機制改變執行路徑;應用程式需要有足夠可見性評估這項改變。
Anthropic 提供先例,而非 Gemini 基準
競爭背景支持按需探索作為一項嚴肅的設計選項,同時仍有待衡量 Google 在應用程式層面的好處。
Anthropic 的 advanced tool use 文章介紹其 Tool Search Tool 與延遲定義。它亦明確承認取捨:新增的搜尋步驟必須透過更好的上下文使用或準確度,證明其存在價值。
這項先例之所以重要,是因為 Google 正加入一場既有的架構辯論。核心選擇仍是:應用程式應立即公開完整定義,還是隨工作推進才逐步發現它們。供應商品牌並不能消除背後的工程問題。
各項實作亦存在差異,令人不宜輕率視為等同。Google 表示,其延遲工具會在初始內容中保留名稱及描述。Anthropic 則描述了一種搜尋機制,會先發現延遲工具,再展開其定義。
這些做法不應只因同樣延遲提供資訊,便被視為可互換。模型最初看到的內容會影響它如何辨識相關能力。不同的發現方式亦可能產生不同的失敗模式。
Anthropic 報告其實作在內部有所改善,但那些結果並不能證明 Gemini 的效能。基準測試只適用於其受測模型、工具集合、任務及評估方法。將百分比跨供應商套用,會掩蓋這些條件。
因此,對買家而言,有用的比較應着重方法。每個系統最初揭示甚麼?它如何尋找工具?當預期能力不存在時會怎樣?應用程式又如何檢查及從錯誤選擇中復原?
公平的評估亦需要可信的基準。若把檢索功能與刻意雜亂無章的目錄相比,便會誇大新機制的貢獻。既有做法也應有清晰描述、恰當分組,並移除不必要的操作。
同樣地,若測試主要由甚少使用的工具構成,自然會偏向選擇性載入。若工作流程反覆使用大部分可用能力,則呈現另一種工作負載。單憑任何一種結果,都不足以描述所有代理應用程式。
最有參考價值的比較,會維持商業任務不變。使用者提出同一問題,已連接系統返回等同資訊,而應用程式遵循相同授權規則。評估其後才檢視改變載入策略是否改善完成結果。
當中亦包括人類體驗。需要反覆澄清後才正確完成的助手,與立即理解要求的助手並不相同。較快的初步回應,仍可能帶來較慢的整體解決時間。
供應商之間的競爭,應令這些區別更容易測試,而不是鼓勵對誰已解決工具使用問題作出籠統宣稱。相近的產品方向創造了進行可比實驗的機會,卻不會提供實驗結果。
對於 Introducing Tool Retrieval in the Gemini API,合理的結論是 Google 已加入走向選擇性能力載入的趨勢。其預覽版會否成為特定應用程式的首選路徑,取決於該應用程式的實測行為。
較小的提示並不保證成功完成工作的成本更低
相關的經濟衡量指標,是成功工作流程的成本,包括發現、執行、復原及持續對話。
Google 表示,Tool Retrieval 不設獨立功能收費,但一般模型 token 計費仍然適用。Token 是用作衡量模型輸入及輸出的單位。搜尋會增加固定輸入開銷,而已檢索的 schema 在其後對話內容中仍會計費。
這種計費模式帶來有條件的機會。將未使用的內容排除在外,可減少輸入消耗。稍後載入內容仍會產生消耗,而最終需要目錄中大部分內容的對話,則有不同的成本特徵。
重要的分析要點在於分母。若只衡量初始提示,可能令某項最佳化看來比實際更有價值。企業真正關心的是客戶要求是否已解決、報告是否已完成,或目標紀錄是否已正確更新。
假設有一個助手,可能以較少輸入開始,卻作出不必要的發現嘗試。它可能檢索到錯誤操作、要求澄清,然後再試一次。初始節省因而只描述互動的一部分。
反過來的結果亦有可能。較佳的選擇可避免錯誤呼叫,以及其後的復原工作。在這情況下,效益不止於省略的 schema 文字。
在沒有證據下,這兩種情況都不應被表述為已觀察到的 Gemini 結果。它們說明了團隊為何需要工作負載衡量。Token 數量、完成品質及經過時間回答的是相關問題,但沒有一項能取代其他項目。
延遲,即回應或操作完成前的經過時間,也需要同樣審慎看待。內部伺服器搜尋避免了額外的應用程式交換,但它仍是請求內的一部分工作,因此「沒有額外往返」不代表「沒有檢索時間」。
快取增加了另一個變數。快取會重用合資格且先前已處理的內容。Google 表示延遲載入可保留穩定的提示前綴,但團隊仍須在估計經濟效益前檢視實際對話模式。
安全性及權限亦屬同一實際評估的一部分。將 schema 隱藏至稍後才提供,並不能證明使用者有權執行該操作。應用程式應在公開能力時,以及執行具後果的操作時,強制執行存取控制。
退款例子清楚說明這條界線。發現退款操作,只能回答哪個工具適合某項要求;它不能證明客戶符合資格、金額正確,或目前使用者可作出授權。
預覽版亦將發佈風險留給採用者。Google 的文件將 Tool Retrieval 列為預覽功能,其介面可在正式推出前更改。團隊在決定依賴它的程度時,需將這個狀態納入考量。
因此,合理的試行不應只評估較低輸入數量,也應比較已完成任務、錯誤、復原工作量及總經過時間。當效率在這些更廣泛的衡量中仍能維持,結果才具有商業意義。
這正是公告承諾的核心限制。選擇性載入創造了更審慎使用內容上下文的機會,卻不能免除證明整個應用程式表現更好的需要。
下一個訊號是穩定性、工作流程結果及目錄品質
下一階段應以可觀察的應用程式成果評價,而發佈成熟度及可維護性則提供不可或缺的背景。
第一個值得留意的訊號是產品穩定性。在未來數個月,預覽狀態、支援行為及文件的變化,將影響採用決策。穩定的介面讓團隊更容易投入工程資源,並維持一致行為。
這個訊號會加強擴大使用的理據,但不能證明有效率提升。發佈成熟度及工作負載效能回答的是不同問題。即使介面可靠,對工具集精簡且常用的應用程式而言,它仍可能不是正確選擇。
第二個訊號是完整工作流程的證據。有用的結果應比較選擇性載入與預先載入下的等同任務,同時維持應用程式其他行為不變。報告應說明甚麼成功、甚麼失敗,以及復原如何影響結果。
涵蓋不同要求的結果,會比精心挑選的示範更具說服力。日常查詢、含糊要求、變化中的對話目標及不可用能力,會暴露不同弱點。能在這些情況下表現良好的功能,有較強的採用理據。
若有較低總輸入消耗的證據,同時完成品質保持穩定,將支持 Google 的效率論點。若出現更多發現失敗或更長解決時間,則會削弱其在受測工作負載上的理據。任何一種結果,都有助開發者作出更具體的決定。
第三個訊號是受維護應用程式中的目錄品質。團隊應留意,隨着整合服務改變,清晰名稱、聚焦描述及有意識的能力界線是否仍然有效。若應用程式需要持續修補才能維持可發現性,便會有不同的維護負擔。
這個訊號亦關乎問責性。當某項能力改變時,必須有人負責其描述、存取條件及預期行為。檢索令這種責任變得可見,因為目錄文字會直接參與選擇過程。
對企業買家而言,這些訊號提示了可向供應商提出的具體問題。產品能否展示它如何選擇某項操作?能否解釋發現失敗?其團隊能否比較改變載入策略前後已完成的工作流程?
對開發者而言,最有力的下一步,是利用具代表性的工作進行有範圍的比較。包括需要熟悉能力的要求、需要偶爾使用能力的要求,以及不應產生任何操作的要求。保留現有基準,讓結果保持可解讀性。
將 Introducing Tool Retrieval in the Gemini API 視為可測試的架構改變。選擇一個使用者已察覺選擇錯誤或延遲的工作流程,然後比較成功完成率、總消耗及經過時間。檢視助手錯誤選擇、發現不到有用內容或需要澄清的情況。連同這些失敗一併檢討目錄,因為更清晰的描述可能解決僅靠改變載入方式無法處理的問題。在整個比較過程中保持權限一致,並在預覽版發展期間保留原有執行路徑。決定應依據應用程式的證據:選擇性載入是否能讓助手以較少使用者付出,完成正確工作?



