Gemini 4 Argon 基準測試令 Google 落後於 Claude 及 GPT-6
Google 公布的 Gemini 4 Argon 基準測試結果顯示,該模型在高難度 Android 開發任務上落後於 Claude 及 GPT-6。10 月 26 日的更新帶來了一個尷尬的比較:Google 自己的評估將競爭系統排在其最新產品之前。
這項發現之所以重要,是因為 Android Bench 是 Google 用來評估 AI 輔助 Android 工程的測試,所測試的不只是提出看似合理程式碼的能力。其現時排行榜會就實質開發工作評估模型與代理的組合。代理是使用模型檢視專案、修改檔案及執行開發工具的軟件。
不過,這個標題需要補充說明。這些結果比較的是經配置的系統,而非在相同條件下單獨比較模型。它們亦區分部分進展與完全通過的解決方案。Google 公布的證據顯示存在競爭差距,但其支持的結論較狹窄,不能直接說 Gemini 在 Android 編碼上普遍落敗。
對開發者而言,眼前的問題關乎委派工作。哪一個系統值得接手困難任務,而開發者將要承接多少未完成的工作?對 Google 而言,壓力則更具體:當其自家的排行榜偏向競爭對手時,它需要解釋為何其 Android 開發方案仍應獲得這項委派。
Gemini 4 Argon 基準測試顯示明顯差距,排名亦有修正
Google 公布的結果將 Argon 排在競爭的 Claude 及 GPT 系統之後,但即時排行榜顯示它位列第六,而非第五。
在 10 月 26 日的報道中,9to5Google 將 Argon 列為第五。其 Android 編碼報道正確指出較廣泛的競爭結果:Google 的產品落後於 Anthropic 與 OpenAI 的近期系統。由於目前表格中另一個 Claude 項目緊接排在 Argon 之前,準確排名值得修正。
Google 的 Android Bench 排行榜將 Claude Sonnet 5.5 列為第一,通過率為 40%。GPT 6.1 Sol 錄得 29.3%,而 Gemini 4 Argon 則達到 21.3%。三者的完成率分別為 80.9%、82.8% 及 81.8%。
各項配置亦有所不同。Sonnet 透過 Claude Code 以最高推理強度運行,GPT 透過 Codex 以最高強度運行,而 Argon 則透過 Antigravity SDK 以高強度運行。推理強度是控制模型審慎推理程度的配置設定。任何比較都應保留這些標籤。
這些細節令結果具參考價值,但不代表其具有普遍性。正在評估這些特定系統的團隊有一個具體起點;若讀者要比較各品牌在所有編碼工作上的表現,則較難為籠統判斷提供理據。
排名修正並未消除 Google 的問題。將 Argon 從第五改為第六,改變的是順位,核心觀察仍然成立:多個競爭系統能成功完成更多基準任務。
完成數字也令簡單的解讀變得複雜。Argon 的部分進展分數接近上述競爭對手,但其完全通過的結果則落後。這種模式提出的問題,與模型能否產生大量程式碼並不相同。
開發者可以收到一套龐大的實作,卻仍未獲得可靠的結果。餘下工作可能包括找出隱蔽缺陷、滿足被遺漏的要求,或檢查代理忽略了的行為。單靠排行榜無法確定哪一種解釋最能說明 Argon 的失敗。
因此,最站得住腳的解讀是具體的:Google 受測的 Argon 配置,在完整解決任務方面落後於領先的受測替代方案。這提供了調查其失敗原因的理由,而非把所有輸出都視為同樣薄弱的藉口。
這亦改變了競爭對話。Google 不需要再展示一次 Argon 可以生成 Android 介面。它需要證據證明,經配置的系統可以足夠可靠地完成高難度工作,值得開發者信賴。
Google 面臨將 Android 專業知識轉化為完成成果的壓力
Google 在 Android 的地位帶來期望,但平台擁有權並不能證明其在工程基準測試上的表現較優。
該公司協助定義了這個平台、其開發實務及評估本身,令這個結果尤其矚目。讀者自然會預期,這些優勢能轉化為對 Android 開發者的強大協助。
不過,這種期望是對 Google 優勢的推論,而不是經測量的能力。編碼系統必須在現有專案內運用知識、遵守限制,並從錯誤中恢復。熟悉某個平台並不會自動解決這些協調問題。
Google 在 3 月推出 原始基準測試時,將其定位為識別能力差距及改善模型選擇的方法。這種定位現在尤其重要。即使令 Google 的產品敘事變得複雜,公布不利結果仍與該基準測試的既定目的相符。
公布結果本身不應被混同為承認 Gemini 缺乏價值。評估可以揭示弱點,同時仍對其創建者有用。事實上,一項總是偏向其發布者的基準測試,反而會引起另一種信譽問題。
實際壓力落在圍繞 Argon 的產品方案上。若 Google 希望開發者委派困難的 Android 工作,其證據必須把模型能力與可靠成果連結起來。單靠整合便利並不足以回應效能比較。
對工程經理而言,這會影響論證負擔。選擇熟悉的供應商或可簡化採購或管理,但這些考慮不足以回答其編碼系統能否處理團隊最困難的工作。技術選擇仍需要證據。
反過來說,排名較高的競爭對手亦不會自動值得獲得不受限制的生產工作流程存取權。團隊仍需檢視儲存庫權限、審查期望,以及打算委派的變更類型。基準測試領先只回答了這項決定的一部分。
即時的競爭影響,是削弱了一項假設:Google 自家的模型理應是 Google 流動平台的明顯選擇。Android 開發者現在有平台專屬的理由去測試替代方案。
這構成有意義的壓力,卻無需預測客戶流失。現有證據並未證實採用變化、轉換率或商業後果。它證實的是一項已公布的效能比較,買家可以用來質疑預設選擇。
Google 最有力的回應,是直接處理已量度的弱點。附有變更記錄的新結果,會比籠統宣稱編碼智能更具資訊價值。開發者需要知道哪些方面有所改善、在哪些條件下改善,以及還存在哪些限制。
因此,競爭挑戰是營運層面的。Google 必須展示其專業知識能延伸至完成的應用程式,而非停留在令人信服的解釋或大量修補上。對正在決定委派何種工作的開發者而言,平台信譽正是在這裡成為有用證據。
Claude 與 GPT 在部分進展已不足夠之處領先
競爭差異在於完成的工作,即使系統產生的中間進展數量相近。
完成分數可以認可有用的工作,而不宣告任務已成功。當開發者接手一項看似接近完成的實作時,這項區別尤其重要。可見的程式碼數量並不決定修復餘下問題的難度。
設想一項假設的帳戶建立功能。代理可能建立畫面、連接導覽,並儲存用戶輸入。若應用程式錯誤處理失敗的驗證步驟,該功能在發布前仍需調查。
缺失的行為可能只需要小型修補,但找出它仍可能要求仔細閱讀、重現及測試。因此,部分完成與人力投入需要分開處理;兩者不能機械式地互相換算。
Google 在 9 月的 長時程評估更新中解釋,為何引入更高難度的工作及持續評分。長時程任務是涉及延長且相互依賴步驟的開發工作。Google 描述了建立應用程式、遷移、加入功能及跨平台轉換等工作。
這個轉變改變了領先所代表的意義。一個在局部修正表現出色的系統,已展示某種有價值的能力,但這與管理延展的工程工作不同。在整個專案中保持決策一致,會產生其自身的失敗機會。
Google 的逆轉在於,一個旨在揭示這些機會的基準測試,現在突顯競爭對手領先 Argon。結果以聚焦持續執行的測試,挑戰了主場平台優勢的期望。
Claude 的領先配置,在受突顯系統中提供了完成解決方案方面最強的已公布結果。GPT 的配置則提供另一個競爭參考。它們的排名為開發者提供可檢視的替代方案,而非讓人假定其輸出無需審查的理由。
重要的比較,是獲分配等同工作的系統之間的比較。若一個助手處理困難遷移,另一個則撰寫獨立的工具函式,其表面生產力就不能支持有意義的排名。基準測試透過定義共同評估環境提供協助。
它並未消除該環境與公司的儲存庫之間的差異。團隊的相依項目、架構及驗收準則,都可能改變哪些失敗最重要。優秀的整體結果可以與某項特定工作負載的不良適配並存。
這就是為何 Claude 與 Gemini 的編碼比較需要明確的任務邊界。對完整基準任務的說法應保持與該基準測試相連。若將其延伸至解釋、小型編輯或每個 Android 專案,則需要額外證據。
解讀 GPT 的位置時,同樣需要這種紀律。排名低於領先者並不代表產品不適合使用。它表示在已公布配置下觀察到不同結果,團隊仍須評估其與自身工作的相關性。
對 Argon 而言,挑戰是縮窄大量實作與獲接受完成之間的距離。這比嘗試贏得哪一個模型最了解 Android 的未定義爭論,更是一個可採取行動的目標。
不同代理與推理設定限制了對模型的判斷
Gemini 4 Argon 基準測試比較的是已部署的組合,因此無法把底層模型孤立為差距的唯一成因。
編碼代理控制模型如何與專案互動。其周邊軟件決定工具如何被提供、哪些上下文仍然可用,以及執行如何進行。這些安排的變動可影響開發者實際收到的結果。
這令系統之間的比較具有商業相關性。開發者使用的產品包含工具、權限及執行行為;他們通常不會接觸在周邊軟件以外獨立運作的模型。
不過,商業相關性與因果解釋是不同問題。知道哪個配置表現較好,並不能確立其表現較好的原因。模型、代理、推理設定及彼此互動,仍可能是影響因素。
Google 的 10 月基準測試更新日誌記錄了新增推理強度標籤,以及新的 Argon、Sonnet 5.5 與 GPT 6.1 Sol 結果,亦記錄了已封存的條目。因此,這次更新同時改變了可作出的比較,以及讀者所獲得的配置資訊。
這些標籤提升了透明度,但並未建立跨供應商的標準化衡量方式。一個稱為「high」的設定,不能自動視為等同另一供應商的「max」。這些名稱可識別配置,卻不能證明運算條件相等。
同樣,現在便假設 Argon 在另一設定下能消除劣勢亦為時尚早。這是一項可測試的可能性,而非目前排名所支持的解釋。對於聲稱另一個代理必然能改善結果的說法,也應採取同樣審慎態度。
更有力的因果比較,會有意識地改變這些元素。固定模型而更換代理,有助檢視周邊軟件;固定代理而更換模型,則回答另一個問題。
兩種方法都不能令每項比較變得完全受控。供應商的介面及支援能力可能不同。不過,明確界定實驗邊界,將有助讀者了解結果實際隔離了甚麼因素。
Google 的評估方法亦提出更多限制。當中描述了私人資料集、重複執行、自動化功能檢查,以及由模型輔助的視覺評估;同時警告,資源總量可能偏向較早失敗的系統。
這些披露支持審慎解讀,而非全盤否定。私人任務集合可減少背誦既有解法的影響,卻會令外部重現更困難。自動化評估可擴展評測規模,但審閱者仍須判斷其檢查是否符合預期工作。
報告中的信賴範圍亦有重疊。這不會抹去觀察到的排序,卻限制了人們對固定效能階層的信心。讀者應區分顯示出的結果,與未來執行必定維持每個位置的主張。
審慎的結論仍具實質意義:Argon 在這項已發布的比較中落後。未解決的問題是,這個結果有多少應歸因於模型、其配置、其代理,或評估的特定要求。
Android 團隊需要了解他們將接手的工作
一項有用的採購決策,應問代理提交變更後會發生甚麼事,而非止步於排行榜位置。
對維護應用程式的團隊而言,代理的輸出會成為他人的責任。審閱者必須充分理解變更,才能接受、修復或拒絕它們。這項交接決定看似的進展會否成為可用的工程工作。
設想一項跨越既有應用程式的假設性遷移。助手更新了目標程式碼並報告成功,但審閱者發現請求範圍以外的行為出現變化。團隊現在必須同時調查遷移及其非預期影響。
這種負擔不同於手動編寫原始變更,亦不同於接收完整、可信的實作。基準測試結果可協助識別候選方案,但接收團隊仍須衡量交接品質。
當 Android 編程排名促使人們提出更精確的問題時,才最有用。哪些任務會暴露失敗?系統是否能辨識自己尚未完成?審閱者能否追溯它為何修改某個檔案或採納某項假設?
這些問題很重要,因為自信的摘要可能掩蓋不確定性。開發者需要已檢查內容的證據,而不只是對工作的流暢敘述。這些證據的品質會影響仍需多少獨立驗證。
相關比較亦取決於預期的分工方式。使用 AI 處理有明確界限變更的團隊,與委派長篇實作的團隊有不同期望。後一類別令人失望的結果,並不能決定前一類別的表現。
這個區別讓 Argon 仍有實用空間,毋須淡化其基準測試劣勢。團隊可按實際打算委派的工作評估它,亦不應以熟悉程度或整合程度取代這項評估。
Claude 與 GPT 亦有同樣責任。它們較強的已發布排名值得關注,但本地結果仍必須支持更廣泛的委派。領先的基準測試條目,不能為陌生程式庫或應用程式未明言的要求作出保證。
知識延續性亦是評估的一部分。專案決策、過往失敗及限制條件,能解釋為何看似合理的變更並不合適。若審閱者無法找回這些脈絡,評估代理的選擇便更困難。
處理這個問題的團隊,可使用可搜尋的知識庫整理技術文件及開發決策。這有助取得脈絡,但不能取代可執行檢查,亦不能證明編程效能。
其商業含義是對實用性的更廣泛定義。當助手的工作能減少達成獲接受結果所需的總投入時,它才值得信任。生成的程式碼、有說服力的解釋及中途進展,只有在協助達成該結果時才有意義。
Google 的比較令這個問題更突出,因為它把顯著進展與完整成功區分開來。開發者應仔細檢視這條界線。這正是吸引人的示範轉化為工程承諾之處,也是接收團隊為餘下問題承擔責任之處。
留意 Argon 的後續結果、配置變更及獨立測試
下一項有意義的證據,將顯示 Google 能否在清楚記錄的條件下改善完整任務解決能力。
第一個訊號,是在可比較工作上進行另一項 Argon 評估。更強的結果將支持 Google 正處理已量度弱點的看法。若任務集合有所改變,則任何人要聲稱原本差距已縮窄前,都需要重新比較。
這個區別很重要,因為排行榜可因多個原因而改善。可能是新模型表現更好、代理有所改變,或評估本身演進。讀者需要足夠文件,才能區分這些發展。
具說服力的更新會識別受測版本,並保留清晰的參考點。若欠缺這種延續性,較高分數即使令人鼓舞,仍難以解讀。問題在於可比較要求下的改善,而非僅僅一個較亮麗的數字。
第二個訊號,是對 Argon 代理或推理配置的已記錄變更。這類變更後若有更佳結果,將加強周邊系統導致劣勢的論點;結果若維持不變,則令該解釋較不具說服力。
這亦可釐清競爭回應。Google 可透過多個組件改善面向開發者的產品,而用戶可從綜合成果受益。但在判斷改善能否轉移至另一個開發環境時,識別組件仍然重要。
同樣的審視亦應適用於競爭對手。更新後的 Claude 或 GPT 配置可能擴大觀察到的差距、縮窄差距,或改變排序。變動中的比較要求讀者追蹤受測系統,而非依賴品牌層面的印象。
第三個訊號,是在 Google 任務集合以外的 Android 專案進行獨立評估。相似結果將加強已發布排序具有實際相關性的論點;不同結果則有助識別基準測試較少提供指引的工作負載。
獨立證據應說明任務及驗收準則。沒有清晰界限的成功示範,難以與失敗的長篇任務比較。當讀者能理解代理實際被要求完成甚麼,報告便更有用。
不應假設任何特定結果。現時結果並未證明 Google 會縮窄差距、競爭對手會維持位置,或開發者會轉用產品。它們只確立了一項值得以更受控證據持續追蹤的比較。
Gemini 4 Argon 基準測試目前為 Google 提出一個具體的效能問題。其自身評估偏向在完整解決能力上表現較佳的競爭系統,同時仍留下有關配置及泛化能力的重要問題。
在作出下一個編程代理決策前,先識別你想委派的任務,以及接受結果所需的證據。按該項工作比較候選方案,保留受測配置,並檢視審閱者在提交後會接手甚麼。把失敗嘗試與成功嘗試一併保存,避免一個令人信服的示範主導紀錄。區分中途進展與符合你要求的工作,並記錄人手介入在哪些地方改變結果。這些觀察將令未來的 Android 編程排名更容易解讀。當 Google 發布下一輪 Argon 結果時,請問這些變更是否處理了對你的程式庫重要的失敗?更新後的系統會否令你的團隊留下較少未完成工作?



