Gemini 4 Carbon 基準測試落後 Claude,但性價比更具說服力
Google 的 Gemini 4 Carbon 在一項新基準測試中落後於 Claude Opus 5.5,但每項任務的平均支出明顯較低。Gemini 4 Carbon 基準測試結果為 Google 提供了可信的性價比論據,儘管這項比較帶有一個重要限制:改變測試領域,排名亦會隨之改變。
SemiAnalysis 的 GDPx 是一項評估 AI 系統執行延長專業任務能力的測試,其總分將 Anthropic 排在前列。Carbon 緊隨其後,足以引出一個實際採購問題:領先結果所需的額外支出,究竟是否值得?這個問題對於資助重複運行的開發者,以及決定哪些工作值得使用最昂貴模型的企業尤其重要。
這些發現支持一個審慎的結論。Carbon 值得納入高要求工作流程的考慮範圍,但其位置取決於所評估的工作,以及規管執行的條件。較低的實測支出令 Google 更有理由進行試用,但並不能證明每位客戶的營運成本都會較低,亦不能證明 Carbon 在專業工作上全面媲美 Claude。
Gemini 4 Carbon 基準測試令 Google 躋身前列
GDPx 公開排行榜顯示,Claude Opus 5.5 得分為 12.0%,其後是 Carbon 的 10.9% 及 GPT-6 Astra 的 9.6%。這項評估涵蓋 11 個領域、共 206 項任務,並由 14 個專業合作夥伴共同開發。各領域權重相同,結果取自三次嘗試的平均值,並使用針對任務的評分方式。部分任務設有部分分數,因此整體百分比並非簡單的完成率。這些細節可見於 GDPx 排行榜。
Carbon 的結果確立了它在這項評估中的競爭位置;其意義取決於評估本身的設計。
對於比較 Google 與 Anthropic 的讀者而言,眼前的分別相當直接:Claude 在總分上領先,Google 則以不同的支出模式取得接近的結果。兩項觀察都不代表應把排行榜視為普世的智能排名。
基準測試是一組經挑選的問題、工具及評分規則。其價值在於令這些選擇足夠透明,以便作出解讀。因此,評估合約研究的機構應提出與評估軟件維護團隊不同的問題。
總體結果提供了初步比較,但無法決定某個買家會遇到哪些錯誤,或修正這些錯誤需要多少介入。實測表現與實用表現之間的落差,正是採購決策變得更複雜之處。
試想一個調查現有應用程式故障的工程團隊。實用的模型必須找出相關證據、提出站得住腳的改動,並產出讓審查人員可測試的成果。只有流暢的解釋、卻沒有可用的修正方案,反而會增加工作量。
對該團隊而言,相關比較包括修補程式的質素,以及驗證它所需的投入。一般排行榜名次可提供背景,但團隊自己的程式庫才決定結果能否遷移。
另一個機構或許主要關心如何從不斷變動的文件集合中提取一致答案。其驗收準則會著重證據覆蓋範圍、相互矛盾的紀錄,以及準確引註。同一個總體排名,可能在該情況下支持不同的採購決定。
這正是新結果的重要性所在,卻未能為競爭定論。它令 Carbon 成為高難度工作候選名單的一員。下一個問題是,其實測經濟效益能否從基準測試環境延續至買家的實際工作流程。
這項區分亦可避免常見的報道錯誤。總分上的微小差距,並不代表競爭系統犯下的錯誤可以互換。買家需要知道這些錯誤出現在哪裡。
較低的實測支出對 Claude 的溢價構成壓力
9to5Google 在 11 月 2 日的報道強調,Carbon 的平均基準測試支出遠低於 Claude Opus 5.5。報道亦指出,GPT-6 Astra 的總分較低,卻在評估中成本更高。基準測試成本比較是價值論點的基礎,而非對訂閱計劃作出一般評估。
Anthropic 面臨的挑戰,是說明 Claude 額外的實測表現在哪些情況下足以收回其額外開支。
這是對結果的經濟解讀,並非客戶已經更換供應商的證據。當買家能以任何一個系統重現可接受的結果時,這種壓力才變得相關。一旦如此,支出差異便值得更仔細審視。
對於反覆運行研究或工程工作的企業而言,推理支出是指讓模型處理請求並生成回應的成本。隨着使用規模擴大,這項開支會變得更重要。一個在實驗階段看似可負擔的工作流程,若在整個組織重複使用,可能會變得難以負擔。
不過,每次嘗試任務的平均支出只是計算的一部分。買家最終支付的是有用成果的費用。一次便宜的嘗試如需大量修正,可能在工作交付予客戶前已失去優勢。
因此,人手審核亦應納入同一比較。審查人員必須確認答案是否回應請求、遵守限制,以及是否有證據支持重要主張。即使模型本身的帳單看來較有利,他們所耗費的時間仍可改變經濟效益。
重試亦基於相似原因而重要。需要反覆嘗試的系統會消耗額外資源,並延遲完成時間。買家應區分每次嘗試成本低,與每個獲接受結果成本低之間的差異。
可修復錯誤與代價高昂的錯誤亦有所不同。格式問題通常容易修正;隱藏在技術建議中的錯誤假設,則可能需要更多調查。
這意味着,若 Claude 的輸出需要較少修正,或能捕捉更多重要問題,它便可在相關工作流程中證明其溢價合理。若 Carbon 能以較低總投入達到相同驗收標準,選擇它亦有其理據。基準測試並不能決定哪一種情況適用。
競爭影響仍然相當重要。Google 有基於證據的理由,要求買家把 Carbon 與領先者一併評估。Anthropic 則必須解釋差距的實際價值,而不能完全依賴其榜首位置。
對採購團隊而言,這會將討論轉向可量度的成果。有用的問題變成每個系統如何根據共同的驗收標準表現。品牌偏好和總體位置仍是背景因素,而完成的工作才決定採購。
安全篩選改變競爭格局
SemiAnalysis 將 Claude 與 GPT 模型部分較低的結果歸因於安全分類器,即根據安全規則篩查請求或行為的系統。其 GDPx 方法論討論了排除網絡安全、生物學及對齊研究;後者關乎令 AI 行為與預期目標保持一致。這產生了不同的比較。評估機構亦在可用時於模型原生的執行工具中運行模型,因此結果比較的是可運作的系統。
受安全行為影響的排名,不能只被視為底層解難能力的排名。
一個系統可能因為無法解決問題而未能完成請求,也可能因為其保障機制識別出疑慮而拒絕繼續。在以完成為導向的評估中,這些結果看來相似,但對買家帶來不同含義。
對獲授權的研究團隊而言,不必要的拒絕可能中斷合法工作。從這個角度看,拒絕行為應納入實用性評估。一個技術上有能力的系統,仍需要支援客戶獲准執行的任務。
對另一個機構而言,同一限制可能是可取的。廣泛部署 AI 的公司可能優先考慮在敏感請求上設立可預測的界線。其偏好的系統,可能不同於在研究基準測試中最常繼續執行的系統。
經篩選的排名帶來另一個解讀問題:移除敏感領域會改變受評估的工作量。它不會揭示同一批模型在不同保障措施下,於這些任務上的表現。
這項區分限制了讀者可從 Carbon 位置推斷的內容。未經篩選的結果描述了公開組合下的表現;經篩選的結果則描述較狹窄的組合。當另一項結果被忽略時,任何一項都不應被宣傳為普世答案。
因此,Gemini 4 Carbon 基準測試提出了一個比「Google 是否已追上 Anthropic」更精確的問題:能力、拒絕行為與執行工具的哪種組合,最符合客戶需求。
執行工具之所以重要,是因為 AI 代理系統,即透過軟件採取行動的系統,不只取決於其回應。其環境塑造了它能檢查哪些檔案、執行哪些指令,以及如何獲取回饋。
一個假設的編碼助理可能能正確推理某個缺陷,卻難以運行專案測試;另一個則可能從環境錯誤中高效恢復。買家會將這些差異視為產品差異。
這令實際評估具備優勢:它們可反映客戶實際使用的系統,但亦限制了對單一模型的主張。強勁結果並不能指出哪個組件應獲歸功。
因此,買家在選擇贏家前應調查失敗類別。不必要的拒絕、錯誤推理、遺漏背景資訊及工具故障,需要不同的應對方式。把它們合併成單一判斷,可能掩蓋系統令人失望的原因。
其他評估進一步突顯需要按任務作出判斷
其他獨立評估提供了有用檢驗,但未能解決 GDPx 的競爭結果。Vals Index 按美國經濟產出中的行業份額為選定專業任務加權,其 10 月 30 日更新列出 Claude Sonnet 5.5 為 70.85%。Carbon 以 70.45% 緊隨其後,領先 Claude Opus 5.5 的 70.18%。這些專業任務結果採用不同方法論,應與 GDPx 分開看待。
不同基準測試的領先者不同,正是應在從排名作出概括前檢視工作負載的原因。
這種對比與 Gemini 4 Carbon 對 Claude 的比較相關,因為「Claude」涵蓋不同模型。涉及 Opus 的結果不會自動描述 Sonnet。比較需要準確的模型身分,以及測試條件。
它們亦需要評估日期。公開排行榜是特定系統在特定條件下的快照。其後更新可以改變比較結果,卻不會令較早的快照變得不誠實或無用。
對買家而言,不同評估之間的差異有助辨識尚未解決的問題。對專業實用性的廣泛主張,需要涵蓋客戶實際執行工作類型的證據。在不同簡報中重複同一個總體主張,並不會增加多少信心。
Zapier 的另一項評估說明,配置如何改變結果。AutomationBench 測試模擬商業工作流程的完成度。Carbon 在低推理強度下得分為 31.5%,中等強度為 53.0%,高強度為 53.9%。因此,其商業工作流程評估顯示,低與中等強度之間的提升,遠大於中等與高強度之間的提升。
這些數字並不能解釋 Carbon 的 GDPx 分數。它們只支持一個較狹窄的觀點:模型設定可對量度到的表現產生實質影響。若比較未交代這些設定,買家便無法取得重現結果所需的資訊。
在營運層面,單憑模型名稱並不足以界定產品行為。買家亦需要了解擬議部署所採用的配置。在高要求設定下觀察到的表現,未必能轉移至成本較低或速度較快的配置。
反過來說,最高可用設定亦不會自動帶來最佳商業成果。額外運算必須帶來足夠改善,才能合理化其對成本和等候時間的影響。這項判斷取決於工作種類。
例如,假設的背景研究流程若可減少輸出內容所需的審閱,或許能容忍較長的執行時間。互動式助理則可能優先考慮反應速度,因為用戶須等待後才能繼續。兩種偏好都不能直接從綜合排行榜推導出來。
這正是知識工作流程設計進入討論的地方。評估AI 知識管理的團隊,亦需要檢視相關資訊如何送達模型。在推理質素成為決定因素前,缺失證據已可削弱一個能力強大的系統。
因此,面對互相競爭的基準測試結果,最有用的回應是提高具體程度。界定工作、可用資訊、配置及驗收準則,然後按這些要求評估完整工作流程。
存取與驗證決定價值能否傳遞至客戶
Google 於 10 月 28 日公布 Carbon,並表示會先向部分網絡安全防禦人員及可信合作夥伴分階段推出。其既定計劃是在取得更多意見回饋及完成安全保障工作後擴大存取範圍。Google 的發布文章亦提出其自身的能力主張。Carbon 推出詳情表明,公布消息與廣泛向客戶提供服務是兩個不同的里程碑。
當客戶能在可用條件下測試相關系統時,有利的基準測試結果才會在商業上變得有用。
這與價值論點直接相關。若無法存取模型及比較背後的設定,買家便不能驗證預期節省。可用性決定 Carbon 是即時選項,還是未來候選方案。
分階段開放亦可能限制公開意見回饋的廣度。來自獲選機構的早期結果,或能揭示高要求應用情境,但仍可能未能回答日常部署的問題。買家應區分具前景的評估,與已在不同客戶群中證實的表現。
對 Google 而言,下一個商業挑戰是把基準測試的吸引力轉化為可用的產品。這不僅是產生優質答案。客戶需要穩定存取、清晰的行為表現,以及足夠的營運資訊,以評估完整工作流程。
對 Anthropic 而言,即使競爭對手取得吸引人的結果,服務可用性及既有整合仍可帶來實際優勢。已經使用 Claude 的團隊,必須考慮轉換系統所需的工作量。這項工作量應予量度,而非憑假設判斷。
轉換涉及檢查提示詞、工具、權限及下游預期。一項對人而言看似等效的輸出,仍可能令預期特定結構的軟件失效。即使模型質素相若,這些差異仍會影響採用決定。
Gemini 4 Carbon 基準測試並未量度這些轉換成本,但它提供了調查這些成本的理由。買家不應默默將有利的基準測試成本,視為完整遷移商業案例。
驗證帶來另一項限制。這裏審閱的證據只證實評估者所發布的內容;它並非對 GDPx 的獨立重現。若能重現,將可加強對所報告的表現與支出關係的信心。
在此之前,相關主張應繼續與其來源及條件掛鈎。Carbon 在已發布的評估中取得強勁結果。這支持進一步測試,但不能證明每位客戶都會體驗到同樣優勢。
同樣的紀律亦適用於部署範例。假設的研究助理如需處理內部技術文件,便需要準確選取證據及可靠歸因。假設的軟件代理則需要作出能通過審閱及測試的修改。兩種結果都不會自動由基準測試排名帶來。
對知識工作者而言,有效的 AI 工作流程亦取決於資訊組織及檢索。更佳的模型經濟效益,無法彌補一個反覆提供過時文件或遺漏必要背景的流程。
因此,採購決定不只是兩個標誌之間的選擇,而是由請求到獲接受工作的完整路徑。Carbon 的量度價值,是以客戶自身限制為前提,仔細審視這條路徑的理由。
下一批訊號是更廣泛存取、穩定排名與獲接受的工作
首個值得留意的訊號,是初期推出後能否提供可用存取。買家需要有機會以自己的工具及證據評估 Carbon。更廣泛的存取將加強基準測試的商業意義;持續限制則會令價值論點的更多部分仍停留在預期層面。
相關里程碑是支援可重複測試的存取。短暫示範可以展示潛力,但不能證明營運一致性。客戶需要有足夠接觸機會,才能觀察成功運行及失敗模式。
第二個訊號,是競爭關係能否在更多評估及有清晰記錄的領域選擇中維持。若結果在相關工作組合下仍然有利,將加強 Google 的論據。若排名高度依賴狹窄選擇,結論便會更具特定性。
敏感領域的比較尤其值得審慎處理。未來報道應區分工作選擇的改變,與模型行為的改變。否則,重新排序的排行榜可能看似證明技術進步,實際上評估從未量度過。
獨立重現將提供另一項有用的檢驗。它們有助判斷所報告的關係能否在不同操作人員及環境下成立。結果一致會提升信心,而不一致則可識別出需要解釋的條件。
第三個訊號,是有關獲接受工作的證據,包括人工審閱及從錯誤中復原的情況。這才是企業最終購買的成果。一項部署在模型層面看似具成本效益,但在修正及監督後仍可能變得昂貴。
當較低的量度支出伴隨著客戶能以相若工作量接受的輸出時,Carbon 的價值論據便會更有力。
相反方向的證據將削弱這項較廣泛主張。若審閱者需要顯著更多時間,或重試抵銷初始優勢,較低的基準測試支出便會較缺乏說服力。這不會推翻已發布的結果;而是界定其實際限制。
Anthropic 的回應在同一框架內同樣重要。若獲接受輸出、執行可靠性或營運經濟效益有所改善,便可能改變比較結果。買家應留意這些成果,而非假設現時關係必然持續。
因此,對 Gemini 4 Carbon 與 Claude 最有用的解讀,是有條件而且可付諸行動的。Google 已贏得更仔細評估的機會。Claude 仍保持 GDPx 的領先分數。客戶的工作負載決定任一觀察結果應在多大程度上影響支出。
這能讓標題維持恰當比例。Carbon 的結果挑戰了「最高基準測試分數必然代表最佳採購選擇」的假設。它並未證明成本較低的嘗試任務,總會帶來成本較低的已完成工作。
在把 Gemini 4 Carbon 基準測試視為採購結論之前,先識別團隊實際需要完成的工作。選擇具代表性的任務,界定可接受的輸出,並將審閱時間納入比較。記錄系統何時拒絕、卡住,或產生看似合理但未能通過檢查的答案。保持測試配置清晰可見,讓結果維持可解讀性。然後比較達至可接受成果所需的工作量。這些證據將顯示 Google 的量度優勢是否能轉移至你的工作流程,以及 Claude 較高分數在哪些地方值得其溢價。對你下一次部署而言,哪一項更重要:在最困難任務上取得額外能力,還是在可用預算內完成更多可接受的工作?



