360 CyberGym 結果:Tulongfeng 聲稱漏洞復現率達 99.4%
360 表示,其 Tulongfeng 安全系統在 CyberGym 上的漏洞復現成功率約達 99.4%。CyberGym 是一項圍繞歷史軟件漏洞建立的評估。相關 360 CyberGym 結果見於 2026 年 10 月 30 日的報道,所描述的是在定義明確任務上接近滿分的成績,而非發現未知漏洞的一般成功率。
這一分別對比較專用系統與以 OpenAI、Anthropic 及 Google 模型為核心的代理系統之安全團隊尤為重要。復現已識別的漏洞需要大量工程工作;在陌生應用程式中尋找未指明的缺陷,則是另一類問題。前者的強勁結果值得關注,但不能據此證明後者的所有主張。
核心問題在於,接近完美的復現分數究竟證明了多少實際營運價值。採購方需要看到證據,說明成功的基準測試如何與其自身環境中的可靠調查工作相連。對 360 而言,機會在於透過透明的評估細節及可核實的安全成果,展示這種關聯。
360 CyberGym 結果實際證明了甚麼
所報結果涉及復現已知漏洞,而其確切評估日期仍未明確。
由 Xinhuanet 發布、並歸因於 China.org.cn 的 10 月 30 日漏洞復現報告,描述了 Tulongfeng 的表現。報道稱,其在三項評估中的成功率分別為 99.27%、99.47% 及 99.40%。所述平均分為 99.38%,涵蓋全部 1,507 項任務。
這為報道提供了可核實的發布日期,但未能證實測試何時完成,或排行榜條目何時變更。該報道把結果形容為近期成果,卻沒有提供相關日期。因此,讀者應把 10 月 30 日視為報道日期,而非已確認的評估里程碑。
報道亦稱 Tulongfeng 位列排行榜首位。這項排名主張應與所報數值結果分開處理。公開擷取到的基準測試頁面未顯示足以獨立核實其位置及配置的 Tulongfeng 條目。因此,本分析把分數及領先排名的主張均歸因於相關報道。
一項基準測試結果包含多個證據層面。公開公告只能確立某人曾作出何種報告;詳細提交資料說明評估如何運作;獨立復現則檢驗另一團隊能否得到可比較的結果。這些層面回答不同問題,在多個網站發布同一公告不能取代它們。
術語亦須審慎使用。漏洞復現是指產生能證明指定軟件缺陷的輸入;發現則是識別尚未提供其存在或位置的缺陷。把復現分數描述為發現率,便會把主張擴展至評估未有直接衡量的範圍。
對透過新聞資訊流看到標題的讀者而言,這是關鍵的修正。該公告涉及一項有明確起點的自動化安全調查任務,並不證明 Tulongfeng 能在任意軟件中找出幾乎所有漏洞,也不證明已部署客戶可獲得相同結果。
較為收窄的解讀仍然指向一項重要發展。若所報表現能在有文件記錄的條件下成立,Tulongfeng 將會是把已知漏洞描述轉化為可執行證據的高能力系統。這類工作在收到報告與決定應採取何種工程行動之間,佔據實際而重要的位置。
重要性正正在於這種聯繫。當安全系統的輸出能協助使用者核實問題、理解其範圍,並作出可辯護的決定時,它才會變得有用。分數是評估這種實用性的切入點,而非完整描述。
已知漏洞為安全代理提供明確起點
CyberGym 衡量的是要求甚高的調查任務,但它提供了開放式發現必須先找出的資訊。
根據官方 CyberGym evaluation,其主要的 Level 1 設定提供漏洞描述及未修補的程式碼庫。概念驗證(proof of concept,或 PoC)是一項可執行測試,用以展示指定缺陷。成功要求測試能觸發存在漏洞的版本,同時讓已修補版本維持無異常。
這帶來一項具實質意義的工程挑戰。代理,即透過軟件工具採取行動、由模型驅動的系統,必須把書面描述與實際程式行為連結起來。其輸出必須經得起基於執行的檢查;僅有看似合理的解釋不足以完成任務。
不過,所提供的描述改變了搜尋問題。系統一開始已掌握存在相關漏洞的證據,可以圍繞這一前提組織調查。開放式審查還必須決定應在哪裡搜尋、哪些可疑行為重要,以及進一步調查是否值得投入更多資源。
從開發者角度看,兩者的差異很明顯。具體的錯誤報告提供理由去檢視特定行為;要求評估大型應用程式的廣泛請求,則提供較少限制。兩者均需判斷,但判斷出現於調查中的不同位置。
這一分別說明,為何所報結果會對安全供應商構成壓力,卻未能為整個市場定論。銷售自動化調查工具的供應商面對一個具體問題:其系統能否在可比較條件下產生同樣具說服力的證據?承諾廣泛發現能力的供應商,則面對一個更廣泛的問題:如何找出有價值的起點。
兩組供應商均不能只憑流暢的解釋回答這些問題。能準確描述漏洞的系統,仍須展示相關行為;相反,產生無法解釋故障的系統,會把額外詮釋工作留給工程師。有用的自動化會連結假設、測試、觀察到的行為及結論。
基準測試的有界任務亦有助採購方區分能力與涵蓋範圍。能力關乎系統能否完成某項特定調查;涵蓋範圍則關乎它可評估哪些應用程式、環境及漏洞類別。高分支持評估範圍內的能力主張;涵蓋範圍則需要額外證據。
這種區分應影響採購討論。採購方應要求供應商描述其系統可可靠完成的工作。「復現已報告的軟件漏洞」比對自主安全作出廣泛聲稱,更能傳達清晰承諾。它亦為試點項目提供工程師可直接評估的任務。
因此,實際營運上的影響相當具體。若自動化能可靠完成復現工作,分析員便可減少用於確認報告是否描述可觀察問題的時間。其餘工作包括評估影響、協調責任歸屬,以及審閱建議的應對措施。即使初步技術調查有所改善,這些責任仍然重要。
360 將專門協作置於分數背後
Tulongfeng 所報的設計強調協調安全工作,令系統架構成為主張的一部分。
10 月的報道描述了一個安全導向語言模型,配合專門代理共同運作。根據該報道,不同角色會把調查分為多個階段,從建立假設到完成核實。其所提出的優勢來自結合安全知識、工具及協作。
這是一項系統層面的主張。模型推理程式碼的能力固然重要,但其周邊流程亦同樣重要。周邊軟件決定模型接收哪些證據、可採取哪些行動,以及如何處理未成功的嘗試。這些選擇會影響最終結果。
專門分工有合理理據。專注於尋找相關程式碼的角色,可為另一個測試假設的角色提供證據;核實角色則可評估觀察到的行為是否支持原有主張。理論上,劃分責任能令複雜調查更易管理。
然而,這種解釋仍屬理據,而非經核實的說明,無法證明 Tulongfeng 為何取得其所報分數。報道未提供足夠的受控比較,以分離各組件的貢獻。它不能確立協作、模型訓練、工具還是資源分配帶來最大改善。
清華大學 RedbudAI 的工作提供了一個有用對照。其發布的單一模型評估稱,使用 GLM-5.2 的成功率為 86.2%,另有重複嘗試分析達到 93.6%。作者區分了這些量度,而非把它們呈現為可互換的結果。
RedbudAI 亦描述了本地執行、受限制網絡,以及為每項任務指定的最終測試。這些細節令其結果更易解讀。它們揭示數字背後的運作條件,儘管未能建立與 Tulongfeng 的受控比較。
這一比較說明了更廣泛的分析問題。單一模型系統仍可包含大量編排,即組織工具及調查步驟的軟件;多代理系統在角色可獨立運作的程度上亦可差異極大。僅憑標籤,對採購方而言幾乎無法說明實際完成了甚麼工作。
因此,Tulongfeng 所報的領先地位不能證明專門代理團隊普遍優於其他設計。要建立這一點,必須讓其他條件保持可比較。在缺乏這些控制的情況下,結果只描述完整配置的表現。
同樣的克制亦適用於涉及 OpenAI、Anthropic 或 Google 的比較。專門安全系統與連接代理框架的一般模型,是不同的評估對象。任何比較都應先識別完整配置,才對底層模型作出結論。
對開發者而言,這會把焦點轉向各階段之間傳遞的證據。調查者有否保留原有假設?核實者有否檢查相關執行結果?另一位工程師能否重構當中的推理?這些問題比代理數量更直接地把架構與實際信任連結起來。
這正是 360 的技術故事變得有趣之處。其主張促使人們檢視安全專業知識如何進入工作流程,並在一連串決策中保留下來。詳盡的發布資料有助分辨可重複的工程優勢與吸引人的架構描述。
接近滿分的成績令評估細節更重要
接近最高分的結果,令評分規則、資源限制及可復現證據的重要性更高。
CyberGym 維護者提醒,各團隊自行評估及提交結果;他們亦警告,強勁系統之間的微小差異未必代表具意義的能力差距。這些限制條件直接影響讀者應如何解讀關於第一名的標題。
在高效能水平下,單靠排名不足以說明全部。買家需要了解系統在任務成功率、資源使用、可靠性或評估條件上是否存在差異。微小的數值優勢可能同時伴隨重要的營運劣勢,也可能反映值得深入調查的真正改進。
官方的提交要求已注意到這個問題。要求除了成功率外,亦須報告成本,並要求提供模型使用情況、任務時長、示例日誌及最終結果。這些披露有助了解實際完成工作所需的條件。
對企業買家而言,任務時長很重要,因為安全調查需要與工程期限競爭資源。資源使用亦很重要,因為配置必須配合現有基礎設施。波動性同樣重要,因為偶爾出現的長時間任務可能令排程變得複雜。這些考量均不會否定高成功率;它們決定其實際價值。
評分規則同樣值得關注。CyberGym 的最終提交規則要求系統指定其最終答案。若改為將任何成功候選結果計入成績,便是在回答另一個問題。當系統在調查期間產生多個候選結果時,這個分別尤其重要。
選出正確輸出本身就是一項有用能力。工程師需要的是可直接採取行動的結果,而非要在一堆未經說明的嘗試中自行搜尋。即使系統最終產生有效證據,仍需有可靠方法辨識並呈現該證據。
報道中提及的三次評估亦留下方法論問題。重複評估可以衡量一致性,但在同一任務中提供重複機會,可能改變成功指標。現有報道未有完全說明這種關係如何適用於 Tulongfeng。更詳細的文件可釐清各次運行之間哪些條件維持不變。
「獨立」一詞在此應審慎使用。分開運行不一定代表由獨立的外部評估人員進行。所審閱的報道未有指出有外部實驗室重現完整結果。讀者不應僅從重複評估的描述,推斷存在獨立審計。
網絡存取亦帶來另一項比較問題。若過往漏洞已有公開修正方案或說明,存取公開資訊可能引入捷徑。這是一般基準測試的關注事項,並非 360 有不當行為的證據。透明的存取政策有助審閱者判斷結果是否反映預期任務。
其他配置選擇亦會影響詮釋。可運行的脆弱應用程式所提供的回饋,與僅檢視原始碼不同。跨任務累積的記憶會改變系統在後續調查中可帶來的資訊。文件應讓這些選擇清晰可見,讓讀者可以作出同類比較。
這些未解決細節支持一個審慎結論:360 的 CyberGym 結果值得技術層面的關注,但要作出決定性優勢的主張,仍需更多證據。對方法論的疑問應引導後續報道,而非演變成缺乏依據的指控,或被新聞標題掩蓋。
企業價值取決於重現後發生的事
商業層面的問題在於,成功的調查是否能減少作出及執行安全決策所需的工作。
重現漏洞可為工程團隊提供具體可檢視的內容,有助研究人員、維護者及應用程式擁有人之間溝通。然而,組織仍須判斷受影響的程式碼是否存在於自身環境中,以及採取甚麼回應才合理。
假設某團隊正在評估一份關於軟件相依套件的報告。系統或可在預先準備的環境中重現該行為。團隊其後必須檢查其已部署的版本及使用方式,是否同樣暴露於該問題。這項評估把技術結果與營運相關性連結起來。
下一項決策關乎修復,即消除或減低安全問題的工作。建議修正方案需要審閱及測試。團隊亦必須考慮部署限制及非預期行為。重現是這個流程的重要證據,但不會完成每一個步驟。
這正是基準類別的重要所在。名為 CyberGym-E2E 的獨立端到端基準,涵蓋漏洞發現、概念驗證生成及修補程式生成。其更廣泛的範圍突顯評估完整防禦生命週期所涉及的額外工作。
這項更廣泛的評估並不代表重現不重要。相反,它界定不同任務之間的邊界。組織可從優秀的重現助手中受惠,同時不把發現或修補工作委派給它。清晰的界線讓團隊採用有用能力,同時保留適當審查。
十月的報道亦對 Tulongfeng 的部署情況及漏洞發現作出更廣泛主張。這些說法值得有各自的支持證據。客戶參與、已確認發現及完成修復,代表不同類型的成果,不應混合成單一的有效性印象。
對買家而言,最具參考價值的證據應把發現與其解決結果連結起來。問題是否由負責任的維護者確認?調查是否提供足夠背景以完成修正?接收團隊能否重現結果?這些問題可檢驗自動化是否能跨越組織邊界轉移有用工作。
它們亦有助揭示隱藏的人力投入。系統可能在經過大量環境準備或專家介入後表現良好。這類協助完全可以合理合法;買家只需要了解哪些責任仍由自己的員工承擔。
在這個交接環節,知識管理變得相關。工程師需要讓原始報告、環境細節、重現筆記及審閱決策保持關連。可搜尋的工程知識庫可處理這項文件需要,且與安全系統的技術能力分開。
當調查轉換負責人時,這種連結十分重要。只有原始操作人員理解的結果會帶來額外工作。有文件記錄的結果,則讓另一位工程師能檢視假設並繼續處理。因此,可追溯性應與自動化成功率一同納入營運價值的討論。
對企業的啟示很具體:安全供應商正面對壓力,需要展示完整且可審查的工作單位。對 360 而言,強勁的重現表現可提供可信的起點。可靠交接及已解決發現的證據,將說明這項能力可延伸至日常安全營運的程度。
三個訊號將釐清結果
下一步有用的證據,涉及提交的配置、其效率,以及超越歷史重現的成果。
首先,留意 Tulongfeng 是否發布詳細的評估說明,將所報分數與特定基準配置連結起來。說明應列出模型、工具存取、評分規則及具代表性的調查紀錄。這將讓讀者準確理解所報結果描述的是甚麼。
清晰的發布將加強對該主張範圍的信心,亦會令外部審閱更具可行性。若文件仍只限於標題中的百分比,信心亦應相應保持有限。缺乏書面說明會留下未解問題,但不代表所報結果必然為假。
其次,留意 360 及其他安全代理開發者是否披露可比較的效率資料。任務時長、模型使用情況及資源需求,將揭示不同系統如何取得其結果。這些量度有助買家在任務完成度以外評估營運適配性。
一個能持續產出可審查證據的高效率系統,可支持更有力的採用理由。需要大量資源的配置仍可能適合專門調查。重點在於識別它所服務的工作負載,而非假定每個高分系統都屬於同一部署類別。
第三,留意是否有關於歷史評估以外軟件的已記錄發現及修復結果。維護者確認、可重現證據及已完成修正,將為更廣泛的發現主張提供具體支持。清晰報道應區分新識別問題,以及已知問題的重現或變體。
這些訊號應引導未來數月的報道。它們可以加強或收窄對 Tulongfeng 所報表現的詮釋,而毋須預測誰會主導安全自動化。眼前的新聞仍是這項主張本身,以及其背後的工程方法。
對開發者及安全買家而言,請把 360 CyberGym 結果視為在改變工作流程前檢視證據的提示。問清楚系統完成了甚麼任務、取得了甚麼資訊,以及審閱者如何核實其最終輸出。然後,將答案與你的團隊實際需要完成的調查連結起來。將所報分數與其配置、限制及支持紀錄並列考量。當詳細工件或已確認發現出現時,再檢視這項評估。若你正在比較供應商,請向每一家要求相同披露。哪一個系統能讓你的工程師留下可獨立理解、重現並用於解決安全問題的結果?



