top of page

Datadog Scout SRE 模型以事故成本挑戰前沿 AI

2 小時前
讀畢需時 12 分鐘

Datadog 推出 Scout 1.0,這是其首個專為生產事故而設的模型,直接挑戰成本高昂的前沿 AI。據稱,Datadog Scout SRE 模型在指定調查中可媲美領先的通用系統,同時將推論開支降低至原來的三分之一至十九分之一。這項說法之所以重要,是因為 AI 應對系統必須能頻繁進行調查,而不只是在受控示範中給出令人印象深刻的答案。

Scout 為 Bits Investigation 提供動力;後者是 Datadog 用於檢視警報及識別可能根本原因的代理。Datadog 以開放權重的 GLM-5.3 Flash 模型為基礎,再透過強化學習進行專門化訓練。該公司表示,Scout 會以源自真實事故模式的模擬情境練習,但不會直接以客戶資料訓練。

這不只是又一次模型發布。Datadog 正押注於營運領域的專門化能力,認為它可勝過為每項警報向最大型模型供應商採購智能。OpenAI 與 Anthropic 的通用系統仍是比較對象,但其廣泛能力亦帶來較高推論成本。Scout 則將工作範圍收窄至閱讀遙測資料、驗證假設,以及解釋生產故障。

這形成了核心張力。專門模型可令自動化調查變得足夠負擔得起,從而套用至更多警報。不過,Datadog 最有力的大部分證據都來自公司自行控制的基準測試,而 Scout 仍處於封閉預覽階段。在所報告的測試中,成本優勢相當具體;至於可靠性優勢,則仍需要更廣泛的生產環境證據。

Datadog 以 Scout 1.0 實際改變了甚麼

Datadog 已把其 AI 事故應對系統的模型層,從可替換的依賴項目,轉為可圍繞自身營運資料及工具訓練的產品。

公司於 2026 年 10 月 15 日公布 Scout 1.0,並將其形容為首個專為調查生產問題而設的 AI 模型。該模型現時為 Datadog 工程團隊及一小批預覽客戶的 Bits Investigation 提供動力。

Bits Investigation 在 Scout 之前已經存在。Datadog 推出這個代理,用於檢查警報、收集相關遙測資料、提出可能的解釋,並向工程師展示可能成因。早期版本著重代理可存取指標、日誌、追蹤、部署變更、原始碼及基礎設施關係。

Scout 改變了該代理內部的經濟效益與行為。根據 Scout 發布公告,Datadog 訓練該模型,令調查成本低至可以更早開始及更頻繁運行。這項區別正是產品價值的核心。

事故代理很少只進行一次模型呼叫。它可能檢查監控器、查詢多項指標、搜尋日誌、追蹤請求流程、比較部署情況,並排除多個假設。每項行動都可能產生另一個請求及更長的內容脈絡。因此,一個能力強但成本高的模型,可能令廣泛覆蓋警報在財務上難以實現。

Datadog 表示,Scout 1.0 medium 在其內部 AlertEval 基準測試中,可媲美 GPT-6.1 Sol high 與 Claude Opus 5.5 high。公司估計,Scout 的推論成本低三至八倍。它亦報告,Scout 與 Fable 5.1 medium 及 GPT-6 Astra medium 的表現相若,成本分別低 12 倍及 19 倍。

Scout 1.0 xhigh 會在困難調查期間投入更多運算資源。Datadog 表示,該設定可媲美 Claude Fable 5.1 xhigh,估計成本低四倍。這些比較反映 Datadog 自行量度的結果,並非獨立審計。

公司亦警告,不應把 AlertEval 分數解讀為事故解決率。該基準測試以零至 100 分衡量模型與專家參考解釋的一致程度。得分 60 並不代表模型解決了 60% 的事故。

Scout 目前仍處於封閉預覽階段。Datadog 尚未公布廣泛推出時間、獨立客戶結果,或與該模型掛鈎的生產服務水平承諾。因此,這是一項技術細節豐富的產品押注,而非已塵埃落定的市場結果。

為何 AI 事故應對存在成本問題

Scout 最重要的主張,不是較小模型能否回答一次 SRE 問題,而是它能否以可負擔的成本,針對大量警報維持長時間調查。

網站可靠性工程(SRE)是把軟件工程實踐應用於營運可靠生產系統的範疇。SRE 調查由症狀開始,但有用的答案往往取決於服務、資料庫、網絡、部署與時間之間隱藏的關係。

高延遲警報可能源於資料庫過載、快取失效、網絡路徑問題,或近期配置變更。最先看似合理的解釋不一定是根本原因。代理必須收集證據、質疑初步理論,並在多個系統層面追查故障。

Datadog 圍繞這種迭代流程設計 Bits Investigation。其代理會提出假設、查詢遙測資料、評估返回的證據,並決定下一步檢查甚麼。公司於 2026 年 3 月發布的 Bits 更新提到,系統可存取指標、日誌、追蹤、儀表板、原始碼、事件、資料庫監察、網絡路徑及分析器資料。

這種廣度增加了模型的工作負荷。有用的代理必須選擇正確工具、建立有效查詢、解讀空白或雜訊結果,並在多個步驟中保留推理脈絡。即使模型最終能得出正確結論,若需要消耗大量推論資源,仍可能不適合處理日常警報。

當團隊希望 AI 應對系統自動啟動時,問題會變得更尖銳。人類可以把昂貴調查留給重大事故;但常時運行的代理必須在嚴重程度尚未完全明朗前作出決定。若每項警報都觸發昂貴的推理迴圈,系統不是成本高昂,就是只能限於狹窄的事故範圍。

Datadog 的答案是專門化。Scout 不必是最出色的通用寫作、編程或研究助手;它需要的是能駕馭 Datadog 的調查介面、理解生產訊號,並以證據支持因果結論。

這種聚焦讓 Datadog 可同時優化模型及其周邊軟件。公司控制遙測資料架構、代理工具、查詢回應、評估流程及最終用戶體驗。它可以教導 Scout 使用生產代理所採用的精確工具名稱及回應結構。

通用模型供應商很難在每個可觀測性平台重現這種整合。OpenAI 和 Anthropic 可提供跨眾多領域更強的基礎推理能力;Datadog 則可集中訓練其客戶反覆需要的較狹窄行為。

代價是對 Datadog 環境的依賴。Scout 報稱的優勢,在代理取得訓練期間使用的介面、遙測資料及任務分佈時可能最為明顯。為單一營運框架優化的模型,不會自動成為混合可觀測性技術堆疊的最佳選擇。

Datadog Scout SRE 模型如何學會調查

Scout 的主要技術優勢,在於練習完整調查,而非從事故文件中學習零散答案。

Datadog 以 GLM-5.3 Flash 這個開放權重基礎模型為起點,然後透過強化學習進行後訓練;這種方法會在重複嘗試中獎勵有用結果,從而改善模型行為。

公司並非只是向 Scout 餵入一批已解決的工單,而是建立 GenSim 模擬系統,將真實事故模式轉化為互動式調查練習。每項練習均包括警報、可查詢的遙測資料,以及已知的根本原因。

Datadog 在其 22 頁 技術報告中描述了構建這些環境的兩種方式。CausalGen 會建立並運行一個可運作的分散式應用程式、注入故障,並從所產生的行為建立遙測資料。SynthTel 則毋須執行底層應用程式,也能產生連貫的指標、日誌及追蹤資料。

CausalGen 的保真度較高,因為證據由真實元件產生,但它亦消耗更多運算資源及實際時間。SynthTel 可更快產生情境,不過生成的遙測資料可能較不真實。Datadog 表示會以經篩選的兩類情境混合資料訓練 Scout。

真實事故與警報遙測資料有助界定模擬內容。不過,Datadog 表示訓練情境不包含客戶資料。系統會保留有用的因果結構,同時在受控環境中產生全新的遙測資料。

此方法處理了一個棘手的資料問題。歷史事故報告通常能識別正確成因,卻未必保留代理會遇到的每項指標、日誌、追蹤資料及失敗查詢。原始生產遙測資料亦可能包含敏感資訊,且缺乏清晰的標準答案。

可控制的模擬情境同時提供證據與可驗證答案。Datadog 亦可改變無關遙測資料的數量、必要線索是否缺失,以及調查難度。這些變化可測試 Scout 能否從一般生產雜訊中分辨因果證據。

Scout 透過仿照 Bits Investigation 介面的工具進行練習。它可查詢指標、搜尋日誌、檢查追蹤、追蹤依賴關係、檢視部署變更,以及審閱程式碼。Datadog 會獎勵準確診斷、以證據為基礎的判斷及有用的探索。

公司亦會改變訓練期間可用的工具及互動預算。報告將這個過程稱為 harness fuzzing,目的是防止模型死記一套固定介面操作順序;相反,它應學習在環境出現適度變化時仍能維持的調查行為。

Datadog 以開源元件建立強化學習技術堆疊,包括在 Ray 上運行的 SkyRL 分支版本。其訓練系統分隔模型推論、模擬環境、評分與權重更新。這種架構可讓大量調查嘗試進行,同時以非同步方式持續訓練。

更大的策略類似垂直整合。Datadog 擁有可觀測性平台、代理介面、模擬練習環境、評估資料,現在亦擁有專門模型。任何一層的改進,都可為其他層的變更提供參考。

這個迴圈相當有價值,因為事故應對依賴一般模型訓練鮮少捕捉的脈絡。團隊亦需要在操作手冊、事後檢討及技術知識庫中保留這些脈絡。Scout 的優勢將部分取決於 Bits 如何有效地把這些紀錄與即時遙測資料結合。

基準測試的勝利附帶重要限制

Scout 的數字值得認真關注,但尚未證明該模型在各種客戶環境中是更安全或更準確的應對系統。

AlertEval 是 Datadog 的內部基準測試。它結合真實警報、封存的遙測資料,以及由工程師撰寫的根本原因解釋。Datadog 表示,其工程師透過內部事件回應工作流程,整理了數千個評估點。

此基準測試採用 DeepJudge,一個以 LLM 為基礎的評估器,將模型的發現與專家參考解釋作比較。它會為識別即時及更深層原因的結果給予分數,亦會扣減自相矛盾或缺乏支持的發現。

這種設計比簡單的完全匹配測試捕捉到更多細微差異。真實調查即使未能重現工程師的措辭,也可能得出有用的部分解釋。然而,LLM 評審亦將另一個模型引入量度過程,包括其自身偏好及可能出現的錯誤。

Datadog 控制 AlertEval 的事故、標籤、評審器、模型設定及成本估算。該基準測試仍可提供有用的工程回饋,但外部讀者無法完整重現其主要比較結果。公開發布材料亦未披露每一項 AlertEval 的原始分數。

成本數字同樣需要審慎看待。Datadog 報告的是相對於 Scout 1.0 medium 的每宗調查估計推理成本。這形成一致的內部比較,但並非客戶帳單,也不是保證的生產成本。

實際支出取決於 token 用量、部署硬件、批次處理、模型使用率、供應商協議及工具呼叫次數。自行託管的開放權重模型,會將部分成本由 API 使用轉移至基礎設施及營運。Datadog 尚未公布足夠的商業細節,讓人可把每個基準比例換算為客戶節省金額。

該公司亦在包含 90 個故障的公開基準測試 SREGym 上測試 Scout。其技術報告指出,Scout 1.0 medium 解決了其中 71 個故障,而 GLM-5.3 Flash 為 66 個,GLM-5.3 則為 68 個。

採用更高運算量的 Scout 設定表現較佳。Scout 1.0 high 解決了 79 個故障,而 Scout 1.0 xhigh 則解決了 80 個。報告列出 GPT-6.1 Sol xhigh 為 82 個、GPT-6 Astra xhigh 為 80 個,以及 Claude Opus 5.5 xhigh 為 79 個。

這些結果支持 Datadog 的說法,即專門化提升了基礎模型的表現。它們亦顯示 Scout 並未在每項比較中佔優。於所報告的 SREGym 運行中,GPT-6.1 Sol xhigh 比 Scout xhigh 多完成兩項任務。

不同基準測試框架亦存在差異。Datadog 為 Scout 及多個近期模型採用提供的 Stratus 框架,而部分排行榜結果反映各模型的最佳代理框架。報告已指出此分別,但這令直接排名變得複雜。

最重要的是,基準測試中的故障有已知答案及受限環境。實際事故可能結合多項故障、不完整的儀表監測、未記錄的依賴關係、具誤導性的警報及持續變化的系統狀態。一次自信但錯誤的診斷,其成本可能高於額外模型呼叫的成本。

原始報道 清楚呈現了尚未解決的問題。Datadog 希望 Bits 的回應比人類 SRE 更快、更果斷,但企業在把事故的唯一責任交予代理之前,仍會要求更多測試。

專門化 AI 令通用模型及 SRE 供應商承壓

Scout 同時向兩類對手施壓:銷售廣泛智能的前沿模型供應商,以及在這些模型之上建立 AI 回應者的可觀測性供應商。

通用模型仍然吸引,因為它們進步迅速並能處理多種任務。供應商可在毋須資助自家後訓練計劃的情況下加入新功能。當事故工作流程涉及程式碼分析、自然語言溝通及不熟悉的技術時,這種靈活性尤其重要。

缺點是控制權。完全依賴外部模型的可觀測性公司,會承受供應商定價、延遲、發布時間表及行為改變的影響。它亦可能難以在不暴露更多營運情境的前提下,為專有工具優化模型。

Scout 為 Datadog 提供了另一個槓桿。公司可以決定每個警報應獲分配多少運算資源。例行個案可採用較低投入設定,而困難事故則獲得更多測試時運算,即用於探索及驗證答案的額外推理。

這種可變運算設計,將成本直接與事故難度連繫起來。它亦讓 Datadog 可利用 Scout 所運行的同一產品中的回饋來改善模型。代理及模型可以作為一個系統共同演進。

競爭的 SRE 產品現時面對策略選擇。它們可以繼續編排前沿模型、專門化一個開放模型,或支援多個模型並在它們之間路由任務。每條路徑均有營運後果。

前沿模型方案可受惠於上游的快速進展。它亦可在狹窄事故分布以外提供更強的一般推理能力。然而,反覆使用工具可能變得昂貴,而供應商對底層模型的控制較少。

專門化方案可降低推理成本,並編碼產品偏好的調查行為。它需要訓練基礎設施、真實環境、評估資料及模型營運能力。較小型供應商可能缺乏可用來建立同等模擬的事故歷史或遙測覆蓋率。

多模型方案可將一般警報交給較便宜的專門模型,並將較困難個案升級至前沿模型。這種安排看似在經濟上合理,但路由錯誤會成為另一個風險來源。系統必須在能力不足的模型浪費時間或得出錯誤結論前,識別困難事故。

Datadog 亦有一項獨立 AI SRE 初創公司可能難以匹敵的優勢。其平台已具備調查所需的遙測資料、服務關係、監控器、部署紀錄及工作流程整合。模型毋須透過新的資料層重建這些情境。

當客戶運行異質環境時,這項優勢亦可能成為限制。Datadog 表示,Bits 可連接外部系統,包括 GitHub、ServiceNow、Grafana、Splunk、Dynatrace 及 Sentry。截至 2026 年 3 月,其中數項整合仍被描述為預覽功能。

營運信任不限於模型質素。團隊需要權限、稽核記錄、資料控制、升級規則及清晰的責任歸屬。讀取日誌並提出診斷,所承擔的風險低於回復部署或修改基礎設施。

Datadog 已提供 Agent Trace 檢視,供檢查工具呼叫及中間分析。Bits 亦支援經人員覆核的分類操作,並可觸發執行修復的工作流程。這些控制十分重要,因為市場下一輪競爭將聚焦可管治的行動,而不僅是基準準確度。

三個訊號將決定 Scout 的賭注能否奏效

只有當 Datadog 將其基準優勢轉化為廣泛、可信且可量度的生產使用時,Scout 才會具備策略重要性。

第一個訊號是更廣泛的可用性及客戶證據。Scout 目前由 Datadog 團隊及一小群封閉預覽客戶使用。正式全面推出將顯示公司認為模型已準備好應對更大範圍的環境。

客戶證據不應只限於推薦評語。有用的指標包括調查接受率、得出獲支持診斷所需時間、升級頻率,以及工程師否決 Scout 結論的警報比例。不同架構下的結果將強化 Datadog 的主張。若持續依賴狹窄的預覽範圍,則會削弱其說法。

第二個訊號是獨立或可重現的評估。SREGym 為 Scout 提供公開參考點,但 Datadog 最強的性價比論點很大部分來自 AlertEval。發布更多評估工件、披露更完整結果,或讓第三方進行測試,將令這些比較更值得信賴。

可重現性並不容易,因為真實事故資料可能暴露內部系統或客戶資訊。Datadog 毋須發布敏感遙測資料,仍可提供經清理的情境、評估程序、評審提示、成本假設及重複運行統計數據。

這一點很重要,因為代理表現可能在不同嘗試之間有所變化。已發布的 SREGym 比較中,Datadog 的運行每個故障只作一次嘗試。重複試驗將揭示 Scout 是否持續有效,還是僅偶爾得到正確結果。

第三個訊號是由調查邁向受控修復。Datadog 表示,希望 Bits 從全天候第一回應者,進一步成為事故期間的唯一回應者。這比識別可能的根本原因是大得多的主張。

自主回應者必須選擇修正行動、確認其範圍、遵守權限、保留證據及驗證復原。它亦必須在不確定性高時停止。能診斷 90 個基準故障中 80 個的模型,並不代表毋須覆核便已準備好修改生產系統。

Datadog 現有的人在迴路操作提供了一個實際的中間階段。工程師可檢查證據、批准建立工單或傳呼,並決定是否觸發回復操作。這些受監督工作流程的採用情況,將顯示 Scout 在完全自主獲接受前已能創造價值。

第四項發展涵蓋以上三個訊號:競爭對手的反應。若可觀測性供應商推出自家的專門模型,Datadog 便驗證了一項更廣泛的架構轉變。若競爭對手繼續使用前沿系統,並能匹配 Scout 的生產經濟效益,客製模型的優勢便會顯得較不持久。

對 SRE 團隊而言,眼前問題較為狹窄。Scout 是否能產出工程師可比自行調查更快驗證的證據?只有當答案改善營運成果時,成本節省才有意義。

Datadog Scout SRE model 為領域專門化提出了可信的案例。Datadog 已披露其基礎模型、訓練方法、基準設計、公開測試結果及主要限制。這足以令 Scout 不只是一個市場推廣標籤。

但這仍不足以宣告前沿模型時代結束。Scout 的私密預覽狀態、對內部基準的依賴,以及通往自主修復尚未完成的路徑,意味決定性的證據仍在前方。評估 AI 事故回應的團隊,應留意預覽擴展、可重現測試及受監督修復的結果。應問的是:系統是否展示其證據、知道何時應升級處理,以及在不增加營運風險下縮短實際回應時間。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page