top of page

NVIDIA OpenShell 捐贈將代理安全納入共享管治

2 小時前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Anastasia Shuraeva / Pexels.

NVIDIA 於 11 月 10 日宣布把 OpenShell 交由社群管治,同時推出仍處於不同成熟階段的基礎設施工具。NVIDIA OpenShell 捐贈把一個運行時環境——即負責執行及監督代理的軟件環境——納入 Cloud Native Computing Foundation。核心問題在於,共享基礎設施能為部署自主軟件的企業帶來多大程度的營運控制權。

這項公告面向運行 AI 代理的團隊,即使用模型及工具完成任務的軟件系統。這些團隊需要可強制執行的權限、持續存在的工作環境,以及能應對需求變化的基礎設施。開源可讓他們檢視程式碼,但運行這些程式碼仍需要作出安全決策、進行維護及承擔責任。

Google 亦透過 Agent Substrate 參與其中。這是其用於在 Kubernetes 上運行代理環境的框架;Kubernetes 是管理應用程式工作負載的開源系統。NVIDIA 正為該專案作出貢獻,同時擴展自家的基礎設施軟件。主要張力在於共享基礎設施與各營運方仍須承擔的責任之間。社群所有權可擴大參與,卻不會令部署決策憑空消失。

NVIDIA OpenShell 捐贈改變管理權責,但不會一夜提升成熟度

Cloud Native Computing Foundation,即 CNCF,在 KubeCon + CloudNativeCon North America 上接納 OpenShell 成為 Sandbox 專案。Sandbox 是早期專案成熟度類別,與該基金會的 Incubating 及 Graduated 階段不同。

在其OpenShell 管治公告中,CNCF 描述了一套基礎設施,會為代理存取資料、機密資訊及網絡設定可強制執行的界限。基金會亦表示,OpenShell 正採用 Cedar——一種用於表達授權政策的語言。

眼前的改變關乎誰可塑造安全層,而非籠統宣稱每個部署都已準備就緒。

這個分別十分重要,因為管治與軟件成熟度回答的是不同問題。管治決定貢獻者如何討論改動、解決分歧及影響方向。營運成熟度則涉及系統在故障下的表現、跨版本相容性,以及支援高要求工作負載的能力。

基金會提供協作場所,卻不能取代企業對自身部署的評估。

專案團隊的社群過渡說明,概述了轉向中立的 ai-openshell 組織。當中列出來自 NVIDIA、Red Hat、Docker 及 Canonical 的維護者,並計劃擴大參與及建立公開路線圖。

團隊亦表示,NVIDIA 的工程投入將會持續。因此,這項貢獻在保留發起專案公司的持續角色之餘,亦改變了管理權責。

對企業買家而言,這種安排引出一個比 NVIDIA 是否繼續參與更有用的問題:其他組織能否真正維護整合、影響優先事項,以及參與版本發布決策。

一個專案可以受惠於大型企業貢獻者,同時發展更廣泛的社群。這種安排的實力會在日常維護工作中顯現。

安全修正需要審核者。改動需要文件說明。當升級改變行為時,營運人員需要清楚的解釋。

這些活動比單憑公告更能證明共享管理權責。它們顯示參與是否超越背書,延伸至維持基礎設施可用所需的工作。

因此,NVIDIA OpenShell 捐贈的重要性在於專案所屬制度架構的改變。它為圍繞控制機制的共同開發建立途徑,而企業原本需要各自評估這些機制。

即使專案尚未晉升至另一個成熟度階段,這條途徑仍具實際價值。組織可以比較需求、檢視建議改動,並貢獻部署經驗。

不過,在採購討論及技術評估中,Sandbox 狀態仍應清楚列明。刪去這項限定,便會把早期管治里程碑轉化為證據未能支持的更強就緒度聲稱。

平台團隊承接代理無法代為決定的事項

OpenShell 的安全主張始於職責分工。代理會為完成任務而選擇行動;基礎設施則決定其環境容許哪些行動。

當代理遇到誤導指令或作出錯誤決定時,這項分工便變得重要。一項要求謹慎行事的書面指示,並不能建立與被拒絕的操作相同的界限。

這項公告促使平台團隊把權限界定為營運政策,而非把它們留在應用程式指示之中。

Nirmata 的 Jim Bugwadia 在 CNCF 託管的代理政策控制分析中提供實際觀點。他描述了檔案存取、程序行為、網絡請求及憑證的控制機制;憑證是用於驗證存取權限的機密資訊。

他的說法亦指出了 OpenShell 範圍以外的責任。平台團隊仍須決定哪些軟件映像檔可運行、一個環境獲分配多少基礎設施資源,以及誰可更改權限。

明確說明這項限制很有用。安裝一層強制執行機制,並不會告訴組織其政策應容許甚麼。

以一個審閱軟件問題的工程助理為例。它需要存取程式碼庫及運行測試的權限,但其任務本身並不必然需要不受限制地存取生產系統。

困難的組織問題在於,誰來令這種分別可被強制執行。應用程式開發人員了解工作流程,而安全團隊了解更廣泛存取權的後果。

平台工程師則需要一套部署方案,能一致地落實已同意的界限。若這些群組採取不同假設,代理運行時環境無法自動協調。

這令採購對話的一部分焦點由模型能力轉移。買家亦需要了解權限如何獲批、修訂,以及在事故後接受檢討。

一個成功完成任務的助理,仍可能使用了超出組織預期的權限。因此,成功指標需要與系統曾存取甚麼的證據並存。

營運負擔亦會隨時間改變。適用於程式碼庫審閱的權限,對文件搜尋而言可能過多,對已批准的發布任務則可能不足。

團隊需要一個流程,在不把廣泛權限變成每次受阻行動的預設回應下,調整授權範圍。

這正是共享基礎設施同時帶來機遇與要求之處。共同實作讓組織有具體事物可一同檢視。

它亦揭示了他們必須自行承擔的政策決定。開放專案無法決定哪些內部紀錄屬敏感資料,或誰應授權存取這些資料。

對管理技術證據的團隊而言,可搜尋知識庫可協助保存評估筆記及部署決策。這些文件支援檢討,而運行時環境仍負責強制執行已設定的界限。

壓力最直接落在把代理由示範帶入持續工作流程的組織身上。在應用程式團隊完成初步整合後,他們需要回答誰擁有該環境。

若缺乏這種歸屬,共享軟件便有可能成為另一個人人依賴、卻無人持續維護的組件。

Google 的 Agent Substrate 處理等待成本

代理權限只是基礎設施問題的一部分。當其使用者、工具或模型需要時間回應時,代理環境亦需要持續存在。

維持環境可用會消耗資源。在每次暫停後重建環境,則會引入延遲,並可能遺失工作狀態——即繼續任務所需的資訊。

Google 的 Agent Substrate 處理這個生命週期問題。在其對代理執行的技術說明中,NVIDIA 解釋該專案如何將工作階段對應至共享工作節點池。

閒置環境可被儲存,並連同其記憶體及檔案於稍後還原。NVIDIA 亦描述了把這個執行層與其推論框架 Dynamo 及叢集資源分配器 KAI Scheduler 連接的工作。

Google 的專案與 OpenShell 處理相關的營運問題,但不應被視為可互換的產品。

這項分別有助說明 NVIDIA 為一個源自 Google 的框架作出貢獻的原因。平台既需要回答代理可做甚麼,也需要有效運行其環境的方法。

從架構角度看,維持獨立組件可為營運方帶來彈性。權限強制執行與環境排程不一定需要相同的發布週期或實作選擇。

然而,這種彈性亦會帶來整合工作。團隊必須確定,當執行暫停或移動時,代理的身分、權限及工作環境如何維持關聯。

一個能正確恢復的環境,必須保留適合其任務的界限。單是保留檔案,並不能回答其先前授權是否仍然有效。

這是架構帶來的營運含義,而非已報告故障的證據。該公告並未證實每一種可能組合都已獲驗證。

同樣的審慎態度亦適用於容量規劃。在閒置期間釋出資源聽來很吸引,但實際效益取決於工作負載如何在活躍與等待之間切換。

經常活躍的助理,與在使用者請求之間一直未被觸碰的工作階段,呈現不同模式。評估需要反映預期的工作負載。

這項比較亦改變了平台團隊應如何理解密度聲稱。支援大量已登記工作階段,與在可接受回應時間內服務大量同時活躍的任務,是不同的事情。

買家應問清楚基準測試描述的是哪一種情況。否則,有關支援代理數目的標題,可能掩蓋了這些代理同時忙碌時所需的資源。

這次協作讓 Google 與 NVIDIA 在此走上共享基礎設施的路徑,儘管雙方仍保有不同的商業利益。若把公告視為兩者之間的簡單競爭,便會忽略這層關係。

相反,他們的方法說明了管治問題為何重要。企業希望組件可互相配合,而不必由同一供應商作出每一項架構決定。

這個目標仍取決於實作細節。整合計劃確立方向;有文件記錄的相容性及可重複的部署,才能建立可用的組合。

對營運商而言,關鍵成果是一套職責清晰的連貫系統。只有在升級、故障和安全審查期間仍能清楚理解各項專案的界線時,新增專案才有幫助。

NVIDIA Kubernetes 基礎架構為營運商帶來更多控制權,也帶來更多工作

除代理相關工作外,NVIDIA 還推出 NVIDIA Kubernetes Engine 和 NVIDIA Kubernetes Recipes。這些專案面向以圖形處理器(GPU)建立受管理 Kubernetes 服務的供應商;GPU 是許多 AI 工作負載所使用的處理器。

兩者的分工直接明確。NVIDIA Kubernetes Engine,簡稱 NVKE,管理叢集,即作為共享應用程式平台運作的一組機器。NVIDIA Kubernetes Recipes,或 NVKR,則建立這些叢集所使用的軟件成品。

NVIDIA 對其 Kubernetes 叢集管理的說明指出,營運商可以同時採用或獨立採用這些專案。兩者均採用 Apache 2.0 開源授權。

可用性限定條件相當重要:兩個專案均處於公開預覽階段。NVIDIA 明確表示,它們暫未建議用於生產工作負載,其介面和行為亦可能改變。

NVIDIA Kubernetes 基礎架構為營運商提供建立服務的基礎,同時將服務擁有權保留給營運商。

這種安排吸引希望掌控部署選擇和客戶體驗的機構。同時,這也要求它們維護客戶所依賴的服務。

能夠存取程式碼,與承擔其運作責任之間存在重大差異。受管理服務需要具備升級、復原、容量不足及客戶支援的流程。

開源讓實作細節可供檢查,但不會提供人手、決定機構的支援承諾,或解決所有相容性問題。

因此,建立軟件與管理叢集之間的分工意義重大。可重現建置會記錄重新建立軟件成品所需的輸入資料,從而有助於疑難排解和變更審查。

它們讓團隊有更清晰的基礎,識別各次部署之間的變化。當問題只在數個基礎架構元件更新後才出現時,這尤其有用。

不過,可重現性並不能證明特定組合符合某個機構的要求。團隊仍須針對其硬件、應用程式和故障情況進行相關驗證。

這與 OpenShell 公告中可見的控制權與責任之間的張力相同。更多基礎架構存取權,讓營運商有更多方式影響行為。

同時,這亦減少了他們無須審查便可委派的決策數量。選擇擁有平台,也意味著選擇承擔其營運後果。

對服務供應商而言,商業意義取決於執行。共享建構模組或可減少重複工程工作,而差異化則轉向可靠性、支援和專門整合。

這是從公開預覽公告得出的分析性推論,並非經量度的結果。沒有根據可聲稱每個供應商都會獲得同等效率。

企業客戶同樣應區分供應商的整合計劃,與真正可支援其工作負載的服務。公告可能早於部署文件、合約承諾和營運經驗出現。

公開預覽的定位讓團隊有理由審慎評估這些專案,但不要求他們將評估視為即時遷移的決定。

目前,NVIDIA Kubernetes 基礎架構擴展了可用的實作選擇。這些選擇是否能簡化特定環境,取決於將它們一併運作所需的工作。

Snapshot 的啟動結果需要審慎解讀

NVIDIA Snapshot 處理另一項障礙:讓模型服務工作負載在初始化後恢復運作。

它使用檢查點機制,即擷取運行中工作負載的狀態,以便日後還原。相容環境毋須重複初始化,而是從儲存的狀態恢復。

NVIDIA 的 GPU 工作負載還原技術文章報告,Crusoe 使用 NVIDIA HGX B300 系統上的 GLM-5.3 模型進行評估。根據 NVIDIA 的說法,工作負載就緒時間由約八分鐘降至 31 秒。

這是供應商所報告的合作夥伴工作負載結果,並非為本文進行的獨立基準測試。

所報告的改善涉及工作負載就緒時間,而非生成答案速度的普遍提升。

這個分別影響基礎架構買家如何理解該數字。工作負載更快就緒,並不能證明它在啟動後處理請求的速度。

還原量度亦未必描述整個佈建流程。NVIDIA 表示,基礎架構佈建和容器映像載入仍不屬於其量度的還原路徑。

其文件亦列明相容性要求,包括所述還原操作須使用相同的 GPU 型號和驅動程式。

這些界線是結果的核心。它們決定團隊在預期獲得相近效益前,必須重現甚麼條件。

對面對突發需求的服務而言,初始化可能延遲可用容量的到位。當初始化是相關瓶頸時,縮短這段延遲具有營運價值。

然而,更快還原無法消除相容機器的短缺。即使初始化已縮短,也無法令緩慢的儲存系統或不可用的基礎架構變得無關緊要。

因此,正確的評估應從服務的實際延遲開始。團隊需要判斷延遲的哪一部分來自取得資源、載入軟件、初始化工作負載,還是還原已儲存狀態。

這種劃分可避免精確的基準測試變成不精確的承諾,也有助於識別 Snapshot 是否處理營運商實際面對的問題。

已儲存狀態帶來自身的管理問題。營運商需要知道哪種軟件設定產生成品,以及更新後的工作負載何時需要替換版本。

還原機制亦需要明確的故障處理路徑。若無法繼續還原,服務仍需要一條清楚可理解的可用性恢復途徑。

這些是由設計引起的評估問題,而非聲稱 Snapshot 在這些情況下會失效。它們應納入部署審查,因為所報告的啟動結果並未回答這些問題。

代理持久性與模型還原之間的分別在此同樣重要。Agent Substrate 保留代理的環境;Snapshot 則還原已初始化的 GPU 工作負載。

兩者都涉及狀態,但處理的是系統中不同部分。將它們視為單一功能,會模糊哪個元件負責哪種復原行為。

合作夥伴示例令這項基礎架構公告更具體。它的價值在於識別一項附帶明確條件的具體改善。

保留這些條件,會讓結果對買家更有用。將其擴展為一般推論速度的主張,反而會降低資訊價值。

留意維護者參與度、支援版本和可重複的結果

這項公告的下一階段,應透過可觀察的變化而非假定的採用情況來評估。NVIDIA OpenShell 捐贈確立了一個管治里程碑,而周邊軟件各自有通往營運成熟度的路徑。

第一個訊號是更廣泛的維護參與。在未來數月,應留意 NVIDIA 以外的機構是否明顯承擔程式碼審查、發佈、安全流程和整合維護的責任。

當機構實際完成維持專案所需的工作,共同擁有權才具有意義。

不斷增加的使用者名單會令人鼓舞,但維護責任提供的是另一類證據。它顯示專案的方向和延續性是否建立在更廣泛的基礎上。

若外部貢獻者持續負責重要工作,持久的社群治理便更有說服力。若關鍵決策仍然集中,管治轉型帶來的實際改變便會較為有限。

第二個訊號是更清晰的支援和相容性文件。這包括 NVKE 和 NVKR 公開預覽狀態的改變,以及代理元件已有文件記錄的整合界線。

一個版本應說明哪些組合獲支援、各版本之間有何改變,以及營運商如何從失敗的升級中復原。這些細節使軟件可針對特定環境加以評估。

這些資訊的出現,會加強共享元件正成為可營運平台的論據。若持續不明朗,較適合進行有限評估,而非作出廣泛部署的假設。

第三個訊號是可重複的工作負載證據。Snapshot 的合作夥伴結果為評估者提供具體起點,但更廣泛的信心需要在保留原始指標之餘披露其條件的量度結果。

有用的後續工作應區分還原時間與服務整體可用性的時間,也應說明硬件相容性、儲存設定、軟件版本,以及還原失敗時的行為。

在更多工作負載中取得可比較結果,將加強其具實際重用價值的論據。若結果取決於嚴格匹配的條件,所報告效益的適用範圍便會受限。

這些訊號應保持獨立。管治改善不能驗證效能主張,而強勁的基準測試亦不能證明支援流程已成熟。

這項公告更廣泛的意義,在於連結代理安全性與運作 AI 工作負載所需的系統。這種連結使平台擁有權成為 AI 部署討論的核心部分。

它亦讓企業買家有更具體的方法檢視開放性。他們可以問誰維護程式碼、它執行哪些界線,以及哪些營運責任仍由自己承擔。

先從與你的部署相關的證據開始。將權限要求與建議的強制執行模型比較,然後檢視相容性和復原行為。把管治里程碑與生產建議及合作夥伴效能主張分開看待。詢問你的團隊能否說明誰批准存取、誰維護整合,以及環境無法恢復時由誰回應。把評估擴展為服務承諾前,先記錄這些答案。NVIDIA OpenShell 捐贈為發展部分此類基礎架構建立了一個共享場所。利用後續版本、維護決策和可重複評估,判斷這個共享基礎如何配合你需要代理執行的工作。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page