top of page

La donazione di NVIDIA OpenShell porta la sicurezza degli agenti sotto una governance condivisa

1 ora fa
Tempo di lettura: 13 min
Illustrative photograph. Photo: Anastasia Shuraeva / Pexels.

NVIDIA ha annunciato il contributo di OpenShell alla governance della community il 10 novembre, insieme a strumenti per l'infrastruttura che restano a diversi stadi di maturità. La donazione di NVIDIA OpenShell porta un runtime, l'ambiente software che esegue e supervisiona gli agenti, all'interno della Cloud Native Computing Foundation. La questione centrale è quanto controllo operativo l'infrastruttura condivisa offra alle aziende che distribuiscono software autonomo.

L'annuncio si rivolge ai team che eseguono agenti AI, sistemi software che usano modelli e strumenti per completare attività. Questi team necessitano di autorizzazioni applicabili, ambienti di lavoro persistenti e infrastrutture in grado di gestire una domanda variabile. L'open source offre loro codice da ispezionare, ma gestirlo richiede comunque decisioni di sicurezza, manutenzione e responsabilità.

Google fa parte di questa storia attraverso Agent Substrate, il suo framework per gestire ambienti per agenti su Kubernetes, il sistema open source per la gestione dei carichi di lavoro delle applicazioni. NVIDIA sta contribuendo a quel progetto mentre espande il proprio software per l'infrastruttura. La tensione principale è tra l'infrastruttura condivisa e la responsabilità che ciascun operatore mantiene. La proprietà comunitaria può ampliare la partecipazione senza far sparire le decisioni di distribuzione.

La donazione di NVIDIA OpenShell cambia la gestione, non la sua maturità dall'oggi al domani

La Cloud Native Computing Foundation, o CNCF, ha accolto OpenShell come progetto Sandbox al KubeCon + CloudNativeCon North America. Sandbox è una categoria di maturità iniziale per i progetti, distinta dalle fasi Incubating e Graduated della fondazione.

Nel suo annuncio sulla governance di OpenShell, CNCF descrive un'infrastruttura che pone confini applicabili attorno all'accesso degli agenti a dati, segreti e reti. La fondazione afferma inoltre che OpenShell sta adottando Cedar, un linguaggio per esprimere politiche di autorizzazione.

Il cambiamento immediato riguarda chi può plasmare il livello di sicurezza, piuttosto che una dichiarazione generalizzata secondo cui ogni distribuzione sia pronta.

Questa distinzione conta perché governance e maturità del software rispondono a domande diverse. La governance determina come i contributori discutono le modifiche, risolvono i disaccordi e influenzano la direzione. La maturità operativa riguarda il comportamento in caso di guasto, la compatibilità tra release e la capacità di supportare carichi di lavoro impegnativi.

Una fondazione offre un contesto per la collaborazione. Non sostituisce la valutazione di un'azienda sulla propria distribuzione.

La descrizione della transizione della community del team di progetto illustra il passaggio verso l'organizzazione neutrale ai-openshell. Identifica maintainer di NVIDIA, Red Hat, Docker e Canonical, insieme a piani per ampliare la partecipazione e definire una roadmap pubblica.

Il team afferma inoltre che l'investimento ingegneristico di NVIDIA proseguirà. Il contributo cambia quindi la gestione, preservando al contempo un ruolo continuativo per l'azienda che ha avviato il progetto.

Per gli acquirenti aziendali, questo assetto solleva una domanda più utile rispetto al semplice fatto che NVIDIA resti coinvolta. La domanda è se altre organizzazioni possano mantenere in modo significativo le integrazioni, influenzare le priorità e partecipare alle decisioni sulle release.

Un progetto può beneficiare di un grande contributore aziendale sviluppando al contempo una community più ampia. La solidità di questo assetto emerge attraverso il lavoro di manutenzione quotidiano.

Le correzioni di sicurezza richiedono revisori. Le modifiche richiedono documentazione. Gli operatori necessitano di una spiegazione chiara quando un aggiornamento modifica il comportamento.

Queste attività offrono prove più solide di una gestione condivisa rispetto al solo annuncio. Mostrano se la partecipazione vada oltre le adesioni formali, estendendosi al lavoro necessario per mantenere l'infrastruttura utilizzabile.

La donazione di NVIDIA OpenShell è quindi significativa come cambiamento della sede istituzionale del progetto. Crea una via per lo sviluppo condiviso di controlli che le aziende altrimenti valuterebbero singolarmente.

Questa via ha valore pratico anche prima che il progetto raggiunga un'altra fase di maturità. Le organizzazioni possono confrontare requisiti, esaminare modifiche proposte e contribuire con l'esperienza di distribuzione.

Tuttavia, lo status Sandbox dovrebbe restare visibile nelle discussioni di procurement e nelle valutazioni tecniche. Rimuovere questa qualificazione trasformerebbe una tappa iniziale di governance in un'affermazione di prontezza più forte di quanto le prove supportino.

I team di piattaforma ereditano le decisioni che gli agenti non possono prendere

La proposta di sicurezza di OpenShell parte da una separazione delle responsabilità. Un agente sceglie azioni per perseguire un'attività; l'infrastruttura determina quali azioni il suo ambiente consente.

Questa separazione diventa importante quando un agente incontra istruzioni fuorvianti o prende una decisione errata. Una richiesta scritta di comportarsi con cautela non stabilisce lo stesso confine di un'operazione negata.

L'annuncio spinge i team di piattaforma a definire le autorizzazioni come politica operativa, anziché lasciarle nelle istruzioni dell'applicazione.

Jim Bugwadia di Nirmata offre una prospettiva pratica in un'analisi CNCF sui controlli delle policy per agenti. Descrive controlli per l'accesso ai file, il comportamento dei processi, le richieste di rete e le credenziali, i segreti usati per autenticare l'accesso.

La sua analisi identifica anche responsabilità esterne all'ambito di OpenShell. I team di piattaforma decidono comunque quali immagini software possano essere eseguite, quante risorse infrastrutturali riceva un ambiente e chi possa modificare le autorizzazioni.

È un limite utile da esplicitare. Installare un livello di enforcement non dice a un'organizzazione cosa la sua policy dovrebbe consentire.

Si consideri un assistente ingegneristico esemplificativo che esamina un problema software. Ha bisogno di accesso al repository e dell'autorizzazione a eseguire test, ma la sua attività non richiede intrinsecamente un accesso illimitato ai sistemi di produzione.

La difficile domanda organizzativa è chi renda applicabile questa distinzione. Gli sviluppatori di applicazioni comprendono il flusso di lavoro, mentre i team di sicurezza comprendono le conseguenze di un accesso più ampio.

Gli ingegneri di piattaforma devono quindi realizzare una distribuzione che implementi coerentemente il confine concordato. Se questi gruppi definiscono presupposti diversi, un runtime per agenti non può riconciliarli automaticamente.

Questo sposta una parte della conversazione d'acquisto oltre le capacità del modello. Gli acquirenti devono anche comprendere come le autorizzazioni vengano approvate, riviste e riesaminate dopo un incidente.

Un assistente che completa con successo un'attività può comunque usare più autorità di quanto l'organizzazione intendesse. Le metriche di successo devono quindi coesistere con prove su ciò a cui il sistema ha avuto accesso.

Anche l'onere operativo cambia nel tempo. Un'autorizzazione adatta alla revisione di un repository potrebbe essere eccessiva per una ricerca nella documentazione o insufficiente per un'attività di release approvata.

I team necessitano di un processo per modificare l'autorità senza rendere le autorizzazioni estese la risposta predefinita a ogni azione bloccata.

Qui l'infrastruttura condivisa crea sia un'opportunità sia una richiesta. Un'implementazione comune offre alle organizzazioni qualcosa di concreto da esaminare insieme.

Espone anche le decisioni di policy che devono assumersi in prima persona. Un progetto aperto non può decidere quali documenti interni siano sensibili o chi debba autorizzarne l'accesso.

Per i team che gestiscono evidenze tecniche, una base di conoscenza ricercabile può aiutare a preservare note di valutazione e decisioni di distribuzione. Questa documentazione supporta la revisione, mentre il runtime resta responsabile dell'applicazione dei confini configurati.

La pressione ricade più direttamente sulle organizzazioni che spostano gli agenti dalle dimostrazioni al lavoro continuativo. Hanno bisogno di una risposta alla domanda su chi sia proprietario dell'ambiente dopo che il team applicativo ha completato l'integrazione iniziale.

Senza questa proprietà, il software condiviso rischia di diventare un altro componente da cui tutti dipendono e che nessuno mantiene con continuità.

Agent Substrate di Google affronta il costo dell'attesa

Le autorizzazioni degli agenti sono solo una parte del problema infrastrutturale. Gli ambienti per agenti devono anche persistere mentre utenti, strumenti o modelli impiegano tempo per rispondere.

Mantenere disponibile un ambiente consuma risorse. Ricostruirlo dopo ogni pausa introduce ritardi e rischia di perdere lo stato di lavoro, le informazioni necessarie per continuare un'attività.

Agent Substrate di Google affronta questo problema del ciclo di vita. Nella sua descrizione tecnica dell'esecuzione degli agenti, NVIDIA spiega come il progetto associ le sessioni a un pool condiviso di worker.

Gli ambienti inattivi possono essere salvati e successivamente ripristinati con memoria e file. NVIDIA descrive inoltre il lavoro che collega questo livello di esecuzione con Dynamo, il suo framework di inferenza, e KAI Scheduler, il suo allocatore di risorse del cluster.

Il progetto di Google e OpenShell affrontano problemi operativi correlati, ma non dovrebbero essere considerati prodotti intercambiabili.

La distinzione aiuta a spiegare il contributo di NVIDIA a un framework nato in Google. Una piattaforma necessita sia di una risposta su ciò che un agente possa fare sia di un modo per gestirne efficacemente l'ambiente.

Da una prospettiva architetturale, mantenere componenti separati può offrire flessibilità agli operatori. L'enforcement delle autorizzazioni e la pianificazione degli ambienti non devono necessariamente avere programmi di release o scelte implementative identici.

Tuttavia, questa flessibilità crea lavoro di integrazione. I team devono stabilire come identità, autorizzazioni e ambiente di lavoro di un agente restino associati mentre l'esecuzione si interrompe o si sposta.

Un ambiente che riprende correttamente deve mantenere i confini appropriati alla sua attività. Conservare i file da solo non risponde alla domanda se la sua autorizzazione precedente resti valida.

Questa è un'implicazione operativa dell'architettura, piuttosto che la prova di un guasto segnalato. L'annuncio non stabilisce che ogni possibile combinazione sia stata convalidata.

La stessa cautela si applica alla pianificazione della capacità. Liberare risorse durante i periodi di inattività sembra interessante, ma i benefici effettivi dipendono da come i carichi di lavoro alternino attività e attesa.

Un assistente spesso attivo presenta un modello diverso da una sessione lasciata intatta tra richieste degli utenti. Una valutazione deve rappresentare il carico di lavoro previsto.

Il confronto cambia anche il modo in cui i team di piattaforma dovrebbero interpretare le dichiarazioni sulla densità. Supportare molte sessioni registrate è diverso dal servire molte attività simultaneamente attive entro un tempo di risposta accettabile.

Gli acquirenti dovrebbero chiedere quale condizione descriva un benchmark. Altrimenti, un titolo sugli agenti supportati può oscurare le risorse necessarie quando quegli agenti diventano attivi insieme.

La collaborazione colloca qui Google e NVIDIA su un percorso infrastrutturale condiviso, pur mantenendo interessi commerciali distinti. Trattare l'annuncio come una semplice competizione tra loro non coglierebbe questa relazione.

I loro approcci illustrano invece perché la questione della governance sia importante. Le aziende vogliono componenti che possano funzionare insieme senza richiedere che ogni decisione architetturale provenga dallo stesso fornitore.

Questa ambizione resta dipendente dai dettagli implementativi. I piani di integrazione stabiliscono una direzione; la compatibilità documentata e una distribuzione ripetibile stabiliscono una combinazione utilizzabile.

Per gli operatori, l’esito rilevante è un sistema coerente con responsabilità chiaramente assegnate. L’aggiunta di progetti aiuta solo quando i loro confini restano comprensibili durante aggiornamenti, guasti e revisioni della sicurezza.

L’infrastruttura Kubernetes di NVIDIA offre agli operatori più controllo e più lavoro

Accanto al proprio lavoro sugli agenti, NVIDIA ha presentato NVIDIA Kubernetes Engine e NVIDIA Kubernetes Recipes. Questi progetti si rivolgono ai provider che realizzano servizi Kubernetes gestiti su unità di elaborazione grafica, o GPU, i processori usati per molti carichi di lavoro AI.

La divisione è semplice. NVIDIA Kubernetes Engine, abbreviato NVKE, gestisce i cluster, gruppi di macchine che operano come piattaforma applicativa condivisa. NVIDIA Kubernetes Recipes, o NVKR, crea gli artefatti software usati da tali cluster.

La descrizione di NVIDIA sulla gestione dei cluster Kubernetes afferma che gli operatori possono adottare i progetti insieme o in modo indipendente. Entrambi sono disponibili con licenza open source Apache 2.0.

La precisazione sulla disponibilità è importante: entrambi i progetti sono in anteprima pubblica. NVIDIA dichiara esplicitamente che non sono ancora consigliati per carichi di lavoro di produzione e che le loro interfacce e il loro comportamento possono cambiare.

L’infrastruttura Kubernetes di NVIDIA offre agli operatori una base per creare servizi, lasciando però all’operatore la titolarità del servizio.

Questa configurazione interessa le organizzazioni che desiderano controllare le scelte di distribuzione e l’esperienza del cliente. Richiede però anche che mantengano il servizio da cui dipendono quei clienti.

C’è una differenza sostanziale tra accedere al codice e accettare la responsabilità del suo funzionamento. Un servizio gestito richiede procedure per aggiornamenti, ripristino, carenze di capacità e assistenza clienti.

L’open source rende disponibili all’ispezione i dettagli di implementazione. Non fornisce personale, non determina gli impegni di assistenza di un’organizzazione e non risolve ogni problema di compatibilità.

La separazione tra creazione del software e gestione dei cluster è quindi significativa. Le build riproducibili, che registrano gli input necessari per ricreare gli artefatti software, possono supportare la risoluzione dei problemi e la revisione delle modifiche.

Offrono ai team una base più chiara per identificare cosa sia cambiato tra una distribuzione e l’altra. Questo è particolarmente utile quando un problema compare solo dopo l’aggiornamento di diversi componenti dell’infrastruttura.

Tuttavia, la riproducibilità non dimostra che una specifica combinazione soddisfi i requisiti di un’organizzazione. I team necessitano comunque di convalide pertinenti al proprio hardware, alle applicazioni e alle condizioni di guasto.

È la stessa tensione tra controllo e responsabilità visibile nell’annuncio di OpenShell. Un maggiore accesso all’infrastruttura offre agli operatori più modi per influenzarne il comportamento.

Riduce però anche il numero di decisioni che possono delegare senza esaminarle. Scegliere di possedere la piattaforma significa scegliere di assumerne le conseguenze operative.

Per i provider di servizi, la rilevanza commerciale dipende dall’esecuzione. Blocchi costitutivi condivisi potrebbero ridurre l’ingegneria duplicata, mentre la differenziazione si sposta verso affidabilità, supporto e integrazioni specializzate.

Questa è un’implicazione analitica, non un risultato misurato nell’annuncio dell’anteprima. Non vi sono elementi per affermare che ogni provider otterrà la stessa efficienza.

Anche i clienti enterprise dovrebbero distinguere i piani di integrazione del fornitore da un servizio supportato disponibile per i propri carichi di lavoro. Un annuncio può precedere la documentazione di distribuzione, gli impegni contrattuali e l’esperienza operativa.

La designazione di anteprima offre ai team un motivo per valutare attentamente i progetti. Non impone loro di trattare la valutazione come una decisione immediata di migrazione.

Per ora, l’infrastruttura Kubernetes di NVIDIA amplia le opzioni di implementazione disponibili. Se tali opzioni semplifichino un ambiente specifico dipende dal lavoro necessario per gestirle insieme.

I risultati di avvio di Snapshot richiedono una lettura circoscritta

NVIDIA Snapshot affronta un altro ostacolo: riportare in funzione un carico di lavoro di serving del modello dopo l’inizializzazione.

Utilizza il checkpointing, ovvero la cattura dello stato di un carico di lavoro in esecuzione per un successivo ripristino. Invece di ripetere l’inizializzazione, un ambiente compatibile riprende dallo stato salvato.

Il post tecnico di NVIDIA sul ripristino dei carichi di lavoro GPU riporta una valutazione di Crusoe con il modello GLM-5.3 su sistemi NVIDIA HGX B300. Secondo NVIDIA, la disponibilità operativa del carico di lavoro è passata da circa otto minuti a 31 secondi.

Si tratta di un risultato relativo a un carico di lavoro partner riportato dal fornitore. Non è un benchmark indipendente condotto per questo articolo.

Il miglioramento riportato riguarda la disponibilità operativa del carico di lavoro, non un incremento universale della velocità di generazione delle risposte.

La distinzione influenza il modo in cui gli acquirenti di infrastruttura interpretano il dato. Il fatto che un carico di lavoro sia pronto prima non dimostra quanto rapidamente elabori le richieste dopo l’avvio.

Né una misurazione del ripristino descrive necessariamente l’intero processo di provisioning. NVIDIA afferma che il provisioning dell’infrastruttura e il caricamento dell’immagine del container restano al di fuori del percorso di ripristino misurato.

La documentazione specifica inoltre requisiti di compatibilità, inclusi lo stesso modello di GPU e lo stesso driver per l’operazione di ripristino descritta.

Questi limiti sono centrali per il risultato. Determinano ciò che un team deve riprodurre prima di aspettarsi un beneficio comparabile.

Per un servizio che affronta una domanda improvvisa, l’inizializzazione può ritardare l’arrivo di capacità utilizzabile. Ridurre tale ritardo è operativamente prezioso quando l’inizializzazione rappresenta il collo di bottiglia rilevante.

Tuttavia, un ripristino più rapido non può eliminare una carenza di macchine compatibili. Non può nemmeno rendere irrilevanti uno storage lento o un’infrastruttura non disponibile semplicemente perché l’inizializzazione è stata abbreviata.

La valutazione corretta inizia quindi dal ritardo effettivo del servizio. I team devono stabilire quale parte derivi dall’ottenimento delle risorse, dal caricamento del software, dall’inizializzazione del carico di lavoro o dal ripristino dello stato salvato.

Questa separazione impedisce che un benchmark preciso diventi una promessa imprecisa. Aiuta inoltre a identificare se Snapshot affronti il problema che un operatore ha realmente.

Lo stato salvato introduce proprie questioni di gestione. Gli operatori devono sapere quale configurazione software abbia prodotto un artefatto e quando un carico di lavoro aggiornato richieda una sostituzione.

Un meccanismo di ripristino necessita inoltre di un percorso di errore definito. Se il ripristino non può procedere, il servizio deve comunque avere un percorso chiaro verso la disponibilità.

Si tratta di domande di valutazione che derivano dal progetto, non di affermazioni secondo cui Snapshot fallisca in tali condizioni. Appartengono a una revisione della distribuzione perché il risultato di avvio riportato non vi risponde.

Anche qui conta la distinzione tra persistenza dell’agente e ripristino del modello. Agent Substrate conserva l’ambiente di un agente; Snapshot ripristina carichi di lavoro GPU inizializzati.

Entrambi riguardano lo stato, ma agiscono su parti diverse del sistema. Trattarli come una singola funzionalità confonderebbe quale componente sia responsabile di ciascun comportamento di ripristino.

L’esempio del partner rende concreto l’annuncio sull’infrastruttura. Il suo valore deriva dall’identificazione di un miglioramento specifico in condizioni esplicite.

Preservare tali condizioni rende il risultato più utile agli acquirenti. Estenderlo a un’affermazione generale sulla velocità di inferenza lo renderebbe meno informativo.

Monitorare la partecipazione dei maintainer, le release supportate e i risultati ripetibili

La prossima fase di questo annuncio dovrebbe essere valutata attraverso cambiamenti osservabili, non un’adozione presunta. La donazione di NVIDIA OpenShell stabilisce una tappa di governance, mentre il software circostante segue percorsi distinti verso la maturità operativa.

Il primo segnale è una più ampia partecipazione alla manutenzione. Nei prossimi mesi, cercate organizzazioni oltre NVIDIA che assumano visibilmente responsabilità per revisioni, release, processi di sicurezza e manutenzione delle integrazioni.

La titolarità condivisa diventa significativa quando le organizzazioni svolgono il lavoro necessario a sostenere il progetto.

Un elenco crescente di utenti sarebbe incoraggiante, ma la responsabilità della manutenzione fornisce un tipo diverso di prova. Mostra se la direzione e la continuità del progetto poggino su una base più ampia.

Se contributori esterni assumono con continuità lavori importanti, si rafforza l’argomento a favore di una gestione comunitaria duratura. Se le decisioni essenziali restano concentrate, la transizione di governance avrà prodotto un cambiamento pratico più limitato.

Il secondo segnale è una documentazione più chiara su supporto e compatibilità. Ciò include cambiamenti allo stato di anteprima pubblica di NVKE e NVKR, insieme a confini di integrazione documentati per i componenti degli agenti.

Una release dovrebbe spiegare quali combinazioni sono supportate, cosa cambia tra le versioni e come gli operatori ripristinano un aggiornamento non riuscito. Questi dettagli rendono il software valutabile per un ambiente specifico.

Il loro arrivo rafforzerebbe l’argomento secondo cui i componenti condivisi stiano diventando una piattaforma gestibile operativamente. Un’incertezza persistente favorirebbe valutazioni limitate anziché ampie ipotesi di distribuzione.

Il terzo segnale è l’evidenza ripetibile sui carichi di lavoro. Il risultato del partner di Snapshot fornisce agli valutatori un punto di partenza concreto, ma una fiducia più ampia richiede misurazioni che preservino la metrica originale e ne dichiarino le condizioni.

Un utile lavoro successivo distinguerebbe il tempo di ripristino dalla disponibilità totale del servizio. Spiegherebbe inoltre compatibilità hardware, configurazione dello storage, versioni software e comportamento in caso di fallimento del ripristino.

Risultati comparabili su ulteriori carichi di lavoro rafforzerebbero l’argomento a favore del riuso pratico. Risultati che dipendono da condizioni strettamente corrispondenti limiterebbero l’ambito di applicazione del beneficio riportato.

Questi segnali devono restare distinti. Un miglioramento della governance non convalida un’affermazione sulle prestazioni, e un benchmark solido non dimostra un processo di supporto maturo.

Il significato più ampio dell’annuncio sta nel collegare la sicurezza degli agenti ai sistemi necessari per gestire carichi di lavoro AI. Questo collegamento rende la titolarità della piattaforma una parte centrale della discussione sulla distribuzione dell’AI.

Offre inoltre agli acquirenti enterprise un modo più concreto per esaminare l’apertura. Possono chiedere chi mantenga il codice, quali confini esso imponga e quali responsabilità operative restino a loro carico.

Partite dalle prove pertinenti alla vostra distribuzione. Confrontate i requisiti di autorizzazione con il modello di applicazione proposto, quindi esaminate compatibilità e comportamento di ripristino. Mantenete separate le tappe di governance dalle raccomandazioni per la produzione e dalle affermazioni sulle prestazioni dei partner. Chiedetevi se il vostro team possa spiegare chi approva l’accesso, chi mantiene le integrazioni e chi risponde quando un ambiente non può riprendere. Registrate queste risposte prima di estendere una valutazione a un impegno di servizio. La donazione di NVIDIA OpenShell crea un luogo condiviso per sviluppare parte di tale infrastruttura. Usate le prossime release, le decisioni di manutenzione e le valutazioni riproducibili per giudicare quanto questa base condivisa si adatti al lavoro che avete bisogno che gli agenti svolgano.

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

Il tuo partner AI al lavoro
Fai di più con remio

Pianifica. Crea. Consegna.
Tutto in un unico posto.

bottom of page