top of page

La Casa Bianca sollecita un alleggerimento della responsabilità per le divulgazioni sull'IA

3 giorni fa
Tempo di lettura: 12 min
Illustrative photograph. Photo: James L / Pexels.

La Casa Bianca ha esortato le agenzie ad attenuare la responsabilità per le divulgazioni volontarie in ambito informatico dopo la riunione del 12 novembre, proponendo misure di sollievo della durata di almeno 12 mesi. La raccomandazione della Casa Bianca sulle divulgazioni relative all'IA punta a un incentivo difficile da bilanciare: le aziende detengono informazioni di sicurezza utili, ma segnalare i problemi può anche esporre le loro carenze.

Secondo il resoconto di Cybersecurity Dive del 13 novembre, la task force ha raccomandato limiti alla responsabilità per le segnalazioni in buona fede, laddove lecite, pratiche e coerenti con l'interesse pubblico. Si tratta di una raccomandazione, non di un'esenzione già approvata che copra ogni fallimento dell'IA.

La tensione centrale è tra divulgazione e responsabilità. I funzionari vogliono avvisi più tempestivi senza scoraggiare le segnalazioni, mentre i clienti continuano ad aver bisogno di conseguenze significative per condotte non sicure. L'attuale quadro di segnalazione della Cybersecurity and Infrastructure Security Agency, o CISA, offre un confronto importante: raccogliere informazioni sulla sicurezza e far rispettare gli obblighi sono compiti correlati, ma distinti.

Cosa cambierebbe la proposta della Casa Bianca sulle divulgazioni relative all'IA

Il cambiamento immediato è una raccomandazione di policy sugli incentivi alla segnalazione, il cui effetto pratico dipende dall'attuazione da parte delle agenzie.

Cybersecurity Dive ha riferito che la task force ha richiesto limiti alla responsabilità normativa per le segnalazioni volontarie di vulnerabilità e incidenti. Una vulnerabilità è una debolezza che gli aggressori possono sfruttare; un incidente è un evento che incide sulla sicurezza. Il resoconto descrive un periodo proposto di almeno 12 mesi, con possibile proroga.

La raccomandazione riportata mantiene inoltre condizioni relative all'autorità legale, alla praticabilità e alla salute e sicurezza pubblica. Queste qualificazioni devono restare al centro della vicenda. Leggere la raccomandazione sulle segnalazioni informatiche come una richiesta di intervento alle agenzie, anziché come un diritto già stabilito.

Un'agenzia dovrebbe comunque chiarire cosa intende proteggere. La protezione per l'invio di una segnalazione potrebbe differire sostanzialmente dalla protezione contro sanzioni per il fallimento di sicurezza sottostante. Una policy che lasci irrisolta questa distinzione offre alle aziende poche informazioni affidabili sulla loro esposizione.

La differenza risulta più chiara attraverso un incidente ipotetico. Si supponga che un servizio di IA scopra che aggressori stanno sfruttando i controlli di accesso, ovvero le regole che determinano chi può raggiungere determinati sistemi o informazioni. Segnalare la scoperta aiuta i difensori a identificare attività correlate. Non stabilisce però, di per sé, se il fornitore avesse in precedenza mantenuto adeguate misure di protezione.

Una policy efficace separerebbe queste questioni. I funzionari potrebbero incoraggiare la divulgazione mantenendo al contempo un processo per esaminare come si sia verificato il fallimento. Altrimenti, la promessa di collaborazione diventa difficile da distinguere da una promessa di perdono.

Anche la tempistica crea un'altra questione irrisolta. La durata proposta dalla raccomandazione non stabilisce una data iniziale universale per la protezione. I lettori dovrebbero evitare di interpretare la data della riunione come l'inizio di un'esenzione automatica invocabile da ogni organizzazione.

La proposta della Casa Bianca sulla segnalazione cambia quindi la direzione della discussione prima di modificare gli obblighi di qualsiasi organizzazione. La sua importanza risiede nel riconoscimento, da parte dell'amministrazione, che gli incentivi all'applicazione delle norme influenzano quali informazioni arrivano al governo.

Per le imprese, questo riconoscimento crea un motivo per esaminare attentamente le policy in arrivo. Non offre però una base per presumere che gli attuali obblighi di segnalazione siano scomparsi. Idoneità, condotta coperta e date di attuazione determineranno se la proposta modificherà le decisioni effettive durante un incidente.

La pressione ricade sulle aziende che presentano la prima segnalazione

La decisione più difficile arriva quando un'azienda sa abbastanza da avvisare gli altri, ma non dispone ancora di una spiegazione completa dell'incidente.

Le segnalazioni iniziali raramente coincidono con le indagini finali. Un team di sicurezza può riconoscere attività sospette prima di identificarne la causa, la portata completa o i clienti coinvolti. La sfida di policy consiste nell'incoraggiare un avviso preliminare accurato senza premiare la speculazione o la divulgazione selettiva.

Si consideri un fornitore di IA ipotetico il cui servizio si collega al repository di documenti di un cliente. Gli investigatori scoprono accessi inattesi che coinvolgono un flusso di lavoro automatizzato. Devono stabilire se il problema abbia avuto origine nel modello, nelle sue autorizzazioni, in un'integrazione o nelle credenziali rubate da un aggressore.

Il cliente ha bisogno di informazioni operative mentre l'indagine prosegue. Una segnalazione che descriva le connessioni coinvolte e le misure immediate di contenimento potrebbe essere utile prima che gli investigatori giungano a una conclusione definitiva. Attendere la certezza completa potrebbe ritardare un avviso necessario ad altri clienti.

Eppure il fornitore affronta anche una preoccupazione comprensibile. Una segnalazione preliminare può documentare fatti che i regolatori esamineranno in seguito. Se segnalare rapidamente sembra creare un'esposizione maggiore rispetto al silenzio, il sistema di segnalazione produce un incentivo negativo.

La responsabilità legata alle divulgazioni sull'IA è quindi in parte una questione di come i funzionari trattano informazioni incomplete ma oneste. Le agenzie dovrebbero distinguere una ragionevole valutazione iniziale da un resoconto fuorviante. Dovrebbero inoltre spiegare come le aziende debbano correggere le dichiarazioni precedenti quando emergono nuove prove.

La pressione va oltre gli sviluppatori di IA. I clienti aziendali dipendono dai fornitori per identificare prodotti, configurazioni e versioni interessati. Un'assicurazione generica che un incidente sia oggetto di indagine offre agli acquirenti meno opzioni rispetto a un resoconto specifico sulle connessioni che richiedono attenzione.

I clienti più piccoli affrontano un'ulteriore sfida pratica: tradurre l'avviso di un fornitore in una decisione. Devono sapere se sospendere l'accesso, cambiare le credenziali, isolare un flusso di lavoro o continuare a operare con un monitoraggio aggiuntivo.

Questo rende la qualità delle segnalazioni una misura utile del successo della policy. Un maggior numero di invii non significherebbe necessariamente una protezione migliore. Un programma di segnalazione dovrebbe anche produrre informazioni che i destinatari possano comprendere, valutare e utilizzare.

L'onere non può ricadere interamente sulla prima azienda a parlare. I destinatari governativi necessitano di procedure di ricezione chiare e di un modo credibile per gestire informazioni sensibili. L'incertezza su dove vada una segnalazione può scoraggiare la collaborazione anche quando i funzionari promettono un trattamento favorevole.

L'implicazione commerciale è diretta. Gli acquirenti dovrebbero distinguere la disponibilità di un fornitore a collaborare dalle prove che tale collaborazione produce. Un avviso utile identifica cosa è accaduto, cosa resta sconosciuto e cosa il destinatario può fare successivamente.

Una segnalazione più semplice necessita comunque di un confine di responsabilità

Le misure di sollievo funzionano meglio quando proteggono una collaborazione onesta senza trasformare la divulgazione in un sostituto di pratiche di sicurezza responsabili.

L'argomento a favore dell'incoraggiamento alla segnalazione è più forte quando le divulgazioni aiutano altri a prevenire danni. Un fornitore identifica uno schema di attacco, condivide dettagli utili e offre alle organizzazioni interessate il tempo di rispondere. Il beneficio più ampio deriva dal fatto che le informazioni si muovono oltre l'organizzazione che ha incontrato per prima il problema.

Ma l'incentivo diventa più difficile da difendere se un'azienda tratta la segnalazione come il passaggio finale. Un'organizzazione può divulgare con precisione e tuttavia rispondere in modo inadeguato. I clienti hanno bisogno di contenimento, bonifica e aggiornamenti affidabili oltre alla notifica iniziale.

La bonifica consiste nel correggere la debolezza o il danno che ha consentito il verificarsi di un incidente. Una policy focalizzata esclusivamente sull'atto di segnalare rischia di trascurare quel lavoro successivo. La domanda rilevante è se la protezione incoraggi le aziende a divulgare e ad affrontare i problemi.

Un confronto ipotetico mostra la distinzione. Un fornitore avvisa tempestivamente i clienti, limita gli accessi interessati e pubblica istruzioni correttive. Un altro invia una segnalazione, ma lascia i clienti incerti sul fatto che la funzionalità vulnerabile sia ancora attiva.

Entrambe le organizzazioni hanno comunicato con il governo. I loro clienti hanno ricevuto livelli di protezione molto diversi. Una valutazione sensata esaminerebbe tali differenze anziché trattare ogni segnalazione inviata come equivalente.

Le prove provenienti da precedenti impegni volontari sull'IA invitano inoltre a non equiparare le promesse a comportamenti coerenti. I ricercatori Jennifer Wang, Kayla Huang, Kevin Klyman e Rishi Bommasani hanno esaminato la conformità resa pubblica dalle aziende rispetto agli impegni assunti nel 2023.

Il loro studio sugli impegni volontari ha riscontrato variazioni sostanziali. OpenAI ha ottenuto il punteggio complessivo più elevato, pari all'83%, mentre la media tra le aziende era del 53%. Questi dati misurano la griglia dei ricercatori basata sulle divulgazioni, non una classifica diretta della sicurezza dei modelli o della risposta agli incidenti.

Il confronto è importante perché partecipazione volontaria e prestazione verificabile rispondono a domande diverse. Un'azienda può aderire a un quadro senza fornire prove sufficienti affinché soggetti esterni possano valutarne la condotta. Al contrario, una divulgazione pubblica limitata non stabilisce tutto ciò che è accaduto internamente.

Per la proposta attuale, la lezione è specificare cosa richiede la collaborazione. Criteri utili riguarderebbero tempestività, accuratezza, aggiornamenti, conservazione delle prove pertinenti e azioni correttive. Si tratta di questioni per le policy di attuazione, non di condizioni già stabilite dalla raccomandazione.

Anche la responsabilità pubblica necessita di spazio nella progettazione. Le segnalazioni sensibili non possono sempre diventare pubbliche immediatamente, in particolare quando i dettagli aiuterebbero gli aggressori. Tuttavia, un sistema interamente privato lascia i clienti incapaci di valutare se i problemi ricorrenti ricevano un'attenzione significativa.

I risultati aggregati offrono un possibile modo per valutare i progressi senza esporre singole indagini. Le agenzie potrebbero descrivere schemi di fallimento ricorrenti, risultati della condivisione di informazioni e problemi di attuazione irrisolti. Una simile rendicontazione richiederebbe definizioni attente per supportare confronti utili.

L'approccio della Casa Bianca alle divulgazioni sull'IA dovrà infine affrontare una verifica pratica: se modifica i comportamenti oltre l'invio della segnalazione stessa. Gli avvisi più tempestivi contano soprattutto quando portano a una protezione più rapida e a un minor numero di errori ripetuti.

Sistemi di segnalazione paralleli possono creare un altro ostacolo

Le aziende necessitano di chiarezza su quale percorso di segnalazione si applichi, soprattutto quando lo stesso incidente coinvolge IA e cybersicurezza convenzionale.

Un incidente non diventa operativamente separato soltanto perché è coinvolto un prodotto di IA. Un account compromesso, una credenziale esposta o un'impostazione di autorizzazione difettosa possono influire sia sul software ordinario sia su un flusso di lavoro di IA. Etichette di segnalazione separate non descrivono necessariamente eventi separati.

Il Congresso ha già istituito un quadro normativo attraverso il Cyber Incident Reporting for Critical Infrastructure Act del 2022, o CIRCIA. Esso impone alle organizzazioni coperte di segnalare incidenti qualificanti e pagamenti di riscatto in base alle norme di attuazione.

Il quadro normativo di segnalazione specifica una finestra di 72 ore per gli incidenti e una finestra di 24 ore per i pagamenti di riscatto. Fondamentalmente, le disposizioni pertinenti entrano in vigore alle date prescritte dalla norma finale. Tali finestre previste dalla legge non dovrebbero essere presentate come scadenze universali applicabili oggi a ogni impresa.

La legge affronta anche le segnalazioni sostanzialmente simili a un'altra agenzia federale. Tale eccezione dipende dall'accordo interagenzia richiesto e dal meccanismo di condivisione delle informazioni. Illustra perché un'ampia promessa di ridurre le duplicazioni richieda comunque disposizioni amministrative dettagliate.

Un canale separato per la segnalazione di incidenti legati all'AI dovrebbe chiarire il proprio rapporto con tali meccanismi. Un'organizzazione invierebbe gli stessi fatti tramite moduli distinti? Un aggiornamento inviato attraverso un canale raggiungerebbe gli altri destinatari? Quale agenzia richiederebbe ulteriori informazioni?

Queste domande incidono sul valore delle informazioni ricevute dal governo. Più versioni dello stesso incidente possono diventare difficili da riconciliare quando le organizzazioni le aggiornano in momenti diversi. Un riferimento condiviso o un processo di ricezione coordinato renderebbe più comprensibile il rapporto di segnalazione.

La proposta della Casa Bianca sulla segnalazione solleva anche una questione istituzionale: quanto strettamente il suo lavoro sull'AI sia collegato alle competenze esistenti in materia di cybersecurity. La questione ha già attirato l'attenzione di ex funzionari CISA e di altri specialisti della sicurezza.

Nel riferire delle preoccupazioni sul coordinamento con CISA, Cybersecurity Dive ha citato l'ex consulente dell'agenzia Daniel Bardenstein, che ha sottolineato le relazioni consolidate di CISA con gli operatori delle infrastrutture. Anche l'ex funzionario Matt Altomare ha sostenuto la necessità di un ruolo sostanziale dell'agenzia nella segnalazione degli incidenti e nella protezione delle infrastrutture.

La loro argomentazione riguarda l'accesso alla conoscenza operativa, non il marchio dell'agenzia. Un canale di segnalazione necessita di relazioni con le organizzazioni che dovrebbero utilizzarlo. Tali relazioni aiutano i funzionari a comprendere quali informazioni possiedano gli operatori e di quale assistenza abbiano bisogno.

Per gli acquirenti aziendali, il coordinamento ha un'altra conseguenza. Un fornitore potrebbe avvisare il governo mentre i clienti non dispongono ancora di istruzioni pertinenti ai propri ambienti. La segnalazione al governo e la comunicazione ai clienti dovrebbero essere valutate separatamente, anche quando riguardano lo stesso evento sottostante.

L'implementazione più solida renderebbe comprensibili tali rapporti. Le aziende dovrebbero sapere dove segnalare, come circolano gli aggiornamenti e quali obblighi restano distinti. Senza questa chiarezza, l'aggiunta di un canale di segnalazione rischia di aggiungere un'ulteriore decisione durante una risposta già difficile.

La questione irrisolta è cosa copra effettivamente la protezione

Una raccomandazione volta a limitare l'esposizione normativa non stabilisce l'immunità da ogni conseguenza di un incidente legato all'AI.

L'espressione responsabilità per la divulgazione relativa all'AI può nascondere diverse domande. La protezione si applica alla segnalazione stessa? Incide sul modo in cui un'agenzia valuta la condotta sottostante? Copre una notifica iniziale, gli aggiornamenti successivi o entrambi?

Queste domande richiedono risposte separate perché descrivono incentivi diversi. Proteggere una rettifica in buona fede incoraggia un'azienda ad aggiornare il dossier. Escludere la responsabilità per un guasto di sicurezza non correlato perseguirebbe un diverso obiettivo politico e richiederebbe una diversa giustificazione.

La stessa precisione conta quando un incidente attraversa confini organizzativi. Uno sviluppatore di AI potrebbe gestire il modello, un integratore potrebbe configurare l'accesso e un'impresa potrebbe controllare i dati connessi. Una segnalazione di un partecipante non può spiegare automaticamente la condotta di tutti gli altri.

La responsabilità può anche cambiare con l'evolversi dell'indagine. Un apparente problema del modello potrebbe rivelarsi un difetto di integrazione. Un presunto errore nella configurazione del cliente potrebbe far emergere un'impostazione predefinita fuorviante del fornitore. La protezione non dovrebbe dipendere dal trattare spiegazioni preliminari come conclusioni permanenti.

Ciò crea un difficile problema di progettazione attorno alla buona fede. I funzionari hanno bisogno di sufficiente flessibilità per gestire l'incertezza, mantenendo al contempo strumenti per affrontare l'occultamento o dichiarazioni sostanzialmente fuorvianti. Uno standard vago non offre né ai segnalanti né ai clienti interessati una base prevedibile per formulare giudizi.

La proposta richiede inoltre esame dalla prospettiva delle persone esterne al rapporto di segnalazione. Un cliente i cui dati sono stati esposti ha interessi diversi dal fornitore che effettua una divulgazione volontaria. Incoraggiare la cooperazione non dovrebbe oscurare il bisogno del cliente di informazioni accurate e rimedi appropriati.

Nulla nella raccomandazione riportata stabilisce l'eliminazione generalizzata di obblighi contrattuali o pretese private. I lettori dovrebbero quindi evitare di trattare la flessibilità normativa come una risposta universale all'esposizione legale. Il testo della politica applicabile e gli obblighi pertinenti richiederebbero un esame separato.

Le precedenti comunicazioni dell'amministrazione illustrano perché la precisione sia importante. Axios ha riferito a ottobre che i funzionari si aspettavano che le aziende AI divulgassero tempestivamente gli incidenti, collaborassero con le autorità e rimediassero ai danni. Il suo resoconto delle aspettative sugli incidenti AI descriveva una posizione pubblica incisiva dopo gli incidenti segnalati che coinvolgevano sistemi Anthropic.

Quella posizione precedente e la raccomandazione di novembre non sono necessariamente incompatibili. I funzionari possono richiedere segnalazioni tempestive modificando al contempo il modo in cui le divulgazioni influenzano l'applicazione delle norme. Rimane irrisolto come tali posizioni si traducano in politiche scritte e applicabili dalle agenzie.

La domanda scettica è se la flessibilità produca informazioni che altrimenti resterebbero nascoste. Se avvantaggia principalmente aziende che già segnalano in base ad altri obblighi, il suo valore aggiuntivo diventa meno chiaro. Valutare questa domanda richiede prove sui comportamenti, non rassicurazioni sulle intenzioni.

Esiste inoltre il rischio di misurare il risultato sbagliato. Un aumento del numero di segnalazioni potrebbe indicare una migliore divulgazione, più incidenti, una partecipazione più ampia o definizioni modificate. Una valutazione che ignori tali alternative sopravvaluterebbe ciò che i numeri dimostrano.

Per ora, la conclusione responsabile è limitata. L'amministrazione ha individuato un problema di incentivi alla segnalazione, ma la raccomandazione riportata non ne definisce l'implementazione. Le affermazioni secondo cui le aziende abbiano ricevuto un'immunità completa vanno oltre le prove disponibili qui.

Tre sviluppi mostreranno se la proposta funziona

Le prossime prove significative arriveranno dalle politiche scritte delle agenzie, dal coordinamento delle segnalazioni e dalle informazioni che i partecipanti condividono effettivamente.

Primo, occorre osservare i documenti delle agenzie che definiscono la protezione. I dettagli importanti includono l'idoneità, le divulgazioni coperte, le esclusioni, le date di attuazione e il trattamento delle rettifiche. Una dichiarazione pubblica di sostegno lascia aperte tali questioni operative.

Una politica utile spiegherebbe il rapporto tra la segnalazione e la condotta sottostante. Dovrebbe inoltre indicare cosa accade quando un'azienda segnala tempestivamente ma scopre in seguito che il proprio resoconto iniziale era incompleto. Tali disposizioni rafforzerebbero l'ipotesi che i funzionari stiano affrontando un reale ostacolo alla segnalazione.

Al contrario, un linguaggio incoerente tra le agenzie indebolirebbe questa ipotesi. Se le organizzazioni non riescono a stabilire se la stessa divulgazione riceva un trattamento diverso tra le autorità di regolamentazione, l'incertezza permane. Una protezione nominale che richieda un'ampia interpretazione potrebbe avere un'influenza limitata durante un incidente in corso.

Secondo, occorre osservare come un eventuale canale volontario per l'AI si colleghi ai sistemi di segnalazione esistenti. La pubblicazione di un nuovo modulo sarebbe soltanto un primo passo. Instradamento chiaro, procedure di aggiornamento e accordi di condivisione delle informazioni fornirebbero prove più solide di coordinamento.

La domanda centrale è se un'organizzazione possa spiegare il proprio incidente una sola volta e mantenere accuratamente informati i destinatari pertinenti. Ciò non richiede che ogni obbligo diventi identico. Richiede però confini comprensibili tra processi sovrapposti.

Le prove di una riduzione delle duplicazioni sosterrebbero la logica pratica della proposta. Istruzioni contraddittorie o richieste ripetute di informazioni sostanzialmente simili indicherebbero la direzione opposta. L'esperienza operativa degli operatori delle infrastrutture merita qui particolare attenzione.

Terzo, occorre osservare la qualità e le conseguenze delle divulgazioni. Prove utili includerebbero se le segnalazioni arrivino abbastanza presto da aiutare altri, individuino rischi azionabili e conducano a interventi correttivi. La sola partecipazione non può dimostrare tali risultati.

Governo e industria dovrebbero inoltre distinguere la cooperazione riservata dalla rassicurazione pubblica. La dichiarazione di un fornitore di aver segnalato un incidente non rivela cosa abbia segnalato né se i clienti abbiano ricevuto informazioni adeguate. Rimane necessario un controllo indipendente quando le prove diventano disponibili.

Questi segnali dovrebbero essere valutati congiuntamente. Protezioni chiare senza informazioni utili sarebbero un risultato incompleto. Segnalazioni utili accompagnate da procedure confuse mostrerebbero una debolezza diversa. L'obiettivo è un rapporto di segnalazione che le organizzazioni possano utilizzare e di cui le parti interessate possano fidarsi.

La raccomandazione della Casa Bianca sulla divulgazione relativa all'AI merita attenzione perché si concentra sul momento in cui la conoscenza privata della sicurezza diventa una risorsa pubblica di difesa. Il suo successo dipende dai termini di questo scambio.

Per i lettori che seguono questa politica, il punto di partenza dovrebbe essere il primo documento di attuazione dell'agenzia, non il titolo più ampio. Confrontatene il linguaggio sulla protezione con le condizioni di segnalazione, quindi cercate prove che le divulgazioni migliorino la risposta. Conservate dichiarazioni datate e modifiche di implementazione insieme in una base di conoscenza ricercabile, affinché una raccomandazione iniziale non venga confusa con una norma successiva. Chiedete ai fornitori cosa comunichino ai clienti insieme alle segnalazioni al governo e distinguete le conclusioni preliminari dalle indagini completate. Soprattutto, verificate se i problemi segnalati ricevano interventi correttivi documentati. Il sistema risultante renderà le organizzazioni più disposte a rivelare i fallimenti, offrendo al contempo alle persone interessate migliori informazioni su ciò che accade dopo?

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

Il tuo partner AI al lavoro
Fai di più con remio

Pianifica. Crea. Consegna.
Tutto in un unico posto.

bottom of page