L'ordine di divulgazione sull'IA di National Grid sottopone l'automazione delle utility al controllo statale
National Grid deve divulgare entro 60 giorni ogni sistema di intelligenza artificiale utilizzato dalle sue utility di New York, nonostante l'IA sia già entrata nelle normali operazioni delle utility. L'ordine del 17 settembre trasforma la divulgazione sull'IA di National Grid in qualcosa di più di un inventario tecnologico. Si chiede se le utility siano in grado di spiegare i sistemi che influenzano il servizio clienti, la manutenzione, le ispezioni e, potenzialmente, altre attività regolamentate.
La New York Public Service Commission ha aperto il Caso 26-M-0552 per esaminare l'IA nelle utility pubbliche e in altre entità regolamentate. L'indagine riguarda le controllate di National Grid e altri fornitori di elettricità, gas e acqua. Le aziende devono identificare i propri utilizzi dell'IA insieme alle politiche, procedure e protocolli che li disciplinano.
Il conflitto è semplice. Le utility desiderano un'automazione in grado di rilevare guasti, dare priorità alle riparazioni ed elaborare più rapidamente le richieste dei clienti. Le autorità di regolamentazione hanno bisogno di prove che tali sistemi restino sicuri, verificabili e soggetti a responsabilità quando i loro risultati incidono su servizi essenziali. La commissione parte dalla divulgazione perché nessuna delle due parti può valutare questo compromesso senza un inventario credibile.
New York vuole un inventario, non una promessa sull'IA
L'ordine trasforma la supervisione dell'IA da governance volontaria a esame regolamentare formale.
Il caso sull'utilizzo dell'IA della commissione ha un titolo ampio. Esamina l'intelligenza artificiale nelle operazioni delle utility pubbliche e di altre entità regolamentate. Questa portata è importante perché l'IA può entrare in una utility attraverso molte vie, non solo tramite un modello approvato centralmente.
Una utility potrebbe sviluppare internamente un sistema di machine learning. Potrebbe acquistare software che aggiunge silenziosamente una funzione IA durante un aggiornamento. Un appaltatore potrebbe utilizzare analisi automatizzate per ispezionare apparecchiature. I fornitori del servizio clienti potrebbero riassumere chiamate o suggerire risposte tramite modelli che la utility regolamentata non gestisce direttamente.
L'approccio di New York parte quindi da “tutti gli utilizzi”, secondo il requisito di 60 giorni. Le utility devono inoltre descrivere i controlli che circondano tali utilizzi. Un elenco di nomi di prodotti non spiegherebbe chi ha approvato ciascun sistema, quali dati gestisce o quando una persona ne esamina il risultato.
La commissione ha indicato il servizio clienti, la manutenzione predittiva e le ispezioni di sicurezza degli impianti come attuali applicazioni delle utility. Si tratta di categorie di rischio sostanzialmente diverse.
Un assistente del servizio clienti può fornire una risposta errata su fatturazione o assistenza per i pagamenti. Un modello di manutenzione predittiva può classificare erroneamente il rischio delle apparecchiature e influenzare le priorità di lavoro. Un sistema di ispezione può non rilevare danni visibili o generare un falso avviso che invia le squadre verso l'asset sbagliato.
Le conseguenze dipendono anche da come viene utilizzato ciascun risultato. Un modello che si limita a evidenziare un'immagine per la revisione umana presenta un rischio diverso da un software che modifica automaticamente un programma di manutenzione. Un chatbot che prepara una bozza di risposta è diverso da uno autorizzato ad avviare un'azione su un account cliente.
Questa distinzione è il motivo per cui l'indagine non dovrebbe essere letta come un divieto dell'IA nelle utility. La commissione non ha annunciato che i sistemi di IA siano intrinsecamente inaccettabili. Chiede dove operino, quale autorità abbiano e quali salvaguardie li accompagnino.
La tempistica assegna alle utility un compito impegnativo. Sessanta giorni sono sufficienti per raccogliere le implementazioni note, ma abbastanza pochi da mettere in luce una debole tracciabilità interna. Nelle grandi organizzazioni, gli acquisti di software, la sperimentazione e la gestione dei fornitori sono spesso distribuiti tra molte unità operative.
National Grid è particolarmente importante perché il suo nome comprende diverse entità regolamentate di New York. La revisione statale può quindi verificare se la governance dell'IA funzioni in modo coerente tra strutture aziendali, territori di servizio e funzioni operative.
Le altre utility affrontano la stessa sfida di base. Con Edison, Central Hudson, National Fuel Gas, New York State Electric and Gas, Rochester Gas and Electric, Orange and Rockland e i fornitori regolamentati di acqua dipendono tutti da complesse catene di fornitura tecnologica.
Il primo risultato non sarà una classifica che dimostri quale azienda utilizza meglio l'IA. Sarà una base di riferimento che mostrerà se ciascuna utility è in grado di individuare e descrivere i sistemi che operano sotto la sua responsabilità.
Perché la divulgazione sull'IA di National Grid va oltre i chatbot
I sistemi più difficili da dichiarare saranno i modelli integrati che i dipendenti non riconoscono più come prodotti IA distinti.
L'espressione “intelligenza artificiale” può descrivere assistenti generativi, modelli di previsione, visione artificiale, rilevamento delle anomalie e software di ottimizzazione. Queste tecnologie non condividono un'unica architettura né un'unica modalità di errore. Un inventario utile deve classificarle in base alla funzione e alle conseguenze.
I progetti pubblici di National Grid illustrano questa varietà, sebbene i progetti annunciati altrove non dimostrino quali strumenti siano attualmente utilizzati dalle sue controllate di New York. In Gran Bretagna, l'azienda ha descritto ispezioni autonome con droni che acquisiscono immagini delle infrastrutture di trasmissione. L'analisi assistita dall'IA può quindi contribuire a valutare le condizioni delle apparecchiature.
Un progetto di National Grid utilizza immagini da drone e machine learning per identificare la corrosione sulle torri di trasmissione in acciaio. Il suo programma di ispezione utilizza inoltre dati storici per prevedere come potrebbe svilupparsi la corrosione. L'azienda stima che il processo possa ridurre la revisione manuale delle immagini e migliorare la pianificazione della manutenzione.
Si tratta di uno scenario operativo reale, ma dimostra anche perché la divulgazione necessiti di contesto. Le autorità di regolamentazione dovrebbero sapere se un modello si limita a classificare le immagini o determina un grado di condizione. Dovrebbero inoltre conoscerne le soglie di errore, il processo di revisione, la provenienza dei dati e le regole di escalation.
La provenienza dei dati descrive da dove arrivano le informazioni e come cambiano prima di raggiungere un modello. Per un sistema di ispezione, ciò potrebbe includere specifiche della fotocamera, timestamp delle immagini, identificativi degli asset, precedenti registri di manutenzione ed etichette umane utilizzate durante l'addestramento.
Un modello addestrato su un tipo di torre, un clima o un processo di imaging potrebbe avere prestazioni diverse altrove. Una media apparentemente accurata può inoltre nascondere prestazioni più deboli sui difetti rari. Tali difetti potrebbero essere i più importanti perché comportano maggiori conseguenze per la sicurezza.
Il servizio clienti pone una serie diversa di interrogativi. L'IA generativa può riassumere chiamate, preparare risposte per gli operatori o recuperare informazioni sulle policy. Può anche produrre una risposta sicura di sé che non corrisponde alla tariffa del cliente, allo stato del suo account o alle sue tutele normative.
In questo contesto, la divulgazione dovrebbe identificare il materiale di origine disponibile al modello. Dovrebbe spiegare se le risposte si basano su documenti approvati, se i dati dei clienti entrano in un servizio esterno e se i dipendenti possono vedere segnali di incertezza.
Un registro interno affidabile è importante perché altrimenti policy, prompt, risultati dei test e rapporti sugli incidenti finiscono dispersi tra i dipartimenti. Una base di conoscenza sull'IA organizzata può supportare questo lavoro, a condizione che non sostituisca i sistemi formali di conformità.
La manutenzione predittiva introduce un altro meccanismo. I modelli possono utilizzare letture dei sensori e guasti storici per stimare quali asset richiedano attenzione. Il loro valore deriva dal dirigere squadre e budget di manutenzione limitati verso apparecchiature a rischio più elevato.
Tuttavia, una raccomandazione può acquisire influenza operativa prima che qualcuno le deleghi formalmente un'autorità. I dipendenti possono imparare a fidarsi di una classifica costantemente utile. Con il tempo, un modello nominalmente consultivo può plasmare le decisioni quasi automaticamente.
Questo fenomeno è noto come bias di automazione, la tendenza a privilegiare una raccomandazione automatizzata anche quando esistono prove contrarie. Il rischio non richiede dipendenti imprudenti. Può sorgere quando i team affrontano pressione temporale, dati complessi e obiettivi di performance.
Una divulgazione adeguata sull'IA di National Grid dovrebbe quindi separare l'autorizzazione tecnica dall'influenza pratica. Un modello potrebbe non avere l'autorità di approvare un lavoro, ma determinare comunque quali opzioni i dipendenti vedono per prime. Il design dell'interfaccia può rendere difficile contestare una raccomandazione “facoltativa”.
Il software dei fornitori aggiunge un'altra complicazione. Le utility potrebbero conoscere il nome di una piattaforma aziendale senza conoscere ogni modello utilizzato al suo interno. Gli aggiornamenti possono introdurre funzionalità automatizzate, mentre i subappaltatori possono affidarsi ai propri strumenti IA.
L'ordine dello Stato riporta la responsabilità sulla società regolamentata. Una utility non può valutare pienamente i rischi per clienti, sicurezza o cybersecurity se il suo inventario si ferma ai sistemi sviluppati dai propri data scientist.
L'innovazione delle utility deve ora confrontarsi con controlli responsabili
New York costringe le utility a conciliare i benefici operativi dell'IA con le prove richieste per la responsabilità pubblica.
Le ragioni a favore dell'IA nelle utility non sono difficili da comprendere. I sistemi elettrici, del gas e dell'acqua generano grandi quantità di dati su apparecchiature, condizioni meteorologiche, clienti e operazioni. I modelli possono aiutare a identificare schemi che le persone faticherebbero a esaminare con la stessa rapidità.
Gli strumenti di ispezione possono ridurre le pericolose attività in quota e concentrare gli specialisti sui casi incerti. I sistemi di previsione possono supportare la pianificazione del personale e delle apparecchiature. Gli strumenti per il servizio clienti possono aiutare gli operatori a individuare informazioni complesse durante una chiamata.
Le utility affrontano inoltre una domanda crescente e condizioni di rete più complesse. Un sondaggio di National Grid Partners pubblicato insieme all'indagine ha dichiarato che il 78% dei responsabili dell'innovazione nelle utility intervistati stava implementando o rendendo operativo almeno un impiego dell'IA per la domanda di interconnessione. Poiché l'azienda ha sponsorizzato la ricerca, il dato dovrebbe essere considerato un segnale del settore piuttosto che un censimento indipendente.
Questi potenziali benefici spiegano perché un divieto generalizzato creerebbe rischi propri. Rifiutare strumenti di rilevamento utili può lasciare una utility dipendente da processi più lenti. La questione rilevante è se un sistema specifico migliori le decisioni sotto controlli adeguati al suo ruolo.
La commissione di New York ha già mostrato di considerare i sistemi digitali attraverso la lente delle infrastrutture critiche. Ad aprile ha adottato norme vincolanti di cybersecurity per le utility che regolano i fornitori di elettricità, gas, vapore e acqua.
Tali norme richiedono programmi di cybersecurity basati sul rischio, controlli degli accessi, pratiche di autenticazione, rilevamento delle intrusioni e pianificazione della risposta. Sono entrate in vigore il 1° giugno 2026. L'indagine sull'IA arriva meno di quattro mesi dopo.
Le due azioni sono collegate, ma non intercambiabili. La cybersecurity convenzionale chiede se un aggressore possa compromettere un sistema o i suoi dati. La governance dell'IA deve anche chiedere se un sistema autorizzato si comporti in modo impreciso, opaco o incoerente durante l'uso normale.
Un modello può fallire senza subire un attacco. I suoi dati di addestramento possono omettere situazioni importanti. Il suo output può cambiare dopo un aggiornamento del fornitore. I dipendenti possono applicarlo al di fuori dello scopo per cui è stato testato. Una previsione statisticamente corretta può comunque produrre un risultato ingiusto quando è integrata in un processo difettoso.
La commissione ha evidenziato in particolare allucinazioni, bias algoritmici, problemi di trasparenza, rischi per la privacy, errori di configurazione, attacchi informatici e fragilità funzionale. Per fragilità funzionale si intende un sistema che offre prestazioni accettabili in condizioni familiari, ma fallisce nettamente quando le circostanze cambiano.
Queste preoccupazioni sono in linea con il framework federale sui rischi dell'IA. Il NIST organizza la gestione del rischio dell'IA attorno a governance, mappatura, misurazione e gestione. Considera validità, sicurezza, trasparenza, privacy ed equità come caratteristiche correlate, anziché come semplici caselle isolate da spuntare.
Il framework del NIST resta volontario, mentre l'indagine di New York proviene da un regolatore di settore. Questa differenza è significativa. Una comunicazione formale di un'utility può collegare principi generali di rischio a sistemi identificati, dirigenti responsabili, procedure operative e obblighi di servizio pubblico.
Le infrastrutture critiche cambiano anche l'onere della prova accettabile. Una raccomandazione per un filtro fotografico e un modello di ispezione possono usare tecniche simili, ma un risultato errato produce conseguenze diverse. I regolatori si aspettano ragionevolmente una convalida più rigorosa quando un sistema influenza sicurezza, affidabilità, fatturazione o accesso a un servizio essenziale.
Il governo federale ha operato una distinzione analoga. Il framework del Department of Homeland Security per le infrastrutture critiche richiede controlli di cybersicurezza, protezione dei dati dei clienti, valutazione delle modalità di guasto e trasparenza significativa.
L'indagine di New York può tradurre questi principi in una supervisione specifica per le utility. Può chiedere chi approva un modello, con quale frequenza ne vengono testate le prestazioni e cosa accade quando il sistema produce un output inaccettabile.
La tensione principale, quindi, non è National Grid contro un'altra utility. È l'innovazione delle utility contro un controllo responsabile.
Le utility ottengono valore quando i modelli operano su più dati e più decisioni. I regolatori acquistano fiducia quando l'autorità è limitata, i registri restano disponibili e i fallimenti attivano azioni correttive. Questi obiettivi possono coesistere, ma solo quando un'azienda sa dimostrare come.
Questo processo di disclosure metterà sotto pressione i team di governance tanto quanto quelli di ingegneria. Gli avvocati dovranno interpretare l'ordine. I team di procurement dovranno identificare le funzionalità dei fornitori. Gli specialisti della sicurezza dovranno mappare i flussi di dati. I responsabili di business dovranno spiegare l'uso effettivo, non quello previsto.
Una risposta solida collegherà queste prospettive. Una debole presenterà una policy sull'IA ben rifinita accanto a un inventario operativo incompleto.
La sola disclosure non può dimostrare che un sistema di IA sia sicuro
Un inventario crea visibilità, ma non convalida le prestazioni del modello né impedisce un'implementazione dannosa.
L'ordine della commissione è un primo passo necessario, perché i sistemi sconosciuti non possono essere supervisionati. Tuttavia, anche un elenco completo può nascondere controlli deboli. Lo Stato dovrà distinguere tra governance documentata e governance testata.
Una policy potrebbe richiedere una revisione umana per gli output ad alto impatto. Questa affermazione non rivela se i revisori dispongano di tempo, competenze o informazioni sufficienti per dissentire dal modello. Non mostra nemmeno se il dissenso incida sulle valutazioni delle prestazioni.
Allo stesso modo, un fornitore potrebbe pubblicizzare l'accuratezza senza testare il sistema sui dati e nelle condizioni operative di una utility. I risultati medi dei benchmark non dimostrano l'affidabilità durante tempeste, degrado delle apparecchiature, insolite controversie sui conti o copertura incompleta dei sensori.
La commissione dovrebbe quindi esaminare lo scopo previsto di ciascun sistema e il suo uso improprio ragionevolmente prevedibile. Dovrebbe chiedere quali risultati siano stati testati, quali gruppi o condizioni operative siano stati sottorappresentati e chi sia responsabile della correzione.
I sistemi generativi richiedono un'attenzione particolare, perché un linguaggio fluente può nascondere errori fattuali. Il NIST definisce questi errori confabulazioni, ossia contenuti falsi o erronei presentati con sicurezza. Nel servizio clienti delle utility, una formulazione curata può rendere più persuasiva una risposta errata sulle policy.
I sistemi di visione artificiale presentano un'incertezza diversa. I loro fallimenti possono dipendere da illuminazione, angolazione della telecamera, condizioni meteorologiche, tipo di apparecchiatura o compressione dell'immagine. Un revisore umano deve poter accedere alle prove originali, non solo a un'etichetta generata dal modello.
I sistemi predittivi possono degradarsi man mano che cambiano apparecchiature, modelli climatici, pratiche di lavoro o reti di sensori. Questo è il model drift, ossia un calo delle prestazioni quando le condizioni del mondo reale si allontanano dai dati utilizzati durante lo sviluppo.
L'ordine solleva anche un problema di riservatezza. Diagrammi dettagliati dei sistemi e informazioni sulle vulnerabilità possono creare rischi per la sicurezza se divulgati indiscriminatamente. I fornitori potrebbero inoltre sostenere che la documentazione dei modelli contenga informazioni proprietarie.
La commissione avrà bisogno di dettagli sufficienti per valutare il rischio senza creare una mappa per gli aggressori. Ciò richiederà probabilmente una distinzione accurata tra comunicazioni pubbliche e presentazioni protette. Un'eccessiva segretezza, tuttavia, impedirebbe a clienti ed esperti indipendenti di valutare utilizzi rilevanti.
La trasparenza pubblica è più importante quando l'IA incide direttamente sulle persone. I clienti dovrebbero sapere quando un sistema automatizzato influenza il supporto alla fatturazione, l'instradamento dei reclami, l'idoneità al servizio o le comunicazioni di sicurezza. Devono inoltre avere un modo pratico per contattare una persona qualificata.
L'ampiezza dell'indagine crea un'altra incertezza. “Tutta l'IA” sembra un'espressione chiara finché le utility non la applicano a decenni di software analitico. Modelli statistici tradizionali, automazione basata su regole, machine learning e IA generativa possono sovrapporsi.
Una definizione troppo ristretta ometterebbe sistemi influenti. Una definizione illimitata potrebbe sommergere i regolatori di strumenti a basso rischio, inclusi filtri antispam o funzionalità d'ufficio di routine. Una classificazione basata sul rischio offre un percorso migliore dopo l'inventario iniziale.
Lo Stato può raggruppare i sistemi in base a conseguenze e autonomia. Un assistente alla redazione a basso impatto non dovrebbe ricevere lo stesso scrutinio di un software collegato alle operazioni sul campo. Un sistema di sicurezza dovrebbe affrontare requisiti probatori più rigorosi rispetto a uno strumento che formatta una presentazione interna.
National Grid e altre utility potrebbero inoltre identificare sistemi sperimentali mai entrati in produzione. Questi progetti pilota restano rilevanti perché le loro disposizioni su dati e accessi possono creare rischi. Tuttavia, i regolatori dovrebbero distinguere i test controllati dai sistemi decisionali attivi.
Il punto più importante da considerare con scetticismo è che la disclosure misura la consapevolezza organizzativa, non la sicurezza in sé. Una utility può sapere esattamente cosa utilizza e applicare comunque test inadeguati. Al contrario, una prima comunicazione incompleta potrebbe rivelare debolezze nell'inventario senza dimostrare che i sistemi implementati abbiano causato danni.
New York dovrebbe evitare di trasformare il numero dei sistemi divulgati in una classifica semplicistica. Un numero maggiore di sistemi segnalati potrebbe riflettere un'adozione più ampia, una governance migliore o entrambe. Un numero inferiore potrebbe indicare prudenza, scarsa capacità di individuazione o un'interpretazione restrittiva dell'ordine.
Il confronto utile riguarderà la qualità dei controlli. I regolatori dovrebbero cercare responsabili nominati, finalità chiare, fonti di dati approvate, risultati dei test, programmi di monitoraggio, obblighi dei fornitori, procedure di override umano e registri degli incidenti.
Dovrebbero inoltre esaminare i piani di dismissione. La governance dell'IA è incompleta quando le aziende possono approvare un sistema ma non dispongono di un processo per disabilitarlo dopo prestazioni inaccettabili.
L'indagine non ha ancora stabilito che National Grid o un'altra utility nominata abbiano fatto un uso improprio dell'IA. Ha stabilito che la commissione considera l'adozione attuale sufficientemente ampia da giustificare una supervisione strutturata. La copertura informativa dovrebbe mantenere questa distinzione man mano che emergono le comunicazioni.
Tre segnali mostreranno se l'indagine di New York è davvero incisiva
La prossima fase rivelerà se la disclosure sull'IA di National Grid diventerà un modello di supervisione applicabile o resterà un esercizio di inventario una tantum.
Il primo segnale sarà la qualità delle comunicazioni delle utility dopo la finestra di 60 giorni. Le presentazioni più solide classificheranno i sistemi per finalità, dati, autonomia e conseguenze. Identificheranno sia i modelli sviluppati internamente sia l'IA integrata nei prodotti dei fornitori.
Occorre osservare se le utility descriveranno i flussi di lavoro reali. Una comunicazione che afferma che l'IA “supporta la manutenzione” offre poco valore. Una disclosure utile spiega quale input entra nel modello, quale output produce, chi esamina tale output e quale azione può seguirne.
La comunicazione di National Grid sarà particolarmente informativa perché l'azienda ha promosso pubblicamente tecnologie infrastrutturali legate all'IA. Regolatori e clienti potranno confrontare questa narrativa di innovazione con le pratiche di governance divulgate per le sue operazioni a New York.
Una comunicazione dettagliata rafforzerebbe l'idea che le grandi utility possano tracciare l'IA attraverso organizzazioni complesse. Categorie ampie e ripetute richieste di riservatezza la indebolirebbero.
Il secondo segnale sarà il trattamento dei livelli di rischio da parte della commissione. Il regolatore dovrà decidere se ogni sistema riceverà una revisione simile o se lo scrutinio aumenterà con il potenziale danno.
Un modello di rischio credibile porrebbe diritti dei clienti, sicurezza pubblica, affidabilità della rete e dati sensibili ai primi posti. Dovrebbe inoltre tenere conto dell'autonomia. Un software che raccomanda un'azione presenta un rischio diretto minore rispetto a un software autorizzato a eseguirla senza approvazione.
Occorre cercare requisiti relativi a convalida indipendente, segnalazione degli incidenti, gestione delle modifiche e test ricorrenti delle prestazioni. Queste misure mostrerebbero che New York intende supervisionare l'IA lungo l'intero ciclo di vita.
La supervisione del ciclo di vita è importante perché modelli e fornitori cambiano. Un inventario presentato nel novembre 2026 può diventare obsoleto dopo un aggiornamento software, un'acquisizione, una nuova fonte di dati o un uso aziendale ampliato. La commissione avrà bisogno di regole per segnalare modifiche rilevanti.
Il terzo segnale sarà se l'indagine produrrà garanzie applicabili. La commissione ha dichiarato che valuterà le disclosure e stabilirà se siano necessarie protezioni e policy aggiuntive. Ciò lascia aperti diversi possibili esiti.
Potrebbe emanare linee guida generali, istituire segnalazioni ricorrenti, aggiungere controlli sull'IA agli esami di cybersicurezza o proporre norme vincolanti. Potrebbe anche definire aspettative specifiche per i sistemi rivolti ai clienti e quelli legati alla sicurezza.
Un passaggio verso report ricorrenti e controlli basati sul rischio rafforzerebbe il giudizio centrale dell'articolo. Trasformerebbe la disclosure in un meccanismo continuo di responsabilità. Un rapporto che riassumesse le pratiche del settore senza obblighi di follow-up indebolirebbe questa conclusione.
Lo Stato dovrebbe anche chiarire i rimedi. I regolatori hanno bisogno di opzioni quando un sistema non dispone di prove sufficienti, espone dati dei clienti o opera al di fuori dei limiti approvati. Tali opzioni potrebbero includere piani correttivi, test aggiuntivi, uso limitato o sospensione.
Le utility, nel frattempo, non dovrebbero attendere la policy finale della commissione. La scadenza per la disclosure offre una ragione immediata per creare un unico inventario responsabile e riconciliarlo con i registri di procurement, cybersicurezza, privacy, operazioni e servizio clienti.
Per i team tecnologici, la lezione pratica va oltre le utility di New York. L'adozione dell'IA diventa più difficile da difendere quando un'organizzazione non sa dire dove operano i modelli o chi ne accetta i rischi. La documentazione deve seguire l'implementazione, comprese le funzionalità fornite da terze parti.
Per gli acquirenti aziendali, l'indagine evidenzia domande che dovrebbero rientrare in ogni acquisto di IA. Quali dati lasciano l'organizzazione? Il fornitore può spiegare le modifiche al modello? Il cliente riceve notifiche degli incidenti? Gli output possono essere verificati, contestati e riprodotti?
Per i clienti, la questione chiave è la possibilità di ricorso. L'automazione non dovrebbe rendere più difficile correggere una bolletta, segnalare una condizione pericolosa o contestare una decisione. La revisione umana ha valore solo quando è accessibile e dotata di potere.
L’ordine di divulgazione sull’AI del National Grid parte da una richiesta semplice: mostrare al regolatore dove viene utilizzata l’AI. La sua importanza duratura dipenderà da ciò che New York farà con la risposta.
Nei prossimi tre mesi, osservate la completezza degli inventari delle utility, le classificazioni del rischio della commissione e qualsiasi proposta di controlli ricorrenti. Poi ponete una domanda più difficile a ogni organizzazione che impiega l’AI in attività con conseguenze rilevanti: se un regolatore richiedesse una mappa completa e difendibile entro 60 giorni, l’organizzazione sarebbe in grado di produrla?
