Ordem de Divulgação de IA da National Grid Coloca a Automação de Serviços Públicos Sob Revisão Estadual
A National Grid deve divulgar, em até 60 dias, todos os sistemas de inteligência artificial usados por suas concessionárias em Nova York, embora a IA já tenha alcançado operações rotineiras do setor. A ordem de 17 de setembro transforma a divulgação de IA da National Grid em mais do que um inventário tecnológico. Ela questiona se as concessionárias conseguem explicar sistemas que influenciam o atendimento ao cliente, a manutenção, as inspeções e, potencialmente, outras atividades regulamentadas.
A Comissão de Serviço Público de Nova York abriu o Caso 26-M-0552 para examinar a IA em concessionárias de serviços públicos e outras entidades regulamentadas. A investigação abrange subsidiárias da National Grid e outros fornecedores de eletricidade, gás e água. As empresas devem identificar seus usos de IA, bem como as políticas, os procedimentos e os protocolos que os regem.
O conflito é direto. As concessionárias querem automação capaz de detectar falhas, priorizar reparos e processar solicitações de clientes com mais rapidez. Os reguladores precisam de evidências de que esses sistemas permanecem seguros, auditáveis e responsabilizáveis quando seus resultados afetam serviços essenciais. A comissão começa pela divulgação porque nenhum dos lados pode avaliar essa troca sem um inventário confiável.
Nova York Quer um Inventário, Não uma Promessa de IA
A ordem transforma a supervisão voluntária de IA em uma análise regulatória formal.
O caso de utilização de IA da comissão tem um título amplo. Ele examina a inteligência artificial nas operações de concessionárias de serviços públicos e outras entidades regulamentadas. Esse escopo importa porque a IA pode entrar em uma concessionária por muitas vias, não apenas por meio de um modelo aprovado centralmente.
Uma concessionária pode desenvolver internamente um sistema de aprendizado de máquina. Pode comprar um software que adiciona discretamente um recurso de IA durante uma atualização. Um contratado pode usar análise automatizada para inspecionar equipamentos. Fornecedores de atendimento ao cliente podem resumir chamadas ou recomendar respostas por meio de modelos que a concessionária regulamentada não opera diretamente.
A abordagem de Nova York, portanto, começa por “todos os usos”, segundo a exigência de 60 dias. As concessionárias também devem descrever os controles que envolvem esses usos. Uma lista de nomes de produtos não explicaria quem aprovou cada sistema, quais dados ele manipula ou quando uma pessoa revisa seu resultado.
A comissão identificou o atendimento ao cliente, a manutenção preditiva e as inspeções de segurança de instalações como aplicações atuais no setor. Essas são categorias de risco substancialmente diferentes.
Um assistente de atendimento ao cliente pode fornecer uma resposta incorreta sobre faturamento ou assistência para pagamento. Um modelo de manutenção preditiva pode classificar incorretamente o risco de equipamentos e influenciar as prioridades de trabalho. Um sistema de inspeção pode deixar de identificar danos visíveis ou gerar um alerta falso que direciona equipes ao ativo errado.
As consequências também dependem de como cada resultado é usado. Um modelo que apenas destaca uma imagem para revisão humana apresenta um risco diferente de um software que altera automaticamente um cronograma de manutenção. Um chatbot que redige uma resposta é diferente de outro autorizado a iniciar uma ação na conta de um cliente.
Essa distinção explica por que a investigação não deve ser interpretada como uma proibição da IA em concessionárias. A comissão não anunciou que sistemas de IA sejam inerentemente inaceitáveis. Ela pergunta onde eles operam, qual autoridade possuem e quais salvaguardas os acompanham.
O prazo impõe uma tarefa exigente às concessionárias. Sessenta dias são suficientes para reunir implantações conhecidas, mas curtos o bastante para expor falhas no rastreamento interno. Grandes organizações frequentemente distribuem compras de software, experimentação e gestão de fornecedores entre muitas unidades de negócios.
A National Grid é especialmente importante porque seu nome abrange várias entidades regulamentadas em Nova York. A revisão do estado pode, portanto, testar se a governança de IA funciona de forma consistente entre estruturas corporativas, territórios de serviço e funções operacionais.
Outras concessionárias enfrentam o mesmo desafio básico. Con Edison, Central Hudson, National Fuel Gas, New York State Electric and Gas, Rochester Gas and Electric, Orange and Rockland e fornecedores regulamentados de água dependem de cadeias de fornecimento tecnológico complexas.
O primeiro resultado não será um placar que prove qual empresa usa melhor a IA. Será uma referência mostrando se cada concessionária consegue localizar e descrever os sistemas que operam sob sua responsabilidade.
Por Que a Divulgação de IA da National Grid Vai Além dos Chatbots
Os sistemas mais difíceis de divulgar serão os modelos incorporados que os funcionários já não reconhecem como produtos de IA separados.
A expressão “inteligência artificial” pode descrever assistentes generativos, modelos de previsão, visão computacional, detecção de anomalias e software de otimização. Essas tecnologias não compartilham uma única arquitetura nem um único modo de falha. Um inventário útil deve classificá-las por função e consequência.
Os projetos públicos da National Grid ilustram essa variedade, embora projetos anunciados em outros lugares não comprovem o que suas subsidiárias de Nova York usam atualmente. Na Grã-Bretanha, a empresa descreveu inspeções autônomas com drones que capturam imagens de infraestrutura de transmissão. A análise assistida por IA pode então ajudar a avaliar a condição dos equipamentos.
Um projeto da National Grid usa imagens de drones e aprendizado de máquina para identificar corrosão em torres de transmissão de aço. Seu programa de inspeção também usa dados históricos para prever como a corrosão pode evoluir. A empresa estima que o processo pode reduzir a revisão manual de imagens e melhorar o planejamento de manutenção.
Esse é um cenário operacional real, mas também demonstra por que a divulgação precisa de contexto. Os reguladores precisariam saber se um modelo apenas classifica imagens ou determina uma classificação de condição. Também precisariam conhecer seus limites de erro, processo de revisão, linhagem de dados e regras de escalonamento.
Linhagem de dados descreve de onde as informações vieram e como foram alteradas antes de chegar a um modelo. Para um sistema de inspeção, isso poderia incluir especificações de câmeras, registros de data e hora das imagens, identificadores de ativos, registros anteriores de manutenção e rótulos humanos usados durante o treinamento.
Um modelo treinado com um tipo de torre, clima ou processo de imageamento pode ter desempenho diferente em outro contexto. Uma média aparentemente precisa também pode ocultar um desempenho mais fraco em defeitos raros. Esses defeitos podem ser os mais importantes porque acarretam maiores consequências de segurança.
O atendimento ao cliente levanta um conjunto diferente de questões. A IA generativa pode resumir chamadas, redigir respostas para agentes ou recuperar informações de políticas. Também pode produzir uma resposta convincente que não corresponde à tarifa do cliente, ao status da conta ou às proteções regulatórias.
Nesse contexto, a divulgação deve identificar o material-fonte disponível para o modelo. Deve explicar se as respostas se baseiam em documentos aprovados, se dados de clientes entram em um serviço externo e se os funcionários conseguem ver sinais de incerteza.
Um registro interno confiável importa porque, caso contrário, políticas, prompts, resultados de testes e relatórios de incidentes acabam dispersos entre departamentos. Uma base de conhecimento de IA organizada pode apoiar esse trabalho, desde que não substitua sistemas formais de conformidade.
A manutenção preditiva introduz outro mecanismo. Os modelos podem usar leituras de sensores e falhas históricas para estimar quais ativos precisam de atenção. Seu valor vem de direcionar equipes e orçamentos de manutenção limitados para equipamentos de maior risco.
No entanto, uma recomendação pode se tornar operacionalmente influente antes que alguém lhe delegue formalmente autoridade. Os funcionários podem aprender a confiar em uma classificação consistentemente útil. Com o tempo, um modelo nominalmente consultivo pode moldar decisões quase automaticamente.
Isso é conhecido como viés de automação, a tendência de favorecer uma recomendação automatizada mesmo quando existem evidências contrárias. O risco não exige funcionários imprudentes. Ele pode surgir quando as equipes enfrentam pressão de tempo, dados complexos e metas de desempenho.
Uma divulgação adequada de IA da National Grid deve, portanto, separar a permissão técnica da influência prática. Um modelo pode não ter autoridade para aprovar um trabalho, mas ainda assim determinar quais opções os funcionários veem primeiro. O design da interface pode tornar difícil contestar uma recomendação “opcional”.
O software de fornecedores adiciona outra complicação. As concessionárias podem conhecer o nome de uma plataforma empresarial sem conhecer todos os modelos usados dentro dela. Atualizações podem introduzir recursos automatizados, enquanto subcontratados podem depender de suas próprias ferramentas de IA.
A ordem do estado devolve a responsabilidade à empresa regulamentada. Uma concessionária não pode avaliar plenamente os riscos para clientes, a segurança ou a cibersegurança se seu inventário se limita a sistemas desenvolvidos por seus próprios cientistas de dados.
A Inovação nas Concessionárias Agora Precisa Competir com o Controle Responsável
Nova York está forçando as concessionárias a conciliar os benefícios operacionais da IA com as evidências exigidas para a responsabilização pública.
O argumento a favor da IA em concessionárias não é difícil de entender. Sistemas de eletricidade, gás e água geram grandes volumes de dados sobre equipamentos, clima, clientes e operações. Os modelos podem ajudar a identificar padrões que as pessoas teriam dificuldade de analisar na mesma velocidade.
Ferramentas de inspeção podem reduzir escaladas perigosas e concentrar especialistas em casos incertos. Sistemas de previsão podem apoiar o planejamento de pessoal e equipamentos. Ferramentas de atendimento ao cliente podem ajudar agentes a localizar informações complexas durante uma chamada.
As concessionárias também enfrentam demanda crescente e condições de rede mais complicadas. Uma pesquisa da National Grid Partners divulgada junto com a investigação afirmou que 78% dos líderes de inovação em concessionárias pesquisados estavam implantando ou operacionalizando pelo menos uma aplicação de IA para a demanda de interconexão. Como a empresa patrocinou a pesquisa, o número deve ser tratado como um sinal do setor, e não como um censo independente.
Esses benefícios potenciais explicam por que uma proibição geral criaria seus próprios riscos. Recusar ferramentas úteis de detecção pode deixar uma concessionária dependente de processos mais lentos. A questão relevante é se um sistema específico melhora as decisões sob controles apropriados à sua função.
A comissão de Nova York já demonstrou que vê os sistemas digitais pela perspectiva da infraestrutura crítica. Em abril, adotou regras de cibersegurança para concessionárias aplicáveis a fornecedores regulamentados de eletricidade, gás, vapor e água.
Essas regras exigem programas de cibersegurança baseados em risco, controles de acesso, práticas de autenticação, detecção de intrusões e planejamento de resposta. Entraram em vigor em 1º de junho de 2026. A investigação sobre IA chega menos de quatro meses depois.
As duas ações estão conectadas, mas não são intercambiáveis. A cibersegurança convencional pergunta se um invasor consegue comprometer um sistema ou seus dados. A governança de IA também precisa perguntar se um sistema autorizado se comporta de forma imprecisa, opaca ou inconsistente durante o uso normal.
Um modelo pode falhar sem ser invadido. Seus dados de treinamento podem omitir situações importantes. Seu resultado pode mudar após uma atualização do fornecedor. Os funcionários podem aplicá-lo fora da finalidade para a qual foi testado. Uma previsão estatística correta ainda pode produzir um resultado injusto quando incorporada a um processo falho.
A comissão destacou especificamente alucinações, vieses algorítmicos, problemas de transparência, riscos à privacidade, erros de configuração, ciberataques e fragilidade funcional. Fragilidade funcional significa que um sistema tem desempenho aceitável em condições familiares, mas falha de forma acentuada quando as circunstâncias mudam.
Essas preocupações estão alinhadas ao framework federal de risco em IA. O NIST organiza a gestão de riscos em IA em torno de governança, mapeamento, medição e gerenciamento. Ele trata validade, segurança, transparência, privacidade e equidade como características relacionadas, e não como itens isolados de uma lista de verificação.
O framework do NIST continua sendo voluntário, enquanto a investigação de Nova York parte de um regulador setorial. Essa diferença é significativa. Uma apresentação regulatória de uma concessionária pode conectar princípios gerais de risco a sistemas identificados, executivos responsáveis, procedimentos operacionais e obrigações de serviço público.
A infraestrutura crítica também altera o nível aceitável de comprovação. Uma recomendação de filtro fotográfico e um modelo de inspeção podem usar técnicas relacionadas, mas um resultado incorreto tem consequências diferentes. É razoável que os reguladores esperem validação mais robusta quando um sistema influencia a segurança, a confiabilidade, o faturamento ou o acesso a um serviço essencial.
O governo federal fez uma distinção semelhante. O framework de infraestrutura crítica do Departamento de Segurança Interna dos EUA exige controles de cibersegurança, proteção dos dados dos clientes, avaliação de modos de falha e transparência significativa.
A investigação de Nova York pode transformar esses princípios em supervisão específica para concessionárias. Ela pode perguntar quem aprova um modelo, com que frequência seu desempenho é testado e o que ocorre quando o sistema produz uma saída inaceitável.
A tensão central, portanto, não é National Grid contra outra concessionária. É inovação nas concessionárias versus controle responsável.
As concessionárias obtêm valor quando os modelos operam sobre mais dados e mais decisões. Os reguladores ganham confiança quando a autoridade é limitada, os registros permanecem disponíveis e as falhas acionam medidas corretivas. Esses objetivos podem coexistir, mas apenas quando uma empresa consegue demonstrar como.
Esse processo de divulgação pressionará as equipes de governança tanto quanto as equipes de engenharia. Advogados devem interpretar a ordem. Equipes de compras devem identificar recursos de fornecedores. Especialistas em segurança devem mapear fluxos de dados. Responsáveis pelas áreas de negócio devem explicar o uso real, e não o uso pretendido.
Uma resposta sólida conectará essas perspectivas. Uma resposta fraca apresentará uma política de IA bem-polida ao lado de um inventário operacional incompleto.
A Divulgação Por Si Só Não Pode Provar que um Sistema de IA É Seguro
Um inventário cria visibilidade, mas não valida o desempenho do modelo nem impede uma implantação prejudicial.
A ordem da comissão é um primeiro passo necessário, porque sistemas desconhecidos não podem ser supervisionados. Ainda assim, uma lista completa pode ocultar controles fracos. O estado precisará distinguir entre governança documentada e governança testada.
Uma política pode exigir revisão humana para saídas de alto impacto. Essa afirmação não revela se os revisores têm tempo, conhecimento ou informações suficientes para discordar do modelo. Também não mostra se a discordância afeta avaliações de desempenho.
Da mesma forma, um fornecedor pode anunciar precisão sem testar o sistema com os dados e as condições operacionais de uma concessionária. Resultados médios de benchmarks não estabelecem confiabilidade durante tempestades, degradação de equipamentos, disputas incomuns de contas ou cobertura incompleta de sensores.
A comissão deve, portanto, examinar a finalidade pretendida de cada sistema e seu uso indevido razoavelmente previsível. Deve perguntar quais resultados foram testados, quais grupos ou condições operacionais foram sub-representados e quem é responsável pela correção.
Sistemas generativos exigem escrutínio especial porque uma linguagem fluente pode ocultar erros factuais. O NIST chama esses erros de confabulações, ou seja, conteúdo falso ou incorreto apresentado com confiança. No atendimento ao cliente de concessionárias, uma redação bem-elaborada pode tornar uma resposta incorreta sobre políticas mais persuasiva.
Sistemas de visão computacional apresentam uma incerteza diferente. Suas falhas podem depender da iluminação, do ângulo da câmera, do clima, do tipo de equipamento ou da compressão da imagem. Um revisor humano precisa ter acesso à evidência original, e não apenas a um rótulo gerado pelo modelo.
Sistemas preditivos podem se degradar à medida que equipamentos, padrões climáticos, práticas de trabalho ou redes de sensores mudam. Isso é deriva do modelo, uma queda de desempenho quando as condições do mundo real se afastam dos dados usados durante o desenvolvimento.
A ordem também levanta um problema de confidencialidade. Diagramas detalhados de sistemas e informações sobre vulnerabilidades podem criar riscos de segurança se forem divulgados indiscriminadamente. Fornecedores também podem alegar que a documentação do modelo contém informações proprietárias.
A comissão precisará de detalhes suficientes para avaliar o risco sem criar um roteiro para atacantes. Isso provavelmente exige uma divisão cuidadosa entre documentos públicos e submissões protegidas. O sigilo excessivo, porém, impediria clientes e especialistas independentes de avaliar usos relevantes.
A transparência pública é mais importante quando a IA afeta diretamente as pessoas. Os clientes devem saber quando um sistema automatizado influencia o suporte de faturamento, o encaminhamento de reclamações, a elegibilidade para serviços ou comunicações de segurança. Eles também precisam de uma forma prática de falar com uma pessoa qualificada.
A amplitude da investigação cria outra incerteza. “Toda IA” parece claro até que as concessionárias o apliquem a décadas de software analítico. Modelos estatísticos tradicionais, automação baseada em regras, aprendizado de máquina e IA generativa podem se sobrepor.
Uma definição excessivamente restrita omitiria sistemas influentes. Uma definição ilimitada poderia sobrecarregar os reguladores com ferramentas de baixo risco, incluindo filtros de spam ou recursos rotineiros de escritório. A classificação baseada em risco oferece um caminho melhor após o inventário inicial.
O estado pode agrupar os sistemas por consequências e autonomia. Um assistente de redação de baixo impacto não deve receber o mesmo escrutínio que um software conectado a operações de campo. Um sistema de segurança deve enfrentar requisitos de evidência mais rigorosos do que uma ferramenta que formata uma apresentação interna.
National Grid e outras concessionárias também podem identificar sistemas experimentais que nunca entraram em produção. Esses pilotos continuam relevantes porque seus dados e acordos de acesso podem criar riscos. No entanto, os reguladores devem distinguir testes controlados de sistemas ativos de decisão.
O ponto cético mais importante é que a divulgação mede a conscientização organizacional, e não a segurança em si. Uma concessionária pode saber exatamente o que utiliza e ainda aplicar testes inadequados. Por outro lado, uma primeira apresentação incompleta pode expor fragilidades no inventário sem provar que sistemas implantados causaram danos.
Nova York deve evitar transformar o número de sistemas divulgados em um ranking simplista. Mais sistemas reportados podem refletir adoção mais ampla, melhor governança ou ambos. Menos sistemas podem indicar moderação, descoberta deficiente ou uma interpretação restrita da ordem.
A comparação útil será a qualidade dos controles. Os reguladores devem procurar responsáveis identificados, finalidades claras, fontes de dados aprovadas, resultados de testes, cronogramas de monitoramento, obrigações de fornecedores, procedimentos de substituição humana e registros de incidentes.
Também devem examinar planos de desativação. A governança de IA é incompleta quando as empresas conseguem aprovar um sistema, mas não têm um processo para desativá-lo após um desempenho inaceitável.
A investigação ainda não estabeleceu que National Grid ou outra concessionária identificada tenha usado IA de forma indevida. Ela estabeleceu que a comissão considera a adoção atual ampla o suficiente para justificar uma supervisão estruturada. A cobertura deve preservar essa distinção à medida que as apresentações surgirem.
Três Sinais Mostrarão se a Investigação de Nova York Tem Força
A próxima etapa revelará se a divulgação de IA da National Grid se tornará um modelo de supervisão aplicável ou continuará sendo um exercício pontual de inventário.
O primeiro sinal é a qualidade das apresentações das concessionárias após a janela de 60 dias. As submissões mais sólidas classificarão os sistemas por finalidade, dados, autonomia e consequência. Elas identificarão tanto modelos desenvolvidos internamente quanto IA incorporada a produtos de fornecedores.
Observe se as concessionárias descrevem fluxos de trabalho reais. Uma apresentação que diz que a IA “apoia a manutenção” oferece pouco valor. Uma divulgação útil explica qual entrada chega ao modelo, qual saída ele produz, quem revisa essa saída e qual ação pode ocorrer em seguida.
A apresentação da National Grid será especialmente informativa porque a empresa promoveu publicamente tecnologias de infraestrutura relacionadas à IA. Reguladores e clientes poderão comparar essa narrativa de inovação com as práticas de governança divulgadas para suas operações em Nova York.
Uma apresentação detalhada fortaleceria a visão de que grandes concessionárias conseguem rastrear a IA em organizações complexas. Categorias amplas e alegações repetidas de confidencialidade a enfraqueceriam.
O segundo sinal é o tratamento dado pela comissão aos níveis de risco. O regulador deve decidir se todos os sistemas receberão análise semelhante ou se o escrutínio aumentará conforme o potencial de dano.
Um modelo de risco confiável colocaria direitos dos clientes, segurança pública, confiabilidade da rede e dados sensíveis perto do topo. Também consideraria a autonomia. Um software que recomenda uma ação apresenta menos risco direto do que um software autorizado a executá-la sem aprovação.
Procure requisitos envolvendo validação independente, comunicação de incidentes, gestão de mudanças e testes recorrentes de desempenho. Essas medidas mostrariam que Nova York pretende supervisionar a IA durante todo o seu ciclo de vida.
A supervisão do ciclo de vida é importante porque modelos e fornecedores mudam. Um inventário apresentado em novembro de 2026 pode ficar desatualizado após uma atualização de software, aquisição, nova fonte de dados ou ampliação do uso empresarial. A comissão precisará de regras para reportar mudanças materiais.
O terceiro sinal é se a investigação produzirá salvaguardas aplicáveis. A comissão afirmou que avaliará as divulgações e determinará se proteções e políticas adicionais são necessárias. Isso deixa vários resultados possíveis.
Ela poderia emitir orientações gerais, estabelecer relatórios recorrentes, adicionar controles de IA a exames de cibersegurança ou propor regras vinculantes. Também poderia definir expectativas específicas para sistemas voltados ao cliente e relacionados à segurança.
Uma mudança rumo a relatórios recorrentes e controles baseados em risco fortaleceria o julgamento central do artigo. Ela transformaria a divulgação em um mecanismo contínuo de responsabilização. Um relatório que resuma práticas do setor sem obrigações de acompanhamento enfraqueceria essa conclusão.
O estado também deve esclarecer as medidas corretivas. Os reguladores precisam de opções quando um sistema não possui evidências suficientes, expõe dados de clientes ou opera fora dos limites aprovados. Essas opções podem incluir planos corretivos, testes adicionais, uso restrito ou suspensão.
Enquanto isso, as concessionárias não devem esperar pela política final da comissão. O prazo de divulgação cria um motivo imediato para estabelecer um inventário responsável único e conciliá-lo com registros de compras, cibersegurança, privacidade, operações e atendimento ao cliente.
Para as equipes de tecnologia, a lição prática vai além das concessionárias de Nova York. A adoção de IA torna-se mais difícil de defender quando uma organização não consegue dizer onde os modelos operam ou quem assume seus riscos. A documentação deve acompanhar a implantação, inclusive dos recursos fornecidos por terceiros.
Para compradores corporativos, a investigação destaca questões que devem fazer parte de toda aquisição de IA. Quais dados deixam a organização? O fornecedor consegue explicar mudanças no modelo? O cliente recebe notificações de incidentes? As saídas podem ser auditadas, contestadas e reproduzidas?
Para os clientes, a questão central é a possibilidade de recurso. A automação não deve tornar mais difícil corrigir uma conta, reportar uma condição perigosa ou contestar uma decisão. A revisão humana só tem valor quando é acessível e tem autonomia.
A ordem de divulgação de IA da National Grid começa com uma exigência simples: mostrar ao regulador onde a IA está sendo utilizada. Sua importância duradoura depende do que Nova York fará com a resposta.
Nos próximos três meses, acompanhe a abrangência dos inventários das concessionárias, as classificações de risco da comissão e qualquer proposta de controles recorrentes. Em seguida, faça uma pergunta mais difícil a todas as organizações que implantam IA em trabalhos de grande impacto: se um regulador exigisse, em 60 dias, um mapa completo e defensável, a organização conseguiria produzi-lo?
