Califórnia Coloca a Defesa Cibernética com IA Contra Seus Próprios Riscos

A Califórnia transformou uma manchete do Google News em um compromisso inédito no país em 10 de agosto, criando um Programa de Defesa Cibernética com IA à medida que os ataques se tornam mais rápidos e baratos. O estado quer que a inteligência artificial encontre vulnerabilidades, fortaleça redes e apoie a resposta a incidentes. Agora, precisa provar que essas ferramentas protegerão a infraestrutura crítica sem introduzir novas fragilidades.

O governador Gavin Newsom orientou as agências a estabelecer o programa dentro do California Cybersecurity Integration Center, conhecido como Cal-CSIC. Cada agência estadual também deve designar um Diretor de Cibersegurança de IA. Governos locais e operadores de infraestrutura crítica deverão obter acesso mais amplo a capacidades avançadas de defesa.

O conflito central não é entre a Califórnia e um fornecedor de tecnologia. É entre a defesa automatizada e os riscos operacionais trazidos pela automação. A IA pode ajudar equipes de segurança sobrecarregadas a processar alertas e investigar atividades suspeitas. Os mesmos sistemas podem produzir conclusões incorretas, expor informações sensíveis ou ampliar as opções de um invasor quando implantados sem controles rigorosos.

A Califórnia toma essa medida enquanto o apoio federal à cibersegurança enfrenta cortes e incerteza de financiamento. Isso pressiona as agências estaduais a assumir responsabilidades antes compartilhadas com programas nacionais. Também transforma a Califórnia em um teste inicial para verificar se instituições públicas descentralizadas podem adotar ferramentas de segurança baseadas em IA com segurança e consistência.

A Manchete do Google News Marca uma Mudança Operacional em Todo o Estado

A Califórnia está levando a cibersegurança com IA de experimentos dispersos para um programa estadual formal, com responsáveis identificáveis.

O anúncio estadual estabelece três diretrizes imediatas. O Cal-CSIC deve criar o Programa de Defesa Cibernética com IA. O estado deve ampliar as capacidades defensivas para governos locais e parceiros de infraestrutura. Cada agência deve designar um Diretor de Cibersegurança de IA.

Esse último requisito importa porque programas de segurança frequentemente falham na passagem entre a política e a implementação. Uma estratégia estadual pode descrever objetivos comuns, mas as agências individuais continuam controlando sistemas com dados, fornecedores, orçamentos e perfis de risco distintos. Um responsável designado cria um ponto identificável de prestação de contas dentro de cada organização.

O programa abrange mais do que sites estaduais e dispositivos de funcionários. A Califórnia identifica especificamente água, energia, transporte e comunicações de emergência como serviços expostos a incidentes cibernéticos disruptivos. Um ataque bem-sucedido contra esses sistemas pode gerar consequências físicas, mesmo quando a invasão começa com credenciais roubadas ou software comprometido.

O Cal-CSIC fornece o centro organizacional para esse trabalho. O centro coordena inteligência sobre ameaças, resposta a incidentes e apoio a operadores de infraestrutura crítica. Colocar o novo programa ali conecta a experimentação com IA a uma estrutura operacional existente, em vez de criar um escritório de políticas separado.

O estado afirma que a IA apoiará a detecção de vulnerabilidades, o fortalecimento de redes e a resposta a incidentes. A detecção de vulnerabilidades identifica fraquezas que invasores poderiam explorar. O fortalecimento de redes reduz serviços acessíveis e configurações inseguras. A resposta a incidentes abrange o trabalho de conter, investigar e se recuperar de um ataque.

Essas aplicações são plausíveis, mas o anúncio não identifica modelos específicos, fornecedores, padrões de avaliação ou datas de implantação. Também não apresenta um orçamento dedicado. Portanto, o programa é uma diretriz operacional, e não uma arquitetura técnica concluída.

Essa distinção pode desaparecer quando uma notícia circula pelo Google News e pelas redes sociais. “Defesa cibernética com IA” soa como um escudo autônomo já implantado. Na prática, a Califórnia anunciou uma estrutura para selecionar, governar e aplicar ferramentas defensivas em muitas organizações.

A conquista imediata do estado é o alinhamento administrativo. O Cal-CSIC recebe uma missão de IA definida, as agências recebem uma exigência de responsabilidade, e parceiros menores recebem a promessa de maior acesso. A eficácia operacional dependerá do que vier depois dessas diretrizes.

As primeiras perguntas são práticas. As agências precisam saber quais sistemas podem enviar informações para ferramentas de IA, quem pode revisar suas respostas e como os erros serão documentados. Elas também precisam de procedimentos para escalar um alerta gerado por modelo sem permitir que a automação acione mudanças inseguras.

A Califórnia estabeleceu o quadro de tomada de decisões. Ainda não demonstrou que cada agência consegue executá-lo no mesmo padrão.

A Retração Federal Eleva os Riscos para a Califórnia

O programa chega no momento em que defensores estaduais e locais enfrentam mais responsabilidades, com menos certeza sobre o apoio federal.

O Gabinete do Governador vinculou a iniciativa a três mudanças no ambiente nacional de cibersegurança. A proposta de orçamento federal para o ano fiscal de 2027 reduziria a Cybersecurity and Infrastructure Security Agency em cerca de US$ 707 milhões. O estado descreve isso como uma redução de aproximadamente 30% em relação aos níveis anteriores de financiamento.

O apoio federal ao Multi-State Information Sharing and Analysis Center também terminou no fim de 2025. O MS-ISAC havia fornecido monitoramento contínuo, inteligência sobre ameaças e coordenação de incidentes a governos estaduais, locais, tribais e territoriais. Sua transição para serviços pagos impõe pressão adicional sobre jurisdições menores.

O State and Local Cybersecurity Grant Program enfrenta outro prazo. O Congresso criou o programa com uma dotação de US$ 1 bilhão por meio da Bipartisan Infrastructure Law. Sua fase atual de financiamento está próxima da conclusão, embora legisladores tenham considerado estender sua autorização.

Esses acontecimentos mudam o significado da iniciativa da Califórnia. Um programa de segurança com IA já seria relevante em um período de crescente assistência federal. Ele se torna mais consequente quando condados, cidades e operadores de infraestrutura podem perder serviços ou assumir novos custos.

Pequenas agências públicas enfrentam uma equação particularmente difícil. Elas administram dados pessoais valiosos e serviços essenciais, mas raramente conseguem competir com empresas de tecnologia por profissionais experientes em segurança. Também podem depender de aplicações mais antigas que não conseguem produzir a telemetria limpa esperada por ferramentas modernas de segurança.

A IA pode ajudar nesse desequilíbrio quando reduz o trabalho analítico repetitivo. Um sistema pode resumir alertas relacionados, explicar scripts suspeitos ou identificar ativos vulneráveis expostos à internet. Um analista humano pode então se concentrar na verificação e na correção.

No entanto, o acesso a um modelo não substitui operações básicas de segurança. As agências ainda precisam de inventários precisos de ativos, software com suporte, backups testados, controles de identidade e procedimentos claros para incidentes. Um assistente de IA não pode proteger um servidor cuja existência os administradores desconheciam.

É por isso que a diretriz de força de trabalho da Califórnia está ao lado de seus planos tecnológicos. O programa precisa de pessoas que compreendam tanto segurança quanto o comportamento dos modelos. Elas devem saber quando uma resposta reflete evidências, quando reflete uma suposição e quando dados sensíveis jamais devem sair de um ambiente controlado pela agência.

A pressão também alcança operadores privados. Sistemas de água, fornecedores de energia, redes de transporte e organizações de comunicação se conectam às estruturas de resposta do governo durante grandes incidentes. Se a Califórnia ampliar serviços habilitados por IA por meio do Cal-CSIC, esses operadores precisarão de procedimentos compatíveis para compartilhar evidências e agir diante de alertas.

A mudança federal, portanto, impõe uma escolha. A Califórnia pode reproduzir serviços selecionados no nível estadual ou permitir que as lacunas de capacidade aumentem entre organizações bem financiadas e jurisdições menores. O Programa de Defesa Cibernética com IA representa uma tentativa de seguir o primeiro caminho.

O financiamento continua sendo uma restrição não resolvida. O anúncio promete acesso ampliado, mas não explica como serão financiados ferramentas, treinamento, armazenamento, avaliações de modelos e apoio a incidentes. Sem recursos contínuos, o programa corre o risco de se tornar mais forte justamente onde as agências já possuem equipes maduras de segurança.

Defesa com IA e Risco de IA Agora Compartilham o Mesmo Plano de Controle

A estratégia da Califórnia usa IA para responder a uma ameaça ampliada pela IA, criando uma troca entre velocidade operacional e controle confiável.

Invasores podem usar modelos para redigir mensagens de phishing convincentes, traduzir golpes, analisar código roubado e acelerar a pesquisa de vulnerabilidades. Defensores podem usar capacidades semelhantes para classificar alertas, inspecionar software e pesquisar grandes coleções de dados de segurança.

Essa simetria explica o momento escolhido pela Califórnia. O estado afirma que desenvolvedores líderes de IA divulgaram testes controlados nos quais sistemas avançados concluíram de forma independente operações cibernéticas sofisticadas. Esses testes não provam que modelos possam comprometer autonomamente a infraestrutura da Califórnia. Eles mostram que o custo e a especialização necessários para algumas tarefas de ataque estão mudando.

As equipes defensivas não podem responder ignorando a tecnologia. Um centro de operações de segurança pode receber mais alertas do que seus analistas conseguem revisar manualmente. A IA pode conectar eventos relacionados e apresentar um caminho investigativo mais curto. Também pode ajudar profissionais menos experientes a entender códigos ou técnicas de ataque desconhecidos.

Ainda assim, a mesma integração cria novos caminhos sensíveis. Um modelo usado para resposta a incidentes pode processar registros de autenticação, diagramas de rede, código-fonte ou detalhes sobre sistemas sem correção. Enviar esse material a um serviço inadequado pode transformar um fluxo de trabalho defensivo em uma exposição de dados.

A saída de um modelo também traz incerteza. A IA generativa prevê respostas plausíveis, em vez de recuperar fatos garantidos. Em cibersegurança, uma explicação confiante, mas incorreta, pode desperdiçar um tempo escasso de resposta. Uma recomendação falsa pode até desativar um serviço legítimo durante um incidente.

Por esse motivo, a Califórnia precisa de controles de aprovação em camadas. A IA pode recomendar uma etapa de contenção, mas um operador qualificado deve validar as evidências e o impacto esperado. A ação automatizada deve começar com tarefas restritas e reversíveis, além de limites claramente definidos.

A injeção de prompts representa outra preocupação. Esse ataque insere instruções maliciosas em conteúdo que um sistema de IA analisa posteriormente. Um modelo que revisa um documento ou repositório comprometido pode seguir orientações fornecidas pelo invasor, a menos que a aplicação ao redor isole dados não confiáveis dos comandos do sistema.

As equipes de segurança também precisam proteger os próprios modelos. Credenciais de acesso, dados de treinamento, sistemas de recuperação, plugins e logs de auditoria criam superfícies de ataque. Adicionar uma ferramenta de IA sem mapear essas dependências pode aumentar a complexidade mais rapidamente do que aumenta a defesa.

O roteiro Cal-Secure anterior da Califórnia fornece uma base útil. O plano original organizava a cibersegurança em torno de pessoas, processos e tecnologia. Também identificava capacidades como autenticação multifator, gerenciamento de patches, proteção de endpoints, inteligência sobre ameaças e gerenciamento da cadeia de suprimentos de software.

O Cal-Secure 2.0 mantém a ênfase em força de trabalho, coordenação e modernização, ao mesmo tempo que dá às agências mais flexibilidade. O programa de IA agora testa se essa flexibilidade pode coexistir com salvaguardas consistentes. A ferramenta experimental de uma agência não deve se transformar em um risco compartilhado por outra agência.

O Instituto Nacional de Padrões e Tecnologia oferece uma referência mais ampla por meio de sua estrutura de risco de IA. Ela organiza o trabalho de gestão de riscos de IA em torno da governança, mapeamento, medição e gestão de sistemas. A Califórnia pode traduzir essas funções em revisões de compras, testes técnicos, aprovações de implantação e monitoramento contínuo.

O programa também deve documentar a procedência de conclusões importantes. Quando a IA sinaliza atividade maliciosa, os analistas precisam dos logs, indicadores e da linha de raciocínio subjacentes. Uma conclusão que não pode ser reproduzida será difícil de defender durante uma auditoria ou investigação posterior a um incidente.

Uma boa documentação passa a fazer parte do controle de segurança. As equipes de engenharia precisam de registros pesquisáveis de versões de modelos, prompts, aprovações, exceções e falhas observadas. Uma base de conhecimento técnico estruturada pode ajudar as equipes a conectar esses registros sem tratar a saída do modelo como verdade incontestável.

A principal tensão enfrentada pelo estado é, portanto, administrável, mas inevitável. Uma análise mais rápida só tem valor quando os órgãos conseguem explicar como uma conclusão foi alcançada, proteger os dados envolvidos e interromper comportamentos automatizados inseguros.

Um Mandato de Oficiais em Todo o Estado Não Garante Prontidão em Todo o Estado

Títulos de responsabilização só terão importância se a Califórnia definir a autoridade, as qualificações e as responsabilidades mensuráveis que os sustentam.

Designar um Oficial de Cibersegurança de IA em cada órgão estadual cria visibilidade. Isso não cria automaticamente expertise ou poder de decisão. Um oficial sem autoridade orçamentária, acesso às equipes técnicas ou uma linha clara de reporte pode se tornar um ponto de contato de conformidade, em vez de um líder operacional.

A Califórnia precisa decidir se os órgãos podem atribuir essa função a responsáveis de segurança já existentes. Combinar responsabilidades pode reduzir duplicações, mas também pode sobrecarregar equipes que já trabalham no limite. Uma nomeação separada poderia trazer foco, ao mesmo tempo em que criaria confusão com o diretor de segurança da informação do órgão.

A função precisa de um mandato mínimo comum. Os oficiais devem manter um inventário dos casos de uso de IA em segurança, aprovar condições de tratamento de dados, acompanhar mudanças em modelos e fornecedores e revisar incidentes que envolvam sistemas de IA. Também devem coordenar-se com equipes de privacidade, compras, jurídico e direitos civis.

Essas responsabilidades vão além das ferramentas adquiridas para cibersegurança. Os órgãos encontram cada vez mais recursos de IA dentro de plataformas de nuvem, softwares de escritório, sistemas de atendimento ao cliente e produtos para desenvolvedores. Um oficial de segurança que revise apenas um programa de IA nominal deixará de perceber capacidades introduzidas por atualizações comuns de software.

As práticas de compras da Califórnia moldarão esse trabalho. A ordem executiva estadual de março de 2026 pediu padrões mais rigorosos de privacidade, direitos civis e segurança para fornecedores de IA que buscam contratos públicos. A nova iniciativa de defesa deve transformar esses padrões em requisitos técnicos.

Os contratos devem abordar retenção de dados, treinamento de modelos, subcontratados, notificação de incidentes, logs de acesso e procedimentos de saída. Os órgãos também precisam poder testar se um produto funciona conforme alegado. As garantias dos fornecedores, por si só, não podem estabelecer a adequação para serviços críticos.

A avaliação independente é importante porque demonstrações de segurança frequentemente utilizam dados controlados. Ambientes reais de órgãos públicos contêm inventários incompletos, protocolos legados, regras de negócio incomuns e alertas conflitantes. Uma ferramenta que apresenta bom desempenho em um teste de fornecedor pode produzir resultados diferentes quando conectada a sistemas operacionais ruidosos.

O estado já publicou metas mensuráveis por meio de seu roteiro tecnológico Envision 2026. Essas metas incluem criar orientações para a adoção responsável de IA, informar líderes de órgãos de alto risco, concluir verificações de saúde de segurança e melhorar pontuações de maturidade após avaliações. Essas métricas oferecem um ponto de partida para avaliar o novo programa.

No entanto, pontuações de maturidade são medidas indiretas. A Califórnia também precisa de resultados operacionais. Indicadores úteis incluem o tempo necessário para validar um alerta de alta prioridade, a porcentagem de recomendações de IA rejeitadas por analistas e o número de vulnerabilidades corrigidas antes de serem exploradas.

Os falsos positivos merecem atenção especial. Um modelo que gera milhares de alertas fracos pode tornar os analistas mais lentos, mesmo que detecte algumas ameaças reais. Relatar apenas o número de descobertas geradas por IA recompensaria a atividade, em vez da redução de riscos.

Os falsos negativos são mais difíceis de medir porque as equipes não sabem imediatamente o que uma ferramenta deixou de detectar. A Califórnia pode enfrentar esse problema por meio de exercícios controlados, revisão humana paralela e testes de red team. Equipes de red team imitam atacantes para que os defensores possam observar se pessoas, processos e tecnologia respondem como esperado.

O estado deve publicar informações agregadas de desempenho suficientes para estabelecer confiança pública, sem revelar detalhes exploráveis. Isso pode incluir números de implantações, métodos de avaliação, conclusão de treinamentos e melhorias amplas na resposta a incidentes.

A transparência também ajudará parceiros locais a avaliar o que o programa oferece. Um pequeno distrito de abastecimento de água precisa saber se a Califórnia fornece acesso a software, monitoramento gerenciado, consultoria especializada ou resposta de emergência. “Defesas habilitadas por IA” pode descrever vários modelos de serviço muito diferentes.

O primeiro ciclo de notícias do Google News estabeleceu a ambição. A fase mais difícil começa quando os órgãos traduzem um mandato estadual em permissões, fluxos de trabalho e evidências que auditores possam examinar.

O Que a Califórnia Precisa Provar em Seguida

Três sinais mostrarão se a iniciativa se tornará um programa de defesa operacional ou permanecerá um compromisso de política pública.

O primeiro sinal é uma estrutura de implementação publicada. A Califórnia deve definir casos de uso aprovados, fluxos de dados proibidos, requisitos de revisão humana, padrões de teste e regras de comunicação de incidentes. Uma estrutura mostraria que o estado passou de anunciar objetivos para governar implantações reais.

Essa orientação deve separar a assistência de baixo risco da automação de alto impacto. Resumir relatórios públicos sobre ameaças é diferente de analisar logs restritos. Recomendar uma alteração no firewall é diferente de executar essa alteração automaticamente.

Se a Califórnia divulgar padrões claros e os órgãos começarem a reportar com base neles, a credibilidade do programa será fortalecida. Se cada órgão criar regras separadas, o estado terá dificuldade para fornecer proteção consistente ou comparar resultados.

O segundo sinal é a evidência de capacidade chegando aos governos locais e operadores de infraestrutura. A Califórnia prometeu ampliar o acesso, mas ainda não especificou níveis de serviço, critérios de elegibilidade ou financiamento. Detalhes sobre adesão e suporte revelarão se o programa pode reduzir a distância entre grandes órgãos e organizações menores.

A evidência mais persuasiva incluiria um catálogo de serviços definido. Ele poderia abranger revisões de vulnerabilidades, acesso à inteligência sobre ameaças, suporte a incidentes, análise assistida por IA e treinamento. Os números de participação mostrariam então se a oferta atende às necessidades locais.

Um acesso mais amplo reforçaria o propósito estadual do programa. A participação limitada entre organizações já maduras enfraqueceria a alegação de que a Califórnia está compensando a redução do apoio federal.

O terceiro sinal é evidência independente de desempenho. A Califórnia precisa de avaliações controladas que meçam precisão, carga de trabalho dos analistas, tempo de resposta e falhas de segurança. O estado deve testar fluxos de trabalho assistidos por IA em comparação com métodos convencionais, em vez de presumir que ferramentas mais novas produzem resultados melhores.

A estrutura de cibersegurança do NIST oferece aos órgãos uma estrutura comum para governar, identificar, proteger, detectar, responder e recuperar. A Califórnia pode usar essas funções para conectar avaliações de modelos a resultados de segurança já estabelecidos.

Os testes independentes devem examinar injeção de prompt, vazamento de dados, recomendações enganosas, atualizações de modelos e indisponibilidades de fornecedores. Também devem registrar quando analistas humanos substituem a decisão do sistema. Substituições não são necessariamente falhas, mas padrões sem explicação podem revelar problemas de design.

Esses três sinais devem aparecer nessa ordem. A governança estabelece limites. O acesso testa se o programa alcança seus usuários pretendidos. A evidência de desempenho determina se a tecnologia melhora suas defesas.

A Califórnia deve resistir a medir o sucesso pelo número de oficiais nomeados ou licenças ativadas. Esses são insumos de implantação. Os residentes precisam de evidências de que serviços essenciais enfrentam menos riscos evitáveis e se recuperam mais rapidamente quando incidentes ocorrem.

A próxima manchete do Google News provavelmente se concentrará em uma nova ferramenta, parceria ou evento de segurança. Os leitores devem olhar além do anúncio e fazer três perguntas: Que autoridade rege o sistema, quem realmente pode usá-lo e qual resultado mensurável mudou?

A Califórnia escolheu construir defesas assistidas por IA em vez de esperar que o ambiente de ameaças se estabilize. Essa escolha é compreensível porque os atacantes não vão pausar enquanto o governo conclui um processo perfeito de formulação de políticas.

A vantagem do estado é sua capacidade de coordenar órgãos, operadores de infraestrutura, pesquisadores e empresas de tecnologia. O risco é confundir essa coordenação com prontidão operacional.

O Programa de Defesa Cibernética com IA conquistará seu rótulo de pioneiro nacional por meio da execução, não da cronologia. A Califórnia precisa mostrar que a responsabilização humana permanece intacta, os dados sensíveis continuam protegidos e as recomendações automatizadas resistem a escrutínio independente. Até lá, a iniciativa é uma estrutura séria diante de seu teste mais importante.