California enfrenta la ciberdefensa con IA a sus propios riesgos

California convirtió un titular de Google News en un compromiso pionero a nivel nacional el 10 de agosto, al crear un Programa de Ciberdefensa con IA en un momento en que los ataques son cada vez más rápidos y baratos. El estado quiere que la inteligencia artificial encuentre vulnerabilidades, refuerce redes y respalde la respuesta a incidentes. Ahora debe demostrar que estas herramientas protegerán la infraestructura crítica sin introducir nuevas debilidades.

El gobernador Gavin Newsom ordenó a las agencias establecer el programa dentro del Centro de Integración de Ciberseguridad de California, conocido como Cal-CSIC. Cada agencia estatal también deberá designar a un responsable de ciberseguridad con IA. Se prevé que los gobiernos locales y los operadores de infraestructura crítica obtengan un acceso más amplio a capacidades defensivas avanzadas.

El conflicto central no enfrenta a California con un único proveedor tecnológico. Enfrenta la defensa automatizada con los riesgos operativos que conlleva la automatización. La IA puede ayudar a equipos de seguridad sobrecargados a procesar alertas e investigar actividades sospechosas. Sin controles estrictos, esos mismos sistemas pueden generar conclusiones incorrectas, exponer información sensible o ampliar las opciones de un atacante.

California da este paso mientras el respaldo federal a la ciberseguridad afronta recortes e incertidumbre presupuestaria. Esto presiona a las agencias estatales para asumir responsabilidades que antes compartían con programas nacionales. También convierte a California en una prueba temprana de si las instituciones públicas descentralizadas pueden adoptar herramientas de seguridad basadas en IA de forma segura y coherente.

El titular de Google News marca un cambio operativo estatal

California está trasladando la ciberseguridad con IA de experimentos dispersos a un programa estatal con nombre propio y funcionarios responsables.

El anuncio estatal establece tres directrices inmediatas. Cal-CSIC debe crear el Programa de Ciberdefensa con IA. El estado debe ampliar las capacidades defensivas para los gobiernos locales y los socios de infraestructura. Cada agencia debe designar a un responsable de ciberseguridad con IA.

Este último requisito importa porque los programas de seguridad suelen fracasar entre la política y la implementación. Una estrategia estatal puede describir objetivos comunes, pero cada agencia sigue controlando sistemas con datos, proveedores, presupuestos y perfiles de riesgo distintos. Un responsable designado crea un punto identificable de responsabilidad dentro de cada organización.

El programa abarca más que los sitios web estatales y los dispositivos de empleados. California identifica específicamente el agua, la energía, el transporte y las comunicaciones de emergencia como servicios expuestos a incidentes cibernéticos disruptivos. Un ataque exitoso contra esos sistemas puede tener consecuencias físicas, incluso cuando la intrusión comienza con credenciales robadas o software comprometido.

Cal-CSIC aporta el centro organizativo para este trabajo. El centro coordina inteligencia sobre amenazas, respuesta a incidentes y apoyo a operadores de infraestructura crítica. Ubicar allí el nuevo programa conecta la experimentación con IA con una estructura operativa existente, en lugar de crear una oficina de políticas separada.

El estado afirma que la IA respaldará la detección de vulnerabilidades, el refuerzo de redes y la respuesta a incidentes. La detección de vulnerabilidades identifica debilidades que los atacantes podrían explotar. El refuerzo de redes reduce los servicios accesibles y las configuraciones inseguras. La respuesta a incidentes abarca el trabajo de contener, investigar y recuperarse de un ataque.

Estas aplicaciones son plausibles, pero el anuncio no identifica modelos, proveedores, estándares de evaluación ni fechas de implementación concretos. Tampoco incluye una cifra presupuestaria específica. Por tanto, el programa es un mandato operativo, no una arquitectura técnica terminada.

Esa distinción puede desaparecer cuando una historia circula por Google News y las redes sociales. “Ciberdefensa con IA” suena a un escudo autónomo ya desplegado. En realidad, California ha anunciado una estructura para seleccionar, gobernar y aplicar herramientas defensivas en numerosas organizaciones.

El logro inmediato del estado es la alineación administrativa. Cal-CSIC recibe una misión de IA definida, las agencias reciben un requisito de responsabilidad y los socios más pequeños reciben la promesa de un mayor acceso. La eficacia operativa dependerá de lo que siga a estas directrices.

Las primeras preguntas son prácticas. Las agencias necesitan saber qué sistemas pueden enviar información a herramientas de IA, quién puede revisar sus resultados y cómo se documentarán los errores. También necesitan procedimientos para escalar una advertencia generada por un modelo sin permitir que la automatización active cambios inseguros.

California ha establecido el marco de toma de decisiones. Aún no ha demostrado que todas las agencias puedan ejecutarlo con el mismo estándar.

El repliegue federal eleva las apuestas para California

El programa llega cuando los defensores estatales y locales afrontan más responsabilidades con menor certeza sobre el apoyo federal.

La Oficina del Gobernador vinculó la iniciativa con tres cambios en el entorno nacional de ciberseguridad. El presupuesto federal propuesto para el año fiscal 2027 reduciría la Agencia de Ciberseguridad y Seguridad de Infraestructura en aproximadamente 707 millones de dólares. El estado describe esto como una reducción cercana al 30 por ciento respecto de niveles de financiación anteriores.

El apoyo federal al Multi-State Information Sharing and Analysis Center también terminó a finales de 2025. MS-ISAC había proporcionado supervisión continua, inteligencia sobre amenazas y coordinación de incidentes a gobiernos estatales, locales, tribales y territoriales. Su transición hacia servicios de pago añade presión a jurisdicciones más pequeñas.

El Programa de Subvenciones de Ciberseguridad Estatal y Local enfrenta otro plazo. El Congreso creó el programa con una asignación de 1.000 millones de dólares mediante la Ley Bipartidista de Infraestructura. Su actual fase de financiación se acerca a su conclusión, aunque los legisladores han considerado ampliar su autorización.

Estos acontecimientos cambian el significado de la iniciativa de California. Un programa de seguridad con IA sería notable durante un periodo de creciente ayuda federal. Se vuelve más trascendental cuando condados, ciudades y operadores de infraestructura podrían perder servicios o asumir nuevos costes.

Las pequeñas agencias públicas afrontan una ecuación especialmente difícil. Gestionan datos personales valiosos y servicios esenciales, pero rara vez pueden competir con las empresas tecnológicas por personal de seguridad experimentado. También pueden depender de aplicaciones antiguas que no pueden generar la telemetría limpia que esperan las herramientas modernas de seguridad.

La IA puede ayudar con ese desequilibrio cuando reduce el trabajo analítico repetitivo. Un sistema podría resumir alertas relacionadas, explicar scripts sospechosos o identificar activos vulnerables expuestos a internet. Un analista humano puede entonces concentrarse en la verificación y la corrección.

Sin embargo, el acceso a un modelo no sustituye las operaciones básicas de seguridad. Las agencias siguen necesitando inventarios precisos de activos, software con soporte, copias de seguridad probadas, controles de identidad y procedimientos claros para incidentes. Un asistente de IA no puede proteger un servidor cuya existencia los administradores desconocían.

Por eso la directriz de California sobre personal acompaña a sus planes tecnológicos. El programa necesita personas que comprendan tanto la seguridad como el comportamiento de los modelos. Deben saber cuándo un resultado refleja evidencia, cuándo refleja una suposición y cuándo los datos sensibles nunca deben salir de un entorno controlado por la agencia.

La presión también alcanza a los operadores privados. Los sistemas de agua, proveedores de energía, redes de transporte y organizaciones de comunicaciones se conectan con las estructuras gubernamentales de respuesta durante incidentes graves. Si California amplía los servicios habilitados por IA a través de Cal-CSIC, esos operadores necesitarán procedimientos compatibles para compartir evidencias y actuar ante advertencias.

Por tanto, el cambio federal obliga a elegir. California puede reproducir servicios seleccionados a nivel estatal, o permitir que las brechas de capacidad se amplíen entre organizaciones bien financiadas y jurisdicciones más pequeñas. El Programa de Ciberdefensa con IA representa un intento de seguir la primera vía.

El dinero sigue siendo una limitación sin resolver. El anuncio promete ampliar el acceso, pero no explica cómo se financiarán las herramientas, la formación, el almacenamiento, las evaluaciones de modelos y el apoyo ante incidentes. Sin recursos sostenidos, el programa corre el riesgo de ser más sólido allí donde las agencias ya cuentan con equipos de seguridad maduros.

La defensa con IA y el riesgo de la IA comparten ahora el mismo plano de control

La estrategia de California utiliza IA para responder a una amenaza amplificada por la IA, lo que crea una disyuntiva entre velocidad operativa y control fiable.

Los atacantes pueden utilizar modelos para redactar mensajes de phishing convincentes, traducir estafas, analizar código robado y acelerar la investigación de vulnerabilidades. Los defensores pueden emplear capacidades similares para clasificar alertas, inspeccionar software y buscar en grandes colecciones de datos de seguridad.

Esta simetría explica el momento elegido por California. El estado afirma que desarrolladores líderes de IA han divulgado pruebas controladas en las que sistemas avanzados completaron de forma independiente operaciones cibernéticas sofisticadas. Estas pruebas no demuestran que los modelos puedan comprometer autónomamente la infraestructura de California. Sí muestran que están cambiando el coste y la experiencia necesarios para algunas tareas de ataque.

Los equipos defensivos no pueden responder ignorando la tecnología. Un centro de operaciones de seguridad puede recibir más alertas de las que sus analistas pueden revisar manualmente. La IA puede conectar eventos relacionados y presentar una ruta de investigación más corta. También puede ayudar a personal menos experimentado a comprender código o técnicas de ataque desconocidos.

Sin embargo, esa misma integración crea nuevas vías sensibles. Un modelo utilizado para responder a incidentes podría procesar registros de autenticación, diagramas de red, código fuente o detalles sobre sistemas sin parches. Enviar ese material a un servicio inadecuado podría convertir un flujo de trabajo defensivo en una exposición de datos.

La salida de los modelos también conlleva incertidumbre. La IA generativa predice respuestas plausibles en lugar de recuperar hechos garantizados. En ciberseguridad, una explicación segura de sí misma pero incorrecta puede desperdiciar un tiempo de respuesta escaso. Una recomendación errónea incluso podría deshabilitar un servicio legítimo durante un incidente.

California necesita controles de aprobación por capas por esta razón. La IA puede recomendar un paso de contención, pero un operador cualificado debe validar la evidencia y el impacto previsto. La acción automatizada debe comenzar con tareas limitadas y reversibles, y con umbrales claramente definidos.

La inyección de prompts plantea otra preocupación. Este ataque introduce instrucciones maliciosas dentro de contenido que un sistema de IA analiza posteriormente. Un modelo que revise un documento o repositorio comprometido podría seguir instrucciones proporcionadas por un atacante, a menos que la aplicación circundante aísle los datos no fiables de los comandos del sistema.

Los equipos de seguridad también deben proteger los propios modelos. Las credenciales de acceso, los datos de entrenamiento, los sistemas de recuperación, los plugins y los registros de auditoría crean superficies de ataque. Añadir una herramienta de IA sin mapear esas dependencias puede aumentar la complejidad más rápido de lo que aumenta la defensa.

La anterior hoja de ruta Cal-Secure de California ofrece una referencia útil. El plan original organizaba la ciberseguridad en torno a las personas, los procesos y la tecnología. También identificaba capacidades como la autenticación multifactor, la gestión de parches, la protección de endpoints, la inteligencia sobre amenazas y la gestión de la cadena de suministro de software.

Cal-Secure 2.0 mantiene el énfasis en la fuerza laboral, la coordinación y la modernización, al tiempo que otorga a las agencias más flexibilidad. El programa de IA pone ahora a prueba si esa flexibilidad puede coexistir con salvaguardas coherentes. La herramienta experimental de una agencia no debería convertirse en el riesgo compartido de otra.

El Instituto Nacional de Estándares y Tecnología ofrece una referencia más amplia mediante su marco de riesgo de IA. Organiza el trabajo sobre riesgos de IA en torno a la gobernanza, el mapeo, la medición y la gestión de sistemas. California puede traducir esas funciones en revisiones de contratación, pruebas técnicas, aprobaciones de despliegue y supervisión continua.

El programa también debe documentar la procedencia de los hallazgos importantes. Cuando la IA detecta actividad maliciosa, los analistas necesitan los registros subyacentes, los indicadores y la cadena de razonamiento. Será difícil defender una conclusión que no pueda reproducirse durante una auditoría o investigación posterior a un incidente.

Una buena documentación pasa a formar parte del control de seguridad. Los equipos de ingeniería necesitan registros consultables de versiones de modelos, prompts, aprobaciones, excepciones y fallos observados. Una base de conocimiento técnico estructurada puede ayudar a los equipos a conectar esos registros sin tratar la salida del modelo como una verdad incuestionable.

Por tanto, la disyuntiva central del estado es manejable, pero inevitable. Un análisis más rápido solo aporta valor cuando las agencias pueden explicar cómo se llegó a una conclusión, proteger los datos implicados y detener comportamientos automatizados inseguros.

Un Mandato Estatal de Designación de Responsables No Garantiza la Preparación en Todo el Estado

Los cargos de responsabilidad solo importarán si California define la autoridad, las cualificaciones y las responsabilidades medibles que los sustentan.

Designar a un responsable de ciberseguridad de IA en cada agencia estatal aporta visibilidad. No crea automáticamente conocimientos especializados ni poder de decisión. Un responsable sin autoridad presupuestaria, acceso a los equipos técnicos o una línea clara de reporte podría convertirse en un contacto de cumplimiento en lugar de un líder operativo.

California debe decidir si las agencias pueden asignar el puesto a responsables de seguridad ya existentes. Combinar responsabilidades puede reducir duplicidades, pero también puede sobrecargar a equipos que ya trabajan al límite. Un nombramiento independiente podría aportar foco, aunque también generar confusión con el director de seguridad de la información de la agencia.

El puesto necesita un mandato mínimo común. Los responsables deberían mantener un inventario de casos de uso de seguridad de IA, aprobar las condiciones de manejo de datos, seguir los cambios de modelos y proveedores, y revisar incidentes relacionados con sistemas de IA. También deberían coordinarse con los equipos de privacidad, contratación, asuntos jurídicos y derechos civiles.

Estas responsabilidades van más allá de las herramientas adquiridas específicamente para la ciberseguridad. Las agencias se encuentran cada vez más con funciones de IA integradas en plataformas en la nube, software de oficina, sistemas de atención al cliente y productos para desarrolladores. Un responsable de seguridad que revise únicamente un programa de IA identificado por nombre pasará por alto capacidades introducidas mediante actualizaciones ordinarias de software.

Las prácticas de contratación de California determinarán este trabajo. La orden ejecutiva estatal de marzo de 2026 exigía estándares más sólidos de privacidad, derechos civiles y seguridad para los proveedores de IA que aspiren a contratos públicos. La nueva iniciativa de defensa debe convertir esos estándares en requisitos técnicos.

Los contratos deberían abordar la retención de datos, el entrenamiento de modelos, los subcontratistas, la notificación de incidentes, los registros de acceso y los procedimientos de salida. Las agencias también necesitan poder comprobar si un producto funciona según lo afirmado. Las garantías de los proveedores, por sí solas, no pueden demostrar la idoneidad para servicios críticos.

La evaluación independiente importa porque las demostraciones de seguridad suelen usar datos controlados. Los entornos reales de las agencias contienen inventarios incompletos, protocolos heredados, reglas operativas inusuales y alertas contradictorias. Una herramienta que funciona bien en una prueba del proveedor puede producir resultados distintos al conectarse a sistemas operativos ruidosos.

El estado ya ha publicado objetivos medibles a través de su hoja de ruta tecnológica Envision 2026. Esos objetivos incluyen crear directrices para una adopción responsable de la IA, informar a los líderes de agencias de alto riesgo, completar comprobaciones del estado de seguridad y mejorar las puntuaciones de madurez tras las evaluaciones. Estas métricas ofrecen un punto de partida para evaluar el nuevo programa.

Sin embargo, las puntuaciones de madurez son medidas indirectas. California también necesita resultados operativos. Entre los indicadores útiles figuran el tiempo necesario para validar una alerta de alta prioridad, el porcentaje de recomendaciones de IA rechazadas por los analistas y el número de vulnerabilidades corregidas antes de ser explotadas.

Los falsos positivos merecen una atención especial. Un modelo que genera miles de advertencias poco sólidas puede ralentizar a los analistas, aunque detecte algunas amenazas reales. Informar únicamente del número de hallazgos generados por IA premiaría la actividad en lugar de la reducción del riesgo.

Los falsos negativos son más difíciles de medir porque los equipos no saben de inmediato qué ha pasado por alto una herramienta. California puede abordar ese problema mediante ejercicios controlados, revisión humana paralela y pruebas de red team. Los equipos de red team imitan a los atacantes para que los defensores puedan observar si las personas, los procesos y la tecnología responden como se espera.

El estado debería publicar suficiente información agregada sobre el desempeño para generar confianza pública sin revelar detalles explotables. Esto podría incluir cifras de despliegue, métodos de evaluación, finalización de formación y mejoras generales en la respuesta a incidentes.

La transparencia también ayudará a los socios locales a determinar qué ofrece el programa. Un pequeño distrito de agua necesita saber si California proporciona acceso a software, supervisión gestionada, consulta de expertos o respuesta de emergencia. “Defensas habilitadas por IA” puede describir modelos de servicio muy diferentes.

El primer ciclo de Google News ha dejado clara la ambición. La fase más difícil comienza cuando las agencias traducen un mandato estatal en permisos, flujos de trabajo y pruebas que los auditores puedan examinar.

Lo Que California Debe Demostrar a Continuación

Tres señales mostrarán si la iniciativa se convierte en un programa de defensa operativo o sigue siendo un compromiso de política pública.

La primera señal es un marco de implementación publicado. California debería definir los casos de uso aprobados, los flujos de datos prohibidos, los requisitos de revisión humana, los estándares de prueba y las normas de notificación de incidentes. Un marco demostraría que el estado ha pasado de anunciar objetivos a gobernar despliegues reales.

Estas directrices deberían separar la asistencia de bajo riesgo de la automatización de alto impacto. Resumir informes públicos sobre amenazas es diferente de analizar registros restringidos. Recomendar un cambio en un firewall es diferente de aplicar ese cambio automáticamente.

Si California publica estándares claros y las agencias comienzan a informar conforme a ellos, la credibilidad del programa se reforzará. Si cada agencia inventa normas separadas, el estado tendrá dificultades para ofrecer una protección coherente o comparar resultados.

La segunda señal es la evidencia de que la capacidad llega a los gobiernos locales y a los operadores de infraestructuras. California prometió ampliar el acceso, pero aún no ha especificado los niveles de servicio, la elegibilidad ni la financiación. Los detalles sobre la inscripción y el apoyo revelarán si el programa puede reducir la brecha entre las grandes agencias y las organizaciones más pequeñas.

La evidencia más convincente incluiría un catálogo de servicios definido. Podría abarcar revisiones de vulnerabilidades, acceso a inteligencia sobre amenazas, apoyo ante incidentes, análisis asistido por IA y formación. Las cifras de participación mostrarían entonces si la oferta responde a las necesidades locales.

Un acceso más amplio reforzaría el propósito estatal del programa. Una participación limitada entre organizaciones ya maduras debilitaría la afirmación de que California está compensando la reducción del apoyo federal.

La tercera señal es la evidencia independiente de desempeño. California necesita evaluaciones controladas que midan la precisión, la carga de trabajo de los analistas, el tiempo de respuesta y los fallos de seguridad. El estado debería comparar los flujos de trabajo asistidos por IA con métodos convencionales en lugar de asumir que las herramientas más nuevas producen mejores resultados.

El marco de ciberseguridad de NIST ofrece a las agencias una estructura común para gobernar, identificar, proteger, detectar, responder y recuperarse. California puede usar esas funciones para vincular las evaluaciones de modelos con resultados de seguridad consolidados.

Las pruebas independientes deberían examinar la inyección de prompts, las filtraciones de datos, las recomendaciones engañosas, las actualizaciones de modelos y las interrupciones de los proveedores. También deberían registrar cuándo los analistas humanos anulan el sistema. Las anulaciones no son necesariamente fallos, pero los patrones sin explicación pueden revelar problemas de diseño.

Estas tres señales deben aparecer en ese orden. La gobernanza establece los límites. El acceso pone a prueba si el programa llega a sus usuarios previstos. La evidencia de desempeño determina si la tecnología mejora sus defensas.

California debería resistirse a medir el éxito por el número de responsables nombrados o licencias activadas. Esos son insumos de despliegue. Los residentes necesitan pruebas de que los servicios esenciales enfrentan menos riesgos prevenibles y se recuperan más rápido cuando ocurren incidentes.

El próximo titular de Google News probablemente se centrará en una nueva herramienta, asociación o incidente de seguridad. Los lectores deberían mirar más allá del anuncio y plantearse tres preguntas: ¿qué autoridad gobierna el sistema?, ¿quién puede usarlo realmente? y ¿qué resultado medible ha cambiado?

California ha optado por construir defensas asistidas por IA en lugar de esperar a que el entorno de amenazas se estabilice. Esa elección es comprensible porque los atacantes no se detendrán mientras el gobierno completa un proceso de políticas perfecto.

La ventaja del estado es su capacidad para coordinar agencias, operadores de infraestructuras, investigadores y empresas tecnológicas. El peligro es confundir esa coordinación con preparación operativa.

El Programa de Ciberdefensa con IA se ganará su etiqueta de primero en la nación mediante la ejecución, no por la cronología. California debe demostrar que la responsabilidad humana se mantiene intacta, los datos sensibles siguen protegidos y las recomendaciones automatizadas superan un escrutinio independiente. Hasta entonces, la iniciativa es un marco serio ante su prueba más importante.