El liderazgo en IA en el gobierno afronta una brecha creciente entre la percepción y la realidad

Google News destacó un debate de GovTech sobre el liderazgo en IA, pero el titular revela un conflicto que va más allá de un único ciclo informativo. Los líderes gubernamentales describen cada vez más la IA como una realidad operativa, mientras ciudadanos y empleados siguen cuestionando si los sistemas desplegados merecen su confianza.

Esa brecha no es simplemente un problema de comunicación. Las agencias pueden lanzar pilotos, nombrar responsables de IA y publicar políticas sin demostrar que los sistemas mejoran los servicios de forma justa. El público experimenta la IA a través de beneficios que tardan en llegar, decisiones poco claras, preocupaciones sobre privacidad y fallos ocasionales.

Por tanto, la verdadera disputa no es el entusiasmo gubernamental frente a la resistencia pública. Es la ambición institucional frente a la evidencia operativa. Google News puede amplificar esa ambición, pero las agencias deben aportar pruebas mediante resultados medibles, controles transparentes y un liderazgo responsable.

Las empresas privadas pueden retirar un producto deficiente o modificar sus condiciones. Las agencias públicas se enfrentan a un estándar diferente porque los residentes a menudo no pueden elegir otra oficina de impuestos, sistema de prestaciones o autoridad de licencias. Un despliegue gubernamental fallido puede afectar derechos, pagos, registros y el acceso a servicios esenciales.

Esta diferencia cambia el significado del liderazgo. Los directivos del sector público no pueden medir el progreso únicamente mediante la adopción. Deben vincular cada sistema de IA a un problema de servicio definido, un responsable identificado, salvaguardas documentadas y un plan de salida.

Lo que realmente cambió el titular de Google News

El titular convirtió un conocido debate sobre la adopción de IA en una prueba de rendición de cuentas para el liderazgo.

El debate de GovTech surgió en un momento en que los programas gubernamentales de IA estaban superando los experimentos aislados. Las agencias ahora enfrentan presión para coordinar las compras, los controles de datos, la formación de empleados y la comunicación pública en toda la organización.

El cambio no consiste en el lanzamiento de un único producto. Es la creciente expectativa de que los líderes públicos puedan distinguir la automatización útil de las demostraciones impresionantes. Esa distinción se vuelve más difícil a medida que la IA generativa entra en las herramientas de oficina cotidianas y las plataformas de proveedores.

La IA generativa crea texto, imágenes, código u otro contenido a partir de patrones aprendidos durante el entrenamiento. Puede acelerar la redacción y la investigación, pero un resultado fluido no garantiza que sea preciso o legal.

La IA agéntica añade otra capa. Un agente de IA es un software capaz de planificar pasos y realizar acciones para alcanzar un objetivo con una intervención humana limitada. Dar a estos sistemas acceso a registros o flujos de trabajo amplía tanto su valor como sus posibles consecuencias.

Los líderes gubernamentales ahora deben decidir dónde termina la asistencia y dónde comienza la autoridad delegada. Un asistente de redacción presenta un perfil de riesgo. Un sistema que recomienda decisiones de elegibilidad, prioriza investigaciones o activa transacciones presenta otro.

Es fácil perder esta distinción en los informes ejecutivos. Un panel puede contar las herramientas activas sin diferenciar entre resúmenes de bajo riesgo y apoyo a decisiones con consecuencias. Diez pilotos pueden crear así una percepción de madurez sin revelar mucho sobre la preparación operativa.

La visibilidad en Google News puede intensificar ese efecto. Los titulares agregados premian afirmaciones concisas sobre liderazgo, aceleración y transformación. Rara vez muestran el trabajo más lento relacionado con inventarios de datos, procesos de apelación, pruebas de accesibilidad o cláusulas de contratación.

Nada de esto hace que el titular sea engañoso. Hace que la expresión “liderar en IA” sea incompleta, a menos que los lectores se pregunten qué puede operar la organización de forma segura. El liderazgo comienza con la selección de usos adecuados, no con la acumulación de la mayor colección de pilotos.

Las agencias más creíbles están comenzando con problemas acotados. El personal puede utilizar IA para resumir extensos materiales internos, organizar comentarios públicos o recuperar información aprobada. Los humanos siguen siendo responsables de revisar los resultados y tomar decisiones relevantes.

Estos usos también pueden fallar. Un resumen puede omitir una excepción crítica, mientras que un software de recuperación puede mostrar una política desactualizada. Un alcance acotado facilita identificar, medir y corregir esos fallos antes de que afecten a los residentes.

Esta es la primera inversión de la historia. La agencia con menos despliegues puede estar más avanzada si sus sistemas cuentan con controles más sólidos y evidencia más clara. El volumen indica actividad, mientras que las operaciones disciplinadas indican capacidad.

El optimismo público se detiene donde comienza la rendición de cuentas

Las personas son más receptivas a la eficiencia de la IA que a las promesas gubernamentales sobre equidad, privacidad y supervisión.

La investigación de confianza de la OCDE de 2026 ofrece la evidencia más clara de esta división. Su encuesta abarcó 33 países participantes y cinco países en proceso de adhesión, utilizando respuestas recopiladas durante 2025.

Más de cuatro de cada diez encuestados creían que la IA podría ayudar a los gobiernos a mejorar los servicios o reducir costes. La confianza era menor en la equidad, la transparencia, la protección de la privacidad y una supervisión humana significativa, según la encuesta de confianza de la OCDE.

Este patrón importa porque separa la creencia en la tecnología de la confianza en la institución que la despliega. Los residentes pueden esperar un servicio más rápido y, al mismo tiempo, desconfiar de cómo una agencia logra esa velocidad.

La OCDE concluyó que las percepciones sobre la regulación de tecnologías emergentes tenían una relación especialmente fuerte con las actitudes hacia la IA en el sector público. Ese hallazgo no demuestra que la regulación genere confianza automáticamente. Muestra que la conducta institucional moldea cómo las personas interpretan los sistemas técnicos.

Los líderes públicos suelen responder al escepticismo con campañas de educación. Unas mejores explicaciones pueden ayudar, especialmente cuando los residentes tienen poca experiencia directa con un sistema. La comunicación no puede sustituir registros accesibles, pruebas independientes o una vía real de apelación.

Un residente al que se le deniega una prestación necesita más que la garantía de que la IA es útil en términos generales. Necesita saber si la automatización influyó en la decisión, qué información entró en el proceso y cómo impugnar un error.

La supervisión humana también requiere algo más que colocar a un empleado junto a un sistema. La persona revisora necesita tiempo, autoridad, contexto y suficiente comprensión técnica para rechazar la recomendación. De lo contrario, el humano se convierte en un control meramente ceremonial.

El sesgo de automatización describe la tendencia a aceptar una recomendación generada por ordenador incluso cuando existe evidencia contradictoria. Las cargas de trabajo elevadas pueden reforzar esa tendencia porque aprobar una recomendación suele ser más rápido que investigarla.

Esto crea un problema de liderazgo difícil. Las agencias pueden introducir IA para aliviar a empleados sobrecargados, pero esas mismas cargas de trabajo pueden debilitar los controles de revisión diseñados para evitar daños. La eficiencia y la supervisión no pueden planificarse por separado.

La confianza también se desarrolla de forma desigual entre los distintos servicios. Los residentes podrían recibir bien un chatbot que explica los horarios de oficina. Con razón exigirán más pruebas a un software que influya en decisiones sobre bienestar infantil, policía, impuestos, servicios de salud o empleo.

Por ello, los líderes necesitan categorías de riesgo que reflejen las consecuencias, en lugar de la novedad técnica. Un modelo estadístico conocido puede causar más daño que un nuevo chatbot si el modelo determina una decisión relevante.

La OCDE también informó de que la familiaridad con la IA se asociaba con expectativas más positivas. Eso no justifica descartar a los residentes escépticos como desinformados. La familiaridad puede mejorar la comprensión, mientras que la experiencia personal con sistemas injustos puede producir una cautela informada.

Por eso el marco de percepción frente a realidad funciona en ambas direcciones. Los temores públicos pueden superar el riesgo demostrado de una herramienta acotada. El optimismo ejecutivo también puede superar la evidencia que respalda un despliegue amplio.

Un buen liderazgo no elige una percepción como la correcta. Crea un proceso que contrasta ambas perspectivas con el desempeño documentado, la experiencia de los usuarios y los incidentes reales.

La presión recae sobre los CIO y los directivos de las agencias

Los líderes de tecnología pública deben convertir el amplio entusiasmo por la IA en decisiones que resistan el escrutinio operativo, legal y público.

La presión inmediata recae sobre los directores de información, los directores de datos, los directivos de las agencias, los equipos de contratación y los responsables de programas. Cada grupo controla una parte del sistema, pero los residentes experimentan el resultado combinado.

La propiedad fragmentada crea brechas previsibles. Un equipo tecnológico puede validar el rendimiento del sistema mientras una oficina de programa define la métrica de éxito equivocada. El personal de contratación puede conseguir condiciones favorables sin obtener acceso adecuado a auditorías.

La plantilla también tiene su propia perspectiva. Los empleados suelen encontrarse con resultados poco fiables, políticas confusas y fricción en los flujos de trabajo antes de que los directivos lo vean. Pueden dejar discretamente de utilizar una herramienta aprobada o adoptar una alternativa no aprobada.

La investigación sobre empleados gubernamentales concluyó que el apoyo a la IA se asociaba con los beneficios percibidos, la familiaridad y las creencias sobre los efectos a largo plazo. El estudio también destacó la formación y la participación de los empleados en una adopción sostenible, como se describe en su investigación sobre administración pública.

La formación no puede limitarse a una presentación única sobre datos prohibidos. Los empleados necesitan ejemplos vinculados a su trabajo, incluidos los aspectos que el sistema maneja bien y los casos en los que se requiere una escalada.

También necesitan permiso para informar de problemas sin ser etiquetados como resistentes al cambio. Si los líderes recompensan las cifras de adopción, los directivos pueden sentir presión para ocultar el abandono, las soluciones improvisadas o los resultados deficientes.

La respuesta necesaria es organizativa, no técnica. Cada sistema desplegado necesita un responsable ejecutivo, un responsable operativo, un responsable de datos y una vía para que las personas afectadas soliciten una revisión.

Estas funciones deben seguir siendo visibles después de la contratación. Los proveedores pueden respaldar las pruebas y la supervisión, pero una agencia no puede externalizar la rendición de cuentas por una decisión pública.

Georgia ofrece un modelo actual de respuesta basada primero en los cimientos. El estado anunció un trabajo con Darwin AI para crear una visión estatal del uso de IA y establecer una infraestructura común de gobernanza.

El plan busca proporcionar un espacio compartido para la gestión de políticas, el cumplimiento normativo, los registros y la supervisión en todos los departamentos. Las salvaguardas de Georgia muestran cómo los líderes intentan abordar la adopción fragmentada antes de ampliarla.

Sin embargo, la visibilidad centralizada es un punto de partida, no una prueba de un desempeño seguro. Un inventario puede revelar dónde existen los sistemas, pero no determina si sus resultados son precisos o equitativos.

Las agencias necesitan tanto normas centrales como experiencia local. Una oficina estatal puede establecer requisitos, mientras que los especialistas de programas evalúan las consecuencias en prestaciones, transporte, instituciones penitenciarias o salud pública.

La gestión del conocimiento pasa a formar parte de esta infraestructura. Las políticas, evaluaciones, registros de incidentes y casos de uso aprobados deben seguir siendo consultables y estar actualizados. Una base de conocimiento consultable puede ayudar a los equipos a rastrear decisiones sin depender de archivos dispersos.

El objetivo no es incorporar la IA en todos los procesos. Es poner el conocimiento institucional a disposición de las personas que revisan sistemas y atienden a los residentes.

Esta presión continuará durante años porque la tecnología gubernamental cambia más lentamente que las ofertas de los proveedores. Los sistemas heredados, los ciclos de contratación, las leyes de registros y las limitaciones de personal no desaparecen cuando un nuevo modelo llega al mercado.

Por ello, los ciclos cortos de los productos chocan con obligaciones públicas de largo plazo. Los líderes necesitan diseños que toleren cambios de proveedor, actualizaciones de modelos, rotación de personal y nuevos requisitos legales.

La verdadera división es despliegue frente a evidencia

Un sistema de IA se vuelve creíble cuando una agencia puede demostrar qué hace, cómo falla y quién sigue siendo responsable.

El adversario central de esta historia no es el gobierno frente a las empresas tecnológicas. Es la promesa de un despliegue visible frente a la realidad de un valor público medible.

El anuncio de un piloto describe una intención. La evidencia operativa describe resultados en condiciones normales, incluidos los casos difíciles y los períodos de alta demanda.

Las agencias deberían establecer una línea base antes de introducir la automatización. Si los líderes no miden el tiempo de procesamiento actual, las tasas de error, el esfuerzo de los empleados, las apelaciones y la satisfacción de los usuarios, las posteriores afirmaciones de mejora carecen de contexto.

La velocidad por sí sola no basta. Un sistema puede acortar el procesamiento inicial y, al mismo tiempo, generar más correcciones, quejas o escalaciones. Esos costos posteriores deben formar parte de la misma evaluación.

La calidad también necesita definiciones específicas para cada servicio. La precisión puede significar resúmenes fieles en un flujo de trabajo. En otro, podría requerir encontrar cada excepción legalmente relevante dentro del registro de un residente.

El valor público incluye la distribución. Una mejora promedio puede ocultar peores resultados para las personas con discapacidad, dominio limitado del inglés, registros inusuales o acceso digital poco fiable.

Los líderes deberían publicar suficiente información para que los residentes comprendan el sistema sin exponer detalles sensibles de seguridad. Una divulgación útil identifica el propósito, la oficina responsable, las categorías de datos, el proceso de revisión y las limitaciones conocidas.

El gobierno federal ya cuenta con marcos que las agencias pueden adaptar. La U.S. Government Accountability Office organiza la rendición de cuentas de la IA en torno a la gobernanza, los datos, el desempeño y la supervisión.

Estas categorías conectan la responsabilidad ejecutiva con la práctica operativa. La gobernanza define la autoridad, el trabajo con datos examina las entradas, las pruebas de desempeño evalúan el comportamiento y la supervisión verifica si las condiciones cambian tras el despliegue.

El marco de rendición de cuentas de la GAO también considera la supervisión como una responsabilidad continua. Esto importa porque un sistema que funciona de forma aceptable durante un piloto puede desviarse después de que cambien los flujos de trabajo, los usuarios o los datos.

La supervisión debe abarcar más que la disponibilidad técnica. Las agencias necesitan patrones de quejas, tasas de anulación, resultados de apelaciones, informes de incidentes y diferencias entre los grupos afectados.

Los datos de anulación merecen una interpretación cuidadosa. Una tasa baja podría significar que el sistema funciona bien. También podría indicar que los empleados no tienen tiempo, autoridad o confianza para discrepar.

Una tasa alta puede identificar un modelo débil, pero también puede demostrar que la revisión humana está funcionando. Los líderes necesitan una revisión cualitativa además de la cifra.

Los términos de contratación determinan si esta evidencia sigue estando disponible. Los contratos deberían abordar el acceso a evaluaciones, los cambios de modelo, el registro de actividad, la retención de datos, los subcontratistas, la notificación de incidentes y el apoyo para la terminación.

El diseño propietario de un proveedor no elimina el deber de la agencia de explicar las decisiones públicas. Si una agencia no puede obtener suficiente información para evaluar un sistema de consecuencias relevantes, esa limitación debería afectar la contratación.

Este principio cobra mayor importancia con los modelos fundacionales, que son modelos de propósito general adaptados a muchas tareas. Sus amplias capacidades pueden animar a las agencias a utilizar un mismo servicio en flujos de trabajo con riesgos muy distintos.

Una actualización de modelo también puede cambiar el comportamiento de las respuestas sin una versión tradicional de software. Las agencias deberían saber cuándo ocurren cambios materiales y si las evaluaciones previas siguen siendo aplicables.

El umbral de evidencia debería aumentar con el daño potencial. Redactar un resumen interno de una reunión requiere controles, pero no merece la misma revisión que recomendar objetivos de aplicación de la ley.

Los líderes también deberían definir los límites de fallo antes del lanzamiento. Necesitan condiciones claras para pausar un sistema, volver al proceso anterior y notificar a los usuarios afectados.

Esta disciplina operativa rara vez produce el titular más atractivo de Google News. Determina si la afirmación de liderazgo resiste después de que la atención pública se traslade a otra parte.

Las salvaguardas deben funcionar dentro del flujo de trabajo

La gobernanza tiene éxito cuando las salvaguardas influyen en las decisiones cotidianas, no cuando existen solo en documentos de políticas.

Muchas organizaciones ya cuentan con principios de IA. Menos pueden demostrar cómo esos principios cambian una decisión de contratación, impiden un uso inseguro o resuelven un problema reportado.

El Marco de Gestión de Riesgos de IA del NIST ofrece una estructura práctica mediante cuatro funciones conectadas: gobernar, mapear, medir y gestionar. Trata la gobernanza como una parte continua del ciclo de vida del sistema.

El marco de IA del NIST es voluntario y está diseñado para organizaciones de todos los sectores. Su valor radica en conectar las decisiones de liderazgo con las pruebas, la documentación y el tratamiento de riesgos.

“Gobernar” establece responsabilidades y expectativas organizativas. “Mapear” sitúa el sistema en su contexto real de uso. “Medir” evalúa los riesgos y el desempeño, mientras que “gestionar” prioriza las respuestas y supervisa los resultados.

Las agencias pueden traducir estas funciones en puntos de control dentro del flujo de trabajo. Un caso de uso propuesto no debería pasar a contratación hasta que el personal documente su propósito, los usuarios afectados, las necesidades de datos, las alternativas y los daños potenciales.

Las pruebas deberían reflejar condiciones operativas reales. Un chatbot entrenado con ejemplos limpios puede tener dificultades con faltas de ortografía, preguntas incompletas, solicitudes multilingües o políticas que contienen excepciones.

Las pruebas de seguridad también importan porque la IA generativa introduce nuevas vías de ataque. La inyección de prompts ocurre cuando contenido malicioso o no confiable intenta redirigir el comportamiento de un modelo.

Un asistente orientado al público podría recuperar texto de documentos de la agencia o de fuentes externas. Si el sistema trata instrucciones ocultas como comandos confiables, un atacante puede manipular su respuesta.

Los líderes no necesitan convertirse en ingenieros de modelos. Necesitan suficiente fluidez técnica para preguntar si las pruebas cubrieron el uso indebido probable, la exposición de datos sensibles y la recuperación ante fallos.

Los expertos del programa siguen siendo esenciales porque las pruebas técnicas no pueden determinar si una respuesta cumple una obligación legal o refleja la política real del servicio.

El personal de primera línea debería participar antes de que se fijen los requisitos. Saben dónde los registros están incompletos, dónde surgen excepciones y qué atajos crean problemas posteriores.

Los residentes y los grupos de defensa pueden identificar riesgos que los equipos internos pasan por alto. Su participación cobra especial importancia cuando un sistema afecta a grupos vulnerables o cambia el acceso a un servicio.

Las salvaguardas también necesitan aplicación efectiva. Un inventario sin integración con la contratación permite que nuevos sistemas entren mediante compras departamentales o funciones integradas en el software.

Las listas de productos aprobados por sí solas son insuficientes porque el riesgo depende del uso. La misma herramienta podría ser aceptable para generar ideas e inaceptable para procesar expedientes confidenciales.

Por ello, los líderes deberían autorizar casos de uso, no solo productos. La autorización debería describir los datos permitidos, la revisión requerida, la supervisión y las acciones prohibidas.

La IA en la sombra sigue siendo un desafío práctico. Los empleados pueden recurrir a herramientas de consumo cuando los sistemas aprobados son lentos, no están disponibles o se adaptan mal a su trabajo.

El castigo por sí solo no resolverá ese problema. Las agencias necesitan alternativas utilizables, reglas claras y canales de retroalimentación que revelen por qué el personal evita los procesos aprobados.

La visión escéptica merece énfasis aquí. La adopción de un marco no demuestra que un sistema sea confiable. Una evaluación con buen formato aún puede basarse en pruebas débiles o supuestos optimistas.

La revisión independiente puede reducir ese riesgo, especialmente en usos de consecuencias relevantes. Las agencias deberían separar al equipo que busca el despliegue de las personas autorizadas para cuestionar su evidencia.

Los informes de transparencia también pueden volverse performativos si enumeran sistemas sin resultados. Los informes útiles deberían mostrar si los despliegues cumplieron los objetivos de servicio y qué cambió después de los incidentes.

La prueba de realidad es sencilla. Una salvaguarda solo importa cuando puede retrasar un lanzamiento, limitar un caso de uso, exigir trabajo correctivo o detener un sistema.

Tres señales mostrarán si el liderazgo en IA es real

La próxima etapa se decidirá por la evidencia, el comportamiento de la fuerza laboral y los recursos públicos, más que por el número de anuncios.

La primera señal es la calidad de los inventarios públicos de IA y de los informes de impacto. Las agencias deberían ir más allá de las listas de herramientas y avanzar hacia descripciones de propósito, titularidad, riesgo, desempeño y derechos de revisión.

Si los inventarios empiezan a conectar los despliegues con resultados medibles del servicio, la afirmación de liderazgo se fortalece. Si siguen siendo catálogos promocionales, la brecha de percepción se ampliará.

Los lectores deberían buscar líneas base y comparaciones posteriores al despliegue. Las medidas útiles incluyen el tiempo de procesamiento, los errores corregidos, las apelaciones, la carga de trabajo de los empleados, la satisfacción de los usuarios y los resultados de accesibilidad.

La segunda señal es si los trabajadores utilizan los sistemas aprobados de forma consistente y los cuestionan cuando es necesario. La adopción sin revisión informada sugiere sesgo de automatización, mientras que una evasión generalizada sugiere un mal ajuste o una confianza débil.

Las agencias pueden examinar la finalización de la formación, el uso activo, los problemas reportados y los patrones de anulación. Deberían combinar esas cifras con entrevistas porque el comportamiento puede tener varias explicaciones.

Un programa saludable hace visible el desacuerdo. Los empleados deberían saber cuándo deben verificar una respuesta y cómo escalar fallos sin poner en riesgo sus evaluaciones de desempeño.

La tercera señal es si los residentes reciben una notificación y recursos significativos. Las personas deberían poder reconocer cuándo la IA influyó materialmente en un servicio y acceder a un revisor humano cualificado.

La notificación debe usar lenguaje claro. Una declaración genérica de que una agencia “utiliza analítica avanzada” no explica si la automatización afectó un caso individual.

Los recursos también deben producir acción. Un formulario de contacto que devuelve a los usuarios al mismo proceso automatizado no proporciona revisión humana.

Estas tres señales se refuerzan mutuamente. Mejores inventarios ayudan a los empleados a comprender los usos aprobados. Los trabajadores informados generan mejores registros de incidentes, mientras que unos recursos efectivos revelan fallos que las pruebas internas no detectaron.

También ofrecen a periodistas e investigadores una historia más útil. Google News puede entonces destacar evidencia sobre resultados, no solo afirmaciones sobre impulso.

La IA del sector público no necesita aprobación universal antes de poder ayudar. Necesita salvaguardas proporcionales, responsabilidad visible y disposición para detener los sistemas que no cumplan su propósito declarado.

Por tanto, el desafío del liderazgo es menos dramático de lo que sugiere el titular, pero más exigente en la práctica. Implica establecer límites, financiar la evaluación, escuchar al personal y preservar alternativas humanas.

Los desarrolladores deberían preguntarse si los sistemas exponen suficiente información para una revisión significativa. Los compradores empresariales deberían preguntarse si los contratos preservan el acceso a auditorías y el control operativo.

Los trabajadores del conocimiento deberían preguntarse dónde entra el material generado en los registros oficiales y quién lo verifica. Los residentes deberían preguntarse si una recomendación automatizada puede explicarse y recurrirse.

El próximo ciclo de noticias de Google traerá otro modelo, alianza o iniciativa estatal. Antes de llamarlo liderazgo, busque las pruebas que lo sustentan.

Haga tres preguntas: ¿Qué mejoró?, ¿quién lo verificó? y ¿qué ocurre cuando el sistema se equivoca? Si una agencia puede responder las tres, la percepción y la realidad por fin se están acercando.