Las agencias no pueden gobernar los sistemas de IA que no pueden encontrar

Google News puso de relieve un conflicto directo para las agencias públicas: la gobernanza de la IA comienza por localizar sistemas que a menudo llegaron al gobierno sin una etiqueta clara de IA.

Las políticas pueden prohibir la carga de datos sensibles, exigir revisión humana o establecer principios de uso responsable. Ninguno de esos controles funciona si los funcionarios no pueden identificar las herramientas, funciones integradas, servicios de proveedores y experimentos de empleados que ya influyen en el trabajo público.

Esa brecha de visibilidad se ha vuelto más urgente a medida que las agencias avanzan más allá de pilotos aislados de chatbots. La IA ya aparece en plataformas de permisos, servicios de traducción, sistemas documentales, herramientas de detección de fraude, centros de atención telefónica y software ofimático habitual. La disyuntiva ya no es innovación frente a cautela. Es adopción documentada y supervisada continuamente frente a un uso fragmentado que los responsables centrales descubren demasiado tarde.

Lo que el titular de Google News acierta sobre los inventarios de IA

Un inventario de IA se está convirtiendo en el punto de partida operativo para la supervisión del sector público, no en otra hoja de cálculo administrativa.

El titular difundido a través de Google News refleja un problema básico de gobernanza. Antes de que una agencia pueda clasificar el riesgo, probar la precisión o asignar responsabilidades, debe establecer qué sistemas existen y cómo se utilizan.

Eso parece sencillo hasta que los funcionarios definen qué cuenta como sistema de IA. Un departamento podría declarar un chatbot generativo mientras pasa por alto la clasificación automatizada, la categorización de documentos, la previsión, la transcripción o el reconocimiento de imágenes dentro del software existente.

Por tanto, un inventario debe abarcar más que los productos adquiridos mediante un contrato de IA. Debe incluir modelos desarrollados internamente, servicios alojados por proveedores, funciones opcionales de software, herramientas elegidas por empleados y sistemas automatizados heredados de acuerdos anteriores.

Las agencias públicas también deben documentar los usos, no solo los productos. El mismo modelo puede ayudar a redactar un memorando interno o recomendar si alguien recibe una prestación pública. Esas aplicaciones tienen consecuencias muy distintas.

Un registro de inventario útil identifica el departamento responsable, el propósito operativo, la población afectada, las categorías de datos, el proveedor, el modelo o servicio, la autoridad de decisión, el proceso de revisión humana y el estado actual de despliegue. También registra si una persona puede impugnar un resultado.

Esta distinción importa porque una lista de aplicaciones responde solo a una pregunta limitada: ¿qué software aprobó la organización? La gobernanza exige una respuesta más amplia sobre dónde el análisis automatizado modifica el trabajo público o afecta a los residentes.

La experiencia del gobierno federal muestra la escala implicada. Una revisión de 2026 del último inventario consolidado encontró más de 3.600 usos de IA declarados en 41 agencias, frente a unos 700 usos en 2023. La revisión de adopción federal también concluyó que la adopción declarada seguía concentrada entre las agencias más grandes.

Estas cifras demuestran un crecimiento rápido, pero no prueban que se haya registrado cada despliegue. Las reglas de reporte cambian, las agencias interpretan las definiciones de forma diferente y los empleados pueden usar servicios externos sin crear un registro formal de contratación.

Eso deja dos tipos de brechas de visibilidad. La primera implica IA en la sombra, es decir, herramientas utilizadas sin aprobación o revisión central. La segunda implica IA integrada, es decir, funciones automatizadas añadidas a productos que una agencia ya posee.

Los sistemas integrados pueden ser especialmente difíciles de rastrear. Un proveedor puede activar una función de resumen, cambiar de proveedor de modelos o ampliar una función de recomendación automatizada durante una actualización rutinaria de software.

Un cuestionario anual no detectará esos cambios de forma fiable. Cuando llegue la siguiente encuesta, la función podría haber procesado ya registros confidenciales o influido en cientos de decisiones.

Por lo tanto, el inventario necesita un mecanismo de actualización. Los eventos de contratación, las renovaciones de contratos, las revisiones de seguridad, las versiones de software y las solicitudes de acceso de empleados deberían activar una comprobación de capacidades de IA nuevas o modificadas.

Connecticut ofrece un modelo público. El estado afirma que mantiene un inventario anual de sistemas aprobados y evalúa los usos propuestos mediante un proceso de gobernanza multidisciplinario. Su marco estatal de IA incorpora experiencia tecnológica, jurídica, normativa, ética y de seguridad a la revisión.

Una publicación anual puede mejorar la transparencia, pero el registro interno debe avanzar más rápido que el calendario de publicación. Los residentes necesitan una visión pública estable, mientras que los administradores necesitan un registro operativo en tiempo real.

Esa combinación convierte el trabajo de inventario en infraestructura. El documento público respalda la rendición de cuentas. El sistema interno respalda las decisiones diarias sobre acceso, pruebas, contratación, incidentes y retirada.

Los lectores de Google News podrían encontrarse con el argumento del inventario como un simple llamado a mejorar el registro de datos. Su implicación más profunda es más exigente. Las agencias deben tratar el descubrimiento de IA como un control continuo que acompaña a cada sistema desde la propuesta inicial hasta su desactivación definitiva.

La brecha de visibilidad presiona a los responsables de contratación, legales y de programas

La IA invisible desplaza el riesgo de la persona que selecciona una herramienta hacia los funcionarios que siguen siendo responsables de sus consecuencias.

Los directores de información no pueden resolver esto por sí solos. Normalmente gestionan la infraestructura aprobada, los requisitos de seguridad y los contratos empresariales. No necesariamente ven cada servicio web que abre un empleado ni cada función automatizada que activa un proveedor.

Los equipos de contratación afrontan una limitación relacionada. Una licitación puede describir analítica, automatización de flujos de trabajo o apoyo a la toma de decisiones sin utilizar el término inteligencia artificial. Las categorías tecnológicas estándar pueden ocultar el mecanismo que merece revisión.

Los equipos jurídicos suelen intervenir después de que se haya redactado un contrato. En ese momento, la agencia puede carecer de capacidad de negociación para exigir documentación del modelo, acceso de auditoría, notificación de incidentes, restricciones de datos o aviso previo de cambios materiales.

Los responsables de programas soportan otra forma de presión. Entienden el flujo de trabajo y a los residentes afectados, pero quizá no reconozcan cuándo la función de un proveedor cumple la definición de IA de la agencia.

Por ello, cada grupo ve solo una parte del sistema. La gobernanza falla cuando todos asumen que otra oficina posee la imagen completa.

La contratación es la puerta de entrada más práctica porque puede exigir divulgación antes del despliegue. Un proveedor debería explicar qué funciones utilizan IA, qué datos procesan, qué terceros participan y si el sistema cambia después de la compra.

Los contratos también deberían abordar las actualizaciones. Una divulgación realizada durante la licitación pierde valor si el proveedor sustituye posteriormente el modelo subyacente, introduce acciones similares a las de agentes o amplía la retención de datos sin una nueva revisión.

Un agente de IA es un software capaz de planificar o ejecutar una secuencia de acciones hacia un objetivo. Eso hace que el control de cambios sea especialmente importante porque el sistema podría hacer más que generar una recomendación.

Un chatbot convencional devuelve texto para que una persona lo evalúe. Un agente podría recuperar registros, modificar un caso, enviar una notificación o iniciar otro proceso. El riesgo operativo depende de los permisos, la reversibilidad y el número de registros afectados.

Las oficinas de programas deben describir esas consecuencias en lenguaje claro. Una descripción técnica de un modelo no revela si un error retrasa un memorando rutinario o bloquea el acceso a ayuda para vivienda.

Maryland ha vinculado el trabajo de inventario a la gobernanza tecnológica existente en lugar de crear un ejercicio de reporte desconectado. Su proceso público de inventario de IA describe un catálogo conectado con estructuras estatales de revisión y reportes de casos de uso de las agencias.

Esa integración es significativa. Las agencias ya mantienen procesos de contratación, ciberseguridad, privacidad, registros y gestión de proveedores. El descubrimiento de IA funciona mejor cuando esos sistemas intercambian información en lugar de exigir una presentación manual independiente.

Los mandatos legales también están aumentando la presión. La legislación de Maryland establece obligaciones de inventario y evaluación de impacto para sistemas de alto riesgo utilizados por unidades estatales. El calendario distingue entre contrataciones más recientes y sistemas adquiridos anteriormente.

Sin embargo, un plazo no puede producir por sí solo un inventario preciso. Las agencias todavía necesitan un método defendible para descubrir tecnologías adquiridas antes del mandato o clasificadas bajo otra etiqueta.

Los gobiernos locales más pequeños enfrentan la versión más difícil de este problema. A menudo utilizan los mismos servicios en la nube que las jurisdicciones más grandes, pero carecen de responsables dedicados de privacidad, evaluadores de modelos o especialistas en contratación de IA.

Una encuesta de Pensilvania de 2026 citada por Governing encontró que el 81 por ciento de los funcionarios gubernamentales que respondieron no tenía una política de IA generativa. Entre esos encuestados, el 62 por ciento estuvo de acuerdo en que contar con una sería valioso.

La ausencia de políticas es grave, pero la capacidad limitada crea una restricción aún mayor. Un municipio pequeño podría saber que sus empleados usan un asistente de IA sin contar con la experiencia necesaria para evaluar los flujos de datos o negociar cláusulas contractuales especializadas.

Los servicios compartidos pueden ayudar. Los estados, condados, asociaciones y ciudades más grandes pueden publicar definiciones comunes, formularios de admisión, patrones de uso aprobados y cláusulas contractuales. También pueden proporcionar apoyo de revisión a jurisdicciones más pequeñas.

Esto no elimina la responsabilidad local. Ofrece a los funcionarios una base utilizable y reduce la probabilidad de que cada municipio repita la misma investigación sobre proveedores.

La respuesta obligada es organizativa, no meramente técnica. La contratación debe hacer mejores preguntas, los equipos jurídicos deben asegurar una divulgación continua, los equipos de seguridad deben mapear los accesos y los responsables de programas deben asumir el uso en el mundo real.

Esa presión persistirá porque la adopción de IA cambia más rápido que la presupuestación y contratación gubernamentales. Un sistema aprobado para un propósito puede adquirir nuevas funciones mucho antes de que expire el acuerdo original.

Las agencias que no puedan conectar esas oficinas gobernarán mediante instantáneas incompletas. Las agencias que creen un registro compartido podrán pasar de una conciencia dispersa a decisiones responsables.

El conflicto principal es la adopción documentada frente a la IA en la sombra

La disputa central enfrenta sistemas que una agencia puede rastrear con un uso de IA que se extiende mediante la comodidad, los valores predeterminados y la divulgación incompleta.

La IA en la sombra no siempre comienza con un incumplimiento deliberado de las normas. A menudo empieza cuando un empleado utiliza una herramienta pública conocida para resumir un documento, mejorar un correo electrónico, traducir un aviso o analizar una hoja de cálculo.

El beneficio inmediato es claro. La herramienta reduce el trabajo repetitivo y produce un resultado en cuestión de segundos. El coste de gobernanza permanece oculto hasta que alguien pregunta qué información salió de la agencia o cómo influyó el resultado en una decisión.

Bloquear todos los servicios públicos puede empujar el uso aún más a la clandestinidad. Los empleados sometidos a presión de carga de trabajo pueden recurrir a dispositivos personales, cuentas privadas o productos que los equipos de seguridad no pueden observar.

Una alternativa práctica combina herramientas aprobadas, límites claros, formación y supervisión proporcionada. Los empleados necesitan saber qué datos pueden introducirse en un sistema, qué tareas requieren verificación humana y qué decisiones no pueden delegarse.

La IA integrada crea una segunda vía para eludir la revisión formal. Una agencia puede aprobar una plataforma de registros, una suite ofimática o un producto de gestión de casos antes de que ese producto incorpore funciones generativas.

Más adelante, el proveedor añade capacidades de resumen o recomendación mediante una actualización habitual. Los usuarios ven un botón conveniente, mientras que las revisiones originales de seguridad y privacidad siguen centradas en el producto anterior.

Por eso, un inventario basado en productos es insuficiente. Las agencias necesitan una visión a nivel de funcionalidad, en la que una función sustancial cambie el uso de datos, la autoridad de decisión o la exposición a errores.

La divulgación del proveedor es necesaria, pero no puede ofrecer toda la respuesta. Los proveedores tienen incentivos para comercializar ampliamente las funciones de IA, describir de forma limitada las dependencias técnicas o tratar los cambios de modelo como mejoras ordinarias del servicio.

Los clientes gubernamentales necesitan un aviso contractual sobre los cambios que afectan al riesgo. También necesitan métodos técnicos y administrativos para confirmar a qué pueden acceder los empleados.

Los registros de inicio de sesión único pueden revelar el acceso a servicios aprobados. La supervisión del navegador y de la red puede identificar algunos dominios no aprobados. Los registros de gastos, los tickets de soporte, las encuestas y los inventarios de software pueden aportar señales adicionales.

Ninguno de esos métodos es completo. El análisis técnico puede identificar un servicio sin explicar su propósito. Las entrevistas con empleados pueden captar el propósito y, al mismo tiempo, pasar por alto usos ocasionales o no autorizados.

El mejor proceso de descubrimiento combina evidencias. Compara registros de contratación, registros de identidad, observaciones de red, divulgaciones de proveedores, entrevistas con programas, evaluaciones de privacidad y revisiones de seguridad.

Esa comparación debe generar preguntas, no acusaciones automáticas. Una función de IA previamente desconocida puede ser de bajo riesgo, estar desactivada o no ser relevante para las decisiones públicas. El descubrimiento inicia la clasificación.

La clasificación determina entonces la respuesta. Un asistente de redacción utilizado con información pública requiere controles distintos de los de un sistema que puntúa inspecciones, solicitudes de empleo o reclamaciones de prestaciones.

Alto riesgo no significa simplemente técnicamente avanzado. Describe las consecuencias asociadas a un error, la sensibilidad de los datos, la población afectada y la oportunidad de corrección humana.

Este enfoque se parece a la gestión de activos en ciberseguridad. Una organización no puede aplicar parches, supervisar o retirar un dispositivo cuya existencia desconoce. La IA añade otra dimensión porque un producto conocido puede cambiar su comportamiento sin cambiar de nombre.

El marco de gestión de riesgos de IA del National Institute of Standards and Technology organiza el trabajo en torno a gobernar, mapear, medir y gestionar el riesgo. El descubrimiento respalda cada parte de ese ciclo.

El mapeo requiere contexto sobre el uso previsto y las personas afectadas. La medición requiere pruebas vinculadas a ese contexto. La gestión requiere un responsable que pueda modificar, suspender o retirar el sistema.

Un inventario estático también puede generar una falsa sensación de confianza. Los funcionarios podrían celebrar una hoja de cálculo completa mientras los sistemas se alejan de las condiciones revisadas originalmente.

La deriva del modelo implica que el rendimiento o el comportamiento cambian a medida que evolucionan los datos, los entornos o los componentes del sistema. Las actualizaciones de los proveedores pueden producir cambios similares incluso cuando una agencia nunca vuelve a entrenar un modelo.

Un inventario continuo no significa una inspección manual constante. Significa definir eventos que exijan una reevaluación, como una nueva fuente de datos, la sustitución del modelo, la ampliación del grupo de usuarios, un cambio de propósito, un incidente o una queja pública.

Esta es la disyuntiva central del artículo. El acceso fácil ayuda a los empleados a experimentar y mejorar los servicios, pero la adopción descentralizada debilita la visibilidad. Un control central estricto mejora la supervisión, pero una fricción excesiva fomenta soluciones alternativas y ralentiza implementaciones útiles.

La respuesta no es la máxima restricción. Es un sistema de revisión lo suficientemente rápido para que los empleados prefieran la vía aprobada y lo suficientemente riguroso para que los usos con consecuencias reciban escrutinio.

Eso convierte la capacidad de respuesta en un control de gobernanza. Si la aprobación de una herramienta de resumen de bajo riesgo tarda meses, el proceso formal se vuelve menos relevante para la forma en que la gente realmente trabaja.

Los líderes deben establecer vías de revisión según las consecuencias. Los usos de bajo riesgo pueden seguir condiciones estándar, mientras que los sistemas que afectan derechos, elegibilidad, aplicación de normas, seguridad o empleo reciben una evaluación más profunda.

La adopción documentada solo funciona cuando la vía documentada sigue siendo utilizable. De lo contrario, el inventario registra la organización que los líderes desearían tener, no la que funciona en la práctica.

Por qué un inventario de IA aún puede generar una falsa sensación de confianza

Encontrar un sistema es necesario, pero un inventario no demuestra que el sistema sea justo, seguro, preciso o esté bien gobernado.

Un registro puede convertirse en un artefacto de cumplimiento. Los departamentos presentan entradas, el personal central publica una lista y todos asumen que el trabajo más importante está terminado.

La entrada puede describir un propósito aprobado sin mostrar el uso real. Puede identificar a un proveedor, pero omitir subcontratistas, proveedores de modelos, fuentes de datos o plugins externos.

También puede depender de la autodeclaración. Los empleados y contratistas no pueden divulgar una función que no reconocen, y los proveedores pueden no exponer todas las dependencias en un formato claro.

Incluso las entradas precisas envejecen rápidamente. Un sistema puede pasar de redactar texto interno a generar comunicaciones para residentes. Un piloto puede convertirse en un flujo de trabajo habitual sin un punto formal de decisión.

Estas limitaciones no hacen inútiles a los inventarios. Explican por qué el descubrimiento debe conectarse con la responsabilidad, la evaluación, la supervisión y la respuesta a incidentes.

Todo uso registrado debe tener un responsable empresarial. Esa persona no necesita comprender todos los parámetros del modelo, pero debe comprender el propósito, las consecuencias y las condiciones para detener el sistema.

La responsabilidad técnica es distinta. Tecnología de la información o un proveedor pueden mantener una plataforma, mientras que la oficina del programa sigue siendo responsable de cómo el resultado influye en una decisión pública.

Por tanto, un registro significativo identifica ambos roles. De lo contrario, el programa puede culpar a la oficina de tecnología, mientras que esta afirma que solo proporcionó una herramienta.

Las evaluaciones de impacto aportan la siguiente capa. Examinan los grupos afectados, los daños previsibles, la calidad de los datos, las pruebas, los procedimientos de apelación, la supervisión humana y las alternativas a la automatización.

Sin embargo, una evaluación realizada antes del lanzamiento sigue siendo una predicción. El rendimiento real depende del comportamiento de los usuarios, los cambios en los datos, la presión operativa y los casos que llegan al sistema.

La supervisión debe poner a prueba esas suposiciones después de la implementación. Las agencias deberían rastrear patrones de errores, anulaciones, quejas, resultados del procesamiento, incidentes de seguridad y diferencias entre grupos relevantes.

La transparencia pública añade otra limitación. Las agencias deberían divulgar información suficiente para que los residentes comprendan los usos con consecuencias, sin publicar detalles sensibles para la seguridad ni datos personales protegidos.

La Organisation for Economic Co-operation and Development ha subrayado que la confianza pública depende en parte de que las personas crean que los gobiernos pueden regular responsablemente las tecnologías emergentes. Sus hallazgos sobre confianza pública vinculan la calidad de la gobernanza con opiniones más positivas sobre la IA en el sector público.

La transparencia por sí sola no generará esa confianza. Una lista pública pierde credibilidad si los residentes descubren después que un sistema no incluido influyó en la aplicación de normas, el empleo o el acceso a servicios.

La precisión también importa más que el tamaño del inventario. Una jurisdicción con 200 entradas imprecisas no está necesariamente mejor gobernada que una con 40 registros precisos y actualizados vinculados a controles reales.

Por tanto, las comparaciones entre agencias pueden inducir a error. Un recuento creciente podría indicar una adopción más rápida, mejores informes, una definición más amplia o las tres cosas.

La misma cautela se aplica al aumento federal a más de 3.600 usos reportados. La cifra muestra actividad y una mejor visibilidad, pero no puede demostrar integridad ni calidad en todas las agencias.

Una investigación independiente publicada en 2026 examinó varios regímenes federales de divulgación y concluyó que ningún sistema único describe plenamente cómo el gobierno construye o implementa IA. El hallazgo sugiere que incluso las estructuras maduras de presentación de informes pueden fragmentar información relevante.

Otro riesgo es la inflación del alcance. Si un inventario captura cada regla automatizada básica, los revisores pueden dedicar una atención limitada a herramientas de bajo impacto mientras pasan por alto sistemas que influyen materialmente en las personas.

Las definiciones deben ser lo bastante amplias para evitar la evasión, pero estar acompañadas de niveles de riesgo. El descubrimiento debe abarcar ampliamente, mientras que los recursos de evaluación se asignan según las consecuencias.

Las agencias también deben preservar la memoria institucional. La rotación de personal, las reorganizaciones y los contratos que vencen pueden separar un sistema de las personas que entendían sus límites originales.

El inventario debe conservar decisiones, resultados de pruebas, condiciones aprobadas, incidentes e historial de cambios. Un nuevo responsable necesita más que un nombre de producto y una fecha de lanzamiento.

La continuidad del conocimiento importa para cualquier organización que gestione trabajo complejo respaldado por IA. Los equipos pueden mejorarla manteniendo una base de conocimiento técnico con capacidad de búsqueda que conecte políticas, evaluaciones, contratos y evidencia operativa.

Aun así, la documentación no debe convertirse en un sustituto del criterio. Un registro bien organizado puede mostrar que se realizó una revisión sin demostrar que los revisores plantearon las preguntas adecuadas.

La interpretación más escéptica merece atención: los programas de inventario pueden hacer que la IA visible parezca controlada mientras el uso no observado continúa en otros lugares.

Las agencias deberían poner a prueba esa posibilidad. Pueden comparar el inventario central con la actividad de red, las encuestas a empleados, los datos de contratación y las listas de funciones de proveedores, e investigar después las discrepancias significativas.

También deberían ofrecer a los trabajadores un canal seguro de reporte. Es más probable que los empleados divulguen sus experimentos cuando la respuesta se centra en corregir riesgos en lugar de imponer castigos automáticos.

Por último, los líderes deberían publicar las limitaciones junto con los totales. Un inventario creíble explica su alcance, método de reporte, fecha de actualización, exclusiones e incertidumbre.

Esa honestidad no debilita la gobernanza. Evita que un registro provisional se confunda con un mapa completo.

Qué deberían vigilar las agencias después de que pase el ciclo de noticias de Google

La próxima prueba es si los gobiernos convierten los anuncios de inventarios en controles observables que sigan siendo precisos después de que cambien los productos y los flujos de trabajo.

La primera señal es la calidad de los inventarios públicos. Más jurisdicciones publicarán listas porque las leyes, las políticas ejecutivas y las expectativas públicas fomentan la divulgación.

Los lectores deberían mirar más allá del número de entradas. Los registros sólidos identifican el uso, la agencia responsable, el propósito, el estado, el nivel de riesgo y el papel de la revisión humana en un lenguaje que los residentes puedan entender.

La guía de inventario de Nueva York ofrece un ejemplo de cómo un estado define expectativas comunes de reporte entre las entidades gubernamentales. Su guía de inventario se centra en identificar los sistemas en uso y apoyar la accesibilidad pública de datos seleccionados.

Si los registros públicos se vuelven más específicos y más fáciles de comparar con el tiempo, el modelo de adopción documentada está ganando terreno. Si las listas siguen siendo vagas o aparecen una sola vez, el problema de visibilidad persiste.

La segunda señal es el lenguaje de contratación. Las agencias deberían exigir a los proveedores que identifiquen las funciones de IA, los proveedores de modelos, las prácticas de datos de entrenamiento u operativas, los mecanismos de actualización y los cambios sustanciales.

La Government Accountability Office informó en abril de 2026 que ciertas agencias federales no estaban recopilando sistemáticamente las lecciones aprendidas de las adquisiciones de IA. Su evaluación de contratación consideró el aprendizaje compartido como un paso importante para mejorar las compras futuras.

Observe si los gobiernos crean cláusulas contractuales reutilizables y revisan las conclusiones. Eso demostraría que el descubrimiento está influyendo en la forma en que las agencias compran tecnología, y no solo en cómo la describen después.

También observe si los contratos otorgan a las agencias aviso y opciones cuando los sistemas cambian. La capacidad de un proveedor para sustituir un modelo sin una revisión significativa puede volver obsoleta la evaluación de ayer.

La tercera señal es la evidencia de una conciliación continua. Las agencias deberían comparar sus inventarios con registros de identidad, herramientas de seguridad, datos de gastos, registros de software e informes de empleados.

Un inventario en crecimiento no es automáticamente un fracaso. Puede indicar que el descubrimiento está mejorando. La pregunta relevante es si los usos recién detectados reciben responsables, clasificaciones y medidas correctivas.

Los informes públicos de incidentes ofrecerán otra pista. Una agencia sin problemas de IA reportados podría tener controles excelentes, pero también podría carecer de canales para detectarlos y divulgarlos.

Los líderes deberían rastrear los incidentes evitados por poco, además de los daños confirmados. Un documento confidencial cargado en un asistente no aprobado merece atención incluso si el proveedor no lo retuvo o ningún residente sufrió una consecuencia adversa.

El titular de Google News pronto dará paso a otra disputa sobre políticas de IA. La pregunta operativa debería seguir siendo: ¿puede una agencia nombrar los sistemas que influyen en su trabajo, explicar su propósito y demostrar quién puede detenerlos?

Para los empleados públicos, esa pregunta debería orientar la selección de herramientas antes de que información sensible entre en un prompt. Para los compradores de tecnología, debería orientar los contratos antes de que un proveedor se vuelva difícil de sustituir.

Para los residentes, la calidad del inventario ofrece una forma práctica de juzgar si las promesas de IA responsable se han convertido en controles operativos. Pregunte si la lista publicada abarca los usos reales, identifica la responsabilidad humana y registra actualizaciones relevantes.

Encontrar IA no constituye todo el programa de gobernanza. Es el punto en el que los eslóganes se enfrentan a la evidencia. Cuando la próxima noticia de Google News destaque una decisión automatizada fallida, el dato más revelador será si los funcionarios sabían que el sistema existía antes de que causara daño.