Las herramientas de gobernanza de IA de la UNESCO llevan la ética de los principios a las pruebas de políticas
La UNESCO lanzará tres productos de gobernanza de IA el 16 de septiembre, trasladando su programa de ética de principios generales hacia evidencia que los gobiernos puedan aplicar. Las herramientas de gobernanza de IA de la UNESCO llegan mientras los responsables políticos afrontan sistemas agénticos, crecientes demandas de infraestructura y capacidades nacionales desiguales.
El paquete incluye RAM 2.0, un análisis global de evaluaciones nacionales y un conjunto de herramientas sobre la huella ambiental de la IA. RAM significa Readiness Assessment Methodology, un proceso de diagnóstico para evaluar la capacidad de un país para gobernar la IA de forma responsable.
Esa combinación genera la verdadera tensión detrás del anuncio. Los principios internacionales sobre IA ya son habituales, pero su implementación sigue fragmentada entre leyes, instituciones, capacidad técnica y cumplimiento. La UNESCO busca que su enfoque a nivel nacional conecte esas capas sin convertirse en otro marco voluntario que los gobiernos respalden pero no puedan ejecutar.
Los productos debutarán durante el cuarto Global Forum on the Ethics of Artificial Intelligence en Riad, Arabia Saudita. El foro se celebra del 14 al 17 de septiembre y está organizado conjuntamente con la Saudi Data and Artificial Intelligence Authority e ICAIRE.
La UNESCO afirma que su metodología original ya ha influido en estrategias nacionales y hojas de ruta regionales. RAM 2.0 debe demostrar ahora que un diagnóstico voluntario puede seguir siendo útil a medida que sistemas vinculantes, incluido el AI Act de la Unión Europea, entran en fase de implementación.
La UNESCO lanza tres herramientas, no otra declaración
El anuncio importa porque la UNESCO reúne diagnóstico, evidencia comparativa y orientación ambiental en un único flujo de trabajo para políticas públicas.
Según el anuncio de las herramientas de gobernanza, la UNESCO prevé presentar los tres productos el 16 de septiembre. Cada uno aborda una brecha distinta entre los principios éticos y la acción gubernamental.
El primer producto es RAM 2.0, una versión actualizada de la evaluación de preparación nacional de la UNESCO. La metodología actual examina las condiciones jurídicas, regulatorias, sociales, culturales, económicas, educativas, científicas, técnicas y de infraestructura.
La UNESCO señala que la revisión incorpora más aportes de mujeres, personas con discapacidad y pueblos indígenas. Este cambio es importante porque las políticas nacionales de IA suelen tratar la inclusión como una revisión final de cumplimiento. En cambio, RAM 2.0 sitúa a las comunidades afectadas dentro del proceso de recopilación de evidencia.
El segundo producto analiza los hallazgos generados mediante evaluaciones nacionales. Su objetivo es identificar patrones globales de gobernanza de IA entre países, en lugar de dejar cada informe como un documento independiente.
Esa capa comparativa puede revelar brechas institucionales recurrentes. Entre ellas podrían figurar una autoridad reguladora poco clara, experiencia limitada en el sector público, una gobernanza de datos débil o mecanismos insuficientes para que las comunidades impugnen decisiones automatizadas.
Sin embargo, una síntesis global también puede diluir las diferencias locales si sus categorías se vuelven demasiado amplias. Un país que desarrolla una capacidad administrativa básica enfrenta limitaciones distintas a las de una economía digital madura que regula modelos de propósito general.
El tercer producto es un conjunto de herramientas ambientales para responsables políticos. La UNESCO afirma que abordará ambas dimensiones de la relación de la IA con el medio ambiente.
Los gobiernos necesitan métodos para reducir la huella ambiental de los sistemas de IA. También necesitan formas de evaluar las afirmaciones de que la IA puede respaldar la acción climática, la protección de la biodiversidad y la resiliencia de los ecosistemas.
Tratar estos objetivos de forma conjunta tiene sentido. Un proyecto de IA no puede etiquetarse como beneficioso únicamente porque su uso previsto apoye la conservación. Los responsables políticos también necesitan evidencia sobre requisitos de computación, fuentes de energía, uso de agua, adquisición de hardware y el resultado medible del proyecto.
Por tanto, los tres productos conforman una secuencia aproximada. RAM 2.0 identifica brechas de capacidad y gobernanza. El análisis global muestra si esas brechas se repiten entre jurisdicciones. El conjunto de herramientas ambientales aplica una prueba más específica a un ámbito de política pública cada vez más urgente.
Esto es más operativo que emitir otra declaración sobre una IA confiable. Aun así, no llega a ser regulación, porque las recomendaciones de la UNESCO no constituyen legislación nacional directamente exigible.
La distinción determinará cómo utilizan los gobiernos el paquete. Un diagnóstico puede ayudar a los funcionarios a decidir qué instituciones, competencias y normas necesitan. No puede obligar a un ministerio, regulador o proveedor de IA a actuar sobre esos hallazgos.
Esa limitación no vuelve irrelevante el trabajo. Convierte el seguimiento en la medida central del éxito.
Por qué las herramientas de gobernanza de IA de la UNESCO llegan ahora
La política de IA ha entrado en una fase de implementación en la que los gobiernos necesitan evidencia, personal y responsabilidad institucional, no solo valores compartidos.
Los 193 Estados miembros de la UNESCO adoptaron su Recomendación sobre la Ética de la Inteligencia Artificial en noviembre de 2021. El documento estableció un marco centrado en los derechos humanos que abarca todo el ciclo de vida de la IA.
Sus ámbitos de política incluyen la gobernanza de datos, la educación, el trabajo, la salud, la igualdad de género, la cultura, la comunicación y el medio ambiente. Los Estados miembros aplican la recomendación voluntariamente a través de sus propios sistemas constitucionales y administrativos.
La recomendación también pidió instrumentos prácticos de implementación. La UNESCO desarrolló RAM para la preparación a nivel nacional y una Evaluación de Impacto Ético para evaluar sistemas y proyectos de IA individuales.
RAM es un diagnóstico de nivel macro, no una certificación de productos. Su propósito es examinar si un país cuenta con las leyes, instituciones, competencias, infraestructura y salvaguardas sociales necesarias para una IA responsable.
La metodología de preparación pide a los gobiernos mirar más allá de si poseen una estrategia nacional de IA. Una estrategia puede existir sin un regulador eficaz, equipos de contratación capacitados, consulta pública significativa o mecanismos de reparación accesibles.
La UNESCO informa que se ha asociado con 77 países en estrategias y políticas nacionales de IA. Afirma que 58 países han completado el proceso de evaluación, mientras que más de 20.000 partes interesadas contribuyeron a su desarrollo.
Estas cifras muestran alcance, pero también revelan el siguiente problema. Elaborar una evaluación no equivale a modificar presupuestos, normas administrativas, prácticas de contratación o estructuras de cumplimiento.
La UNESCO ha citado a Bangladesh, Colombia, Ghana, Nigeria y Zimbabue como países en los que RAM orientó el desarrollo de estrategias de IA. También afirma que la metodología influyó en la Estrategia Continental de IA de la Unión Africana y en la Hoja de Ruta de IA Responsable de ASEAN para 2025 a 2030.
Estos ejemplos dan a RAM una base más sólida que un marco probado únicamente mediante talleres. Sin embargo, la calidad de la implementación diferirá según el país, el sistema político, los recursos y la autoridad reguladora.
El momento también refleja cambios en la tecnología. Los sistemas de IA agéntica pueden planificar tareas, llamar herramientas de software y realizar acciones con una dirección humana limitada paso a paso.
Esa capacidad complica la rendición de cuentas. Una revisión de gobernanza debe considerar quién autorizó una acción, qué datos y herramientas estaban disponibles, cómo se registraron las decisiones y si una persona podía intervenir.
El programa del foro de Riad sitúa la IA agéntica junto a los efectos ambientales, la igualdad de género, la cultura, la salud mental de los jóvenes, la neurotecnología y la biología sintética. Esta agenda muestra hasta qué punto la gobernanza se ha expandido más allá de las reglas sobre el contenido de los chatbots.
El cuarto foro también llega cinco años después de que la UNESCO adoptara su recomendación. Por tanto, el evento se plantea como una revisión de si los compromisos éticos han generado instituciones utilizables.
El programa oficial del foro incluye debates ministeriales, paneles de expertos, talleres, anuncios de alianzas y sesiones sobre la financiación de una gobernanza ética. Enumera representantes de gobiernos, sociedad civil, academia, organizaciones internacionales e industria.
Distintas páginas oficiales publican cifras de asistencia diferentes. El anuncio de la UNESCO afirma que el foro ampliado reunirá a 8.000 participantes, incluidos ministros y viceministros de aproximadamente 50 países. El sitio específico del foro enumera 1.200 participantes e invitaciones a 194 Estados miembros.
Estas cifras pueden medir categorías de participación diferentes, pero las páginas no explican la discrepancia. La incertidumbre es un recordatorio útil de que incluso los informes básicos sobre gobernanza necesitan definiciones coherentes.
La escala por sí sola no determinará si el evento importa. La prueba más sólida es si los ministerios salen de Riad con responsabilidades definidas, planes de trabajo financiados y calendarios públicos para actuar sobre los hallazgos de las evaluaciones.
Los diagnósticos voluntarios se enfrentan a la regulación vinculante
La principal tensión se da entre el fortalecimiento voluntario de capacidades y las obligaciones exigibles y específicas de cada jurisdicción.
El modelo de la UNESCO comienza con la cooperación. Los países evalúan sus propios ecosistemas, consultan a las partes interesadas, identifican brechas y reciben apoyo técnico adaptado a las condiciones nacionales.
Este enfoque puede funcionar en jurisdicciones con sistemas jurídicos muy distintos. También puede incluir a países que carecen del personal o de la madurez institucional necesarios para redactar de inmediato una legislación integral sobre IA.
La regulación vinculante sigue una lógica distinta. Asigna deberes legales, identifica a los actores responsables, establece supervisión y crea consecuencias por incumplimiento.
El AI Act de la Unión Europea ilustra esa vía. La ley clasifica determinados usos según el riesgo e impone obligaciones a proveedores, responsables del despliegue, importadores, distribuidores y otros actores.
Según el actual calendario del AI Act de la Comisión Europea, las normas de gobernanza y las obligaciones para los modelos de IA de propósito general comenzaron a aplicarse en agosto de 2025. La mayor parte del marco más amplio pasó a ser aplicable en agosto de 2026, con fechas posteriores para determinados sistemas de alto riesgo.
La UNESCO no compite con la UE como legislador. Sus herramientas se dirigen, en cambio, a países que necesitan comprender su punto de partida antes de elegir leyes, reguladores, normas u orientación específica por sector.
Esto hace que ambos enfoques sean potencialmente complementarios. Una evaluación de preparación puede identificar instituciones ausentes. La legislación puede definir después qué institución tiene autoridad y qué deben hacer las organizaciones reguladas.
El peligro surge cuando un diagnóstico se convierte en un sustituto de decisiones políticas difíciles. Los gobiernos pueden completar consultas y publicar informes pulidos mientras posponen la supervisión independiente, el acceso a mecanismos de reparación o las restricciones a usos de alto riesgo.
Un segundo peligro implica una implementación fragmentada. Si cada país traduce los principios éticos de forma diferente, los proveedores podrían afrontar definiciones, reglas de documentación y expectativas de presentación de informes incompatibles.
La coherencia global suena atractiva, pero una uniformidad completa no es probable ni siempre deseable. Los países difieren en derechos constitucionales, capacidad administrativa, mercados laborales, idiomas y necesidades de servicios públicos.
El objetivo más práctico es la interoperabilidad. Los gobiernos necesitan suficiente terminología y evidencia compartidas para comparar enfoques, al tiempo que conservan la capacidad de abordar daños locales.
RAM 2.0 puede contribuir al establecer una base diagnóstica común. El informe de conclusiones globales puede mostrar dónde se repiten las brechas de capacidad y dónde las condiciones locales exigen una respuesta diferenciada.
Sin embargo, ninguno de los dos productos puede resolver disputas sobre el riesgo aceptable. Los gobiernos aún deben decidir si determinados usos requieren prohibición, autorización previa, supervisión continua o controles específicos por sector.
La industria también influirá en esas decisiones. Los proveedores de IA suelen poseer más información técnica que los organismos públicos que revisan sus sistemas.
Ese desequilibrio hace que sean importantes las normas de documentación, el acceso a auditorías, la notificación de incidentes y el poder de negociación en las compras públicas. Una evaluación de preparación debería revelar si los gobiernos pueden exigir pruebas fiables en lugar de aceptar las garantías de los proveedores.
Las compras públicas son un ámbito donde las directrices voluntarias pueden tener fuerza inmediata. Un organismo público puede exigir evaluaciones de impacto, documentación de datos, controles de seguridad y revisión humana antes de adquirir un sistema de IA.
También puede exigir a los proveedores que mantengan registros, informen de fallos y respalden pruebas independientes. Esos requisitos contractuales pueden afectar los despliegues incluso antes de que se apruebe una ley nacional sobre IA.
Para los compradores empresariales, se aplica la misma lógica. Un flujo de trabajo de conocimiento estructurado puede preservar políticas, evaluaciones, documentos de proveedores y registros de incidentes. No sustituye a la gobernanza, pero facilita la revisión de las decisiones.
Por tanto, la cuestión principal no es si prevalecen las directrices voluntarias o la ley vinculante. Es si los resultados de las evaluaciones conducen a decisiones exigibles cuando la aplicación es necesaria.
RAM 2.0 Será Juzgado por lo que Cambie Después de la Evaluación
Un cuestionario mejorado solo importa si sus conclusiones modifican instituciones, presupuestos, leyes y decisiones de despliegue.
El RAM existente de UNESCO utiliza preguntas cualitativas y cuantitativas en cinco dimensiones conectadas. Estas abarcan las condiciones jurídicas, sociales y culturales, científicas y educativas, económicas, y técnicas y de infraestructura.
Esa amplitud reconoce una verdad básica sobre la gobernanza de la IA. Un país no puede regular eficazmente únicamente a través de un ministerio de tecnología.
Los organismos laborales deben comprender la automatización en el trabajo. Las autoridades educativas deben abordar los datos de estudiantes y la alfabetización en IA. Los responsables de competencia necesitan visibilidad sobre la concentración de mercado y el acceso a recursos de computación.
Las autoridades de protección de datos requieren conocimientos técnicos y facultades de investigación. Los tribunales y organismos administrativos necesitan procedimientos para revisar decisiones cuando los sistemas automatizados afectan derechos o prestaciones públicas.
El RAM puede poner de manifiesto si existen esos elementos. También puede mostrar cuándo la responsabilidad está dispersa entre organismos sin una autoridad coordinadora.
El mayor enfoque de RAM 2.0 en la inclusión debería mejorar ese diagnóstico. Las personas con discapacidad pueden encontrarse con interfaces inaccesibles o sistemas de selección automatizada que interpretan erróneamente la tecnología de asistencia.
Las comunidades indígenas pueden afrontar riesgos relacionados con datos lingüísticos, conocimientos culturales, derechos colectivos y soberanía de los datos. Las mujeres pueden experimentar patrones documentados de clasificación discriminatoria, selección laboral y abuso facilitado por IA.
Invitar a esos grupos a la consulta es solo el primer paso. Los responsables políticos deben mostrar cómo sus pruebas modificaron una recomendación, un presupuesto, una restricción o un requisito de supervisión.
De lo contrario, la participación se vuelve procedimental. Los gobiernos pueden señalar la consulta sin transferir ninguna influencia sobre la decisión final.
La metodología también enfrenta un reto de medición. La preparación nacional no puede reducirse a la existencia de estrategias, organismos y consejos consultivos.
Una institución puede existir sobre el papel, pero carecer de personal, financiación, independencia o acceso a pruebas técnicas. Una ley puede contener derechos sin ofrecer un canal práctico de reclamaciones.
RAM 2.0 será más creíble si distingue la adopción formal de la capacidad operativa. Esa distinción debería aparecer en las conclusiones nacionales y en el análisis de tendencias globales.
El acceso público también importa. Los investigadores y las organizaciones de la sociedad civil necesitan suficiente información sobre metodología, pruebas e informes de progreso para evaluar las afirmaciones gubernamentales.
Parte de la información sensible deberá permanecer protegida de manera razonable. Sin embargo, una confidencialidad amplia dificultaría el escrutinio independiente y debilitaría las comparaciones entre evaluaciones.
Los propios informes de UNESCO de abril de 2026 identificaron una limitación de recursos. Indicaron que la demanda de asistencia técnica superaba el apoyo disponible, con 29 países adicionales interesados en iniciar evaluaciones RAM.
Eso genera presión tanto sobre la escala como sobre la calidad. Una expansión rápida puede difundir la metodología, pero las evaluaciones superficiales podrían pasar por alto debilidades institucionales o subrepresentar a las comunidades afectadas.
La financiación plantea otra cuestión de gobernanza. Los programas de asistencia técnica dependen de gobiernos, fundaciones y socios internacionales.
El apoyo financiero puede ampliar el acceso de países con menos recursos. También exige salvaguardias transparentes en torno a la definición de agendas, la selección de consultores, la publicación y los conflictos de interés.
El informe comparativo de UNESCO puede ayudar a los donantes a identificar brechas recurrentes. Podría mostrar que los países necesitan experiencia regulatoria, recursos públicos de computación, participación de la sociedad civil o instituciones de datos más sólidas.
Sin embargo, las conclusiones agregadas no deberían convertirse en una competencia de clasificaciones. Los gobiernos podrían optimizar para obtener una puntuación favorable en lugar de afrontar debilidades políticamente difíciles.
El mejor resultado es un proceso vivo. Los países deberían publicar una evaluación, asignar acciones, medir el progreso y repetir la revisión a medida que cambian la tecnología y las instituciones.
Ese ciclo convertiría RAM 2.0 en un instrumento de gobernanza en lugar de un informe puntual. Sin él, la metodología corre el riesgo de documentar brechas que todos ya reconocen.
El Kit de Herramientas Ambientales Añade una Prueba de Rendición de Cuentas Más Exigente
La gobernanza ambiental de la IA requiere límites de sistema medibles, no afirmaciones generales sobre eficiencia o beneficios climáticos.
El kit de herramientas ambientales de UNESCO llega en un momento en que las exigencias físicas de la IA son cada vez más difíciles de separar de la política digital. El entrenamiento y la operación de modelos requieren centros de datos, electricidad, refrigeración, agua, equipos de red y chips especializados.
La Agencia Internacional de la Energía informó que la demanda eléctrica de los centros de datos aumentó un 17 por ciento en 2025. La demanda de las instalaciones centradas en IA creció aún más rápido.
El análisis sobre centros de datos de la AIE también indicó que cinco grandes empresas tecnológicas invirtieron más de $400 mil millones durante 2025. Preveía que su gasto de capital combinado aumentaría otro 75 por ciento en 2026.
Estas cifras no significan que todas las cargas de trabajo de IA tengan la misma huella. La ubicación, la composición de la red eléctrica, la eficiencia del hardware, el diseño de refrigeración, la utilización, la arquitectura del modelo y el momento de ejecución de las cargas de trabajo afectan al impacto ambiental.
Esa variación es precisamente la razón por la que los responsables políticos necesitan un kit de herramientas. Las estimaciones genéricas pueden inducir a error cuando ignoran dónde y cómo funciona un sistema.
Una evaluación útil debería definir la unidad que se mide. Los funcionarios necesitan saber si una afirmación abarca el entrenamiento del modelo, el ajuste fino, la inferencia, el almacenamiento de datos, la fabricación de hardware o todo el ciclo de vida de un servicio.
También necesitan límites temporales coherentes. Una ejecución de entrenamiento es finita, mientras que la energía de inferencia se acumula a medida que los usuarios realizan solicitudes.
El crecimiento del uso puede eliminar las ganancias de eficiencia. Un modelo que consume menos energía por consulta puede aun así aumentar la demanda total si se integra en millones de flujos de trabajo.
La contabilidad del agua plantea otra dificultad. Los centros de datos pueden utilizar agua directamente para refrigeración e indirectamente mediante la generación eléctrica.
La escasez local importa más que un promedio global. El consumo de agua en una región sometida a estrés hídrico genera consecuencias distintas que el mismo volumen en una ubicación abundante en agua.
El hardware añade impactos incorporados derivados de la minería, la fabricación, el transporte y la eliminación. Los ciclos rápidos de sustitución de aceleradores pueden trasladar costes fuera del país donde se utiliza un servicio de IA.
Por tanto, los gobiernos necesitan reglas de divulgación que permitan la comparación sin revelar información legítima de seguridad o comercial. También necesitan métodos independientes para comprobar las afirmaciones de los proveedores.
El segundo propósito del kit de herramientas es orientar usos beneficiosos de la IA en la acción climática, la biodiversidad y la resiliencia de los ecosistemas. Ese objetivo necesita el mismo rigor.
Un modelo de conservación debería evaluarse frente a una referencia definida. Los responsables políticos deberían preguntar si mejora la detección, reduce los costes del trabajo de campo, modifica la asignación de recursos o produce un resultado ambiental medible.
También deben contabilizar las necesidades propias de infraestructura y mantenimiento del proyecto. Un piloto que funciona bien en un entorno controlado puede fracasar cuando los organismos locales carecen de datos, conectividad, personal o financiación a largo plazo.
Existe otra tensión política. Los países que buscan inversión en IA pueden dudar en imponer informes ambientales detallados a los centros de datos o proveedores de modelos.
Sin divulgación, sin embargo, las comunidades y los planificadores de red no pueden evaluar las concesiones de infraestructura. Los gobiernos pueden descubrir limitaciones de energía, agua o transmisión solo después de aprobar grandes proyectos.
El kit de herramientas podría ayudar a estandarizar las preguntas que se plantean antes de la aprobación. No puede proporcionar mediciones inexistentes ni obligar a operadores privados a divulgarlas.
Las autoridades nacionales deben vincular las directrices ambientales con la concesión de permisos, las compras públicas, la planificación energética y las reglas de información. De lo contrario, el kit de herramientas seguirá separado de las decisiones que determinan el uso real de recursos.
Esta sección de las herramientas de gobernanza de IA de UNESCO puede convertirse en su prueba más exigente. La inclusión y la preparación pueden evaluarse mediante instituciones y consultas, pero las afirmaciones ambientales requieren datos físicos comparables.
Lo que Gobiernos y Compradores de IA Deberían Vigilar a Continuación
Las próximas tres señales mostrarán si el paquete de UNESCO produce cambios de política o una nueva capa de documentación de gobernanza.
La primera señal es el contenido de RAM 2.0 tras su lanzamiento del 16 de septiembre. Los responsables políticos deberían examinar si la metodología separa los compromisos formales de la capacidad operativa.
La revisión debería revelar cómo mide la independencia de los reguladores, la dotación de personal, la autoridad de aplicación, las compras públicas y el acceso a recursos. Sus disposiciones de inclusión también deberían mostrar cómo los grupos afectados influyen en las recomendaciones finales.
Unas reglas claras de puntuación y de pruebas fortalecerían la comparación. Las categorías vagas dejarían demasiado margen para que los gobiernos declaren estar preparados sin demostrarlo.
Las prácticas de publicación importan en este punto. Si las pruebas nacionales, las limitaciones y los planes de seguimiento siguen siendo accesibles, los investigadores externos podrán comprobar si el progreso comunicado coincide con la realidad institucional.
La segunda señal es cómo responden los gobiernos a las evaluaciones completadas. La evidencia más sólida no será otra estrategia nacional con el logotipo de RAM.
Será un organismo con financiación, una regla de compras públicas revisada, un proceso público de incidentes, una nueva salvaguardia legal o una decisión documentada de restringir un despliegue riesgoso.
UNESCO afirma que evaluaciones anteriores informaron estrategias nacionales en varios países. RAM 2.0 necesita un registro más sistemático de qué recomendaciones se adoptaron, retrasaron, rechazaron o dejaron sin financiación.
Ese registro también pondría de manifiesto las limitaciones políticas. Una recomendación técnicamente sólida puede estancarse porque los organismos compiten por la autoridad o los gobiernos priorizan la inversión en IA sobre la supervisión.
La tercera señal es si el kit de herramientas ambientales genera informes comparables. Los gobiernos y compradores empresariales deberían buscar límites de sistema definidos, medidas de energía y agua, consideraciones de ciclo de vida y reglas para evaluar los beneficios declarados.
Los datos comparables reforzarían el papel del conjunto de herramientas en la contratación pública y la planificación de infraestructuras. Un lenguaje amplio sobre sostenibilidad debilitaría la confianza y mantendría las actuales brechas de información.
El propio foro de Riad ofrece una primera prueba. Los organizadores esperan que ministros, reguladores, investigadores, empresas y representantes de la sociedad civil debatan sobre financiación e implementación.
Los anuncios realizados durante el evento deberían identificar responsables, presupuestos, plazos y mecanismos de rendición de cuentas. Las alianzas que carezcan de esos detalles merecen un tratamiento cauteloso.
Los proveedores de IA también deberían observar cómo las evaluaciones nacionales afectan al acceso al mercado. Un gobierno que detecte controles débiles de contratación podría introducir nuevos requisitos de documentación o pruebas antes de adoptar una ley integral.
Los desarrolladores podrían enfrentar más preguntas sobre registro de actividad, evaluación de modelos, supervisión humana, fuentes de datos, seguridad, accesibilidad e impacto ambiental. Preparar pruebas con antelación será más sencillo que reconstruirlas después del despliegue.
Los compradores empresariales deberían esperar que la gobernanza se convierta en un proceso operativo continuo. Una revisión de proveedor completada antes de la compra no puede abarcar actualizaciones del modelo, nuevas integraciones, cambios en los datos o modos de fallo emergentes.
Los equipos necesitan registros de decisiones, responsables designados, vías de escalamiento y evaluaciones periódicas. También necesitan un umbral claro para pausar un sistema cuando las pruebas ya no respalden su uso.
UNESCO no puede imponer esas prácticas mediante RAM 2.0. Puede ofrecer a los gobiernos un método compartido para identificar dónde faltan dichos controles.
Esa es la promesa práctica de las herramientas de gobernanza de IA de UNESCO. Conectan los compromisos éticos con cuestiones institucionales que los gobiernos pueden investigar y sobre las que pueden actuar.
La incertidumbre reside en la ejecución. ¿Cambiarán las evaluaciones el gasto, la autoridad y las reglas de despliegue, o los países tratarán su finalización como el logro definitivo?
Siga los primeros informes de RAM 2.0, las medidas gubernamentales vinculadas a ellos y los datos ambientales exigidos a los proveedores de IA. Esas señales mostrarán si el lanzamiento en Riad lleva la IA ética del acuerdo a la rendición de cuentas.
