El control de Apple y Google sobre la IA convierte la indignación pública en una prueba para las plataformas

Apple y Google afrontan un conflicto sobre IA más profundo que el simple rechazo de los consumidores, pese a que ambas empresas presentan sus tiendas de aplicaciones como puertas de acceso digitales confiables. La indignación pública ya va más allá de los chatbots inexactos o las imágenes sintéticas desagradables. Cada vez apunta más a las instituciones que distribuyen productos de IA, fijan sus reglas y se benefician de su adopción.

Ese cambio es el punto que suele pasarse por alto en “[Tech Thoughts] Reconsidering the social dimensions of hating AI” de Rappler. El rechazo a la IA a menudo se descarta como tecnofobia, resistencia al cambio o ansiedad ante la automatización. Sin embargo, esas explicaciones tratan la IA como una herramienta aislada, en lugar de como un sistema moldeado por empleadores, plataformas, mercados y decisiones políticas.

El debate sobre la IA de Apple y Google revela la verdadera tensión. Ambas empresas pueden aplicar políticas detalladas para sus tiendas, revisar aplicaciones y retirar software que infrinja sus normas. Sin embargo, también se benefician cuando los desarrolladores se apresuran a añadir funciones generativas, suscripciones, inventario publicitario y demanda de nube.

Esto ya no es una disputa entre quienes aman la tecnología y quienes la temen. Es una controversia sobre quién asume los costos cuando fallan los productos de IA, de quién fue el trabajo que aportó sus capacidades y qué instituciones pueden intervenir. Apple y Google se sitúan directamente entre esas preguntas y miles de millones de usuarios móviles.

La indignación por la IA ha ido más allá del modelo

El cambio importante es que las personas juzgan cada vez más la IA por sus consecuencias sociales, no por sus puntuaciones en pruebas comparativas ni por su novedad.

Los primeros encuentros del público con la IA generativa solían parecer experimentales. Los usuarios hacían preguntas extrañas a un chatbot, generaban imágenes surrealistas o comprobaban si un modelo podía imitar un estilo de escritura conocido. Esas interacciones hacían que la tecnología pareciera separada de la vida institucional cotidiana.

Esa separación ha desaparecido. Los resúmenes de IA aparecen junto a los resultados de búsqueda. Las imágenes generadas circulan sin un contexto fiable. Las escuelas se enfrentan a trabajos que pueden contener pasajes escritos por máquinas. Los trabajadores reciben nuevos requisitos de productividad antes de que los empleadores hayan resuelto cuestiones de precisión, supervisión o responsabilidad.

La expresión “odiar la IA” condensa estas experiencias en una única etiqueta emocional. Coloca la frustración ante una respuesta defectuosa junto a la indignación por el desplazamiento laboral, los derechos de autor, los deepfakes, la vigilancia, los costos ambientales y la automatización no deseada. Estas objeciones no describen un único problema tecnológico.

Describen un problema de distribución. Las empresas eligen dónde aparece la IA, los directivos deciden cuándo su uso se vuelve obligatorio y las plataformas determinan con qué facilidad los productos dañinos llegan a los usuarios. Por lo general, las personas se encuentran con esas decisiones después del despliegue, no durante el diseño.

Esa diferencia importa porque renunciar se vuelve más difícil cuando la IA está integrada en el sistema operativo, el navegador, la búsqueda o el lugar de trabajo. Una persona puede evitar un chatbot. Evitar todos los resúmenes generados por IA, las clasificaciones automatizadas, los anuncios sintéticos o los sistemas de selección es mucho más difícil.

El resentimiento resultante no es necesariamente oposición al aprendizaje automático. Muchos críticos usan sistemas de recomendación, herramientas de traducción, funciones de accesibilidad, detección de fraude o software de navegación sin objetar los métodos subyacentes. Su resistencia suele comenzar cuando la IA generativa altera el consentimiento, la atribución o el control.

Un trabajador puede agradecer ayuda para organizar notas de reuniones y, al mismo tiempo, rechazar software que evalúa silenciosamente el rendimiento de los empleados. Un ilustrador puede utilizar herramientas de selección automatizada mientras se opone a modelos entrenados con obras creativas sin permiso. Un estudiante puede valorar explicaciones personalizadas, pero desconfiar de un detector poco fiable que etiqueta como generado un texto original.

Estas distinciones revelan las limitaciones de describir a los críticos como uniformemente “anti-IA”. El conflicto suele centrarse en una aplicación concreta, una práctica empresarial o una relación de poder. Tratar cada objeción como miedo al progreso permite que la institución responsable desaparezca de la vista.

El enfoque de Rappler es especialmente pertinente porque Filipinas ha vivido las consecuencias sociales de las decisiones de las plataformas. La clasificación en línea, las operaciones coordinadas de influencia y la débil rendición de cuentas pueden pasar de las pantallas a la vida pública. La IA generativa añade producción más barata y mayor personalización a ese entorno informativo ya existente.

La referencia histórica son las redes sociales, no un electrodoméstico anterior. Las redes sociales también se presentaron como herramientas cuyos efectos dependerían de los usuarios. Con el tiempo, los sistemas de recomendación, los incentivos publicitarios y la gobernanza de las plataformas demostraron ser fundamentales para definir en qué se convirtieron esas herramientas.

La IA merece el mismo escrutinio institucional. Un modelo produce un resultado, pero una empresa determina la interfaz, los límites de seguridad, el canal de distribución y el modelo de ingresos. Otra empresa puede colocar ese producto en una tienda de aplicaciones y presentarlo a los usuarios bajo una insignia de revisión.

Una vez que esa cadena se hace visible, la indignación deja de parecer irracional. Se convierte en una exigencia de identificar responsabilidades en todo el sistema.

Por qué ahora importan las políticas de IA de Apple y Google

Apple y Google están bajo presión porque sus tiendas convierten políticas privadas en infraestructura pública.

Ninguna de las dos empresas se limita a alojar un directorio neutral de software. Apple revisa las aplicaciones de iOS antes de su distribución a través de su tienda. Google también evalúa aplicaciones de Android y aplica normas en Google Play. Ambas empresas publican estándares sobre seguridad, privacidad, engaño y contenido objetable.

Esos estándares otorgan a las empresas una influencia considerable. Una retirada puede restringir el acceso a una enorme audiencia móvil, mientras que una aprobación puede aportar alcance, herramientas de pago y cierto grado de legitimidad percibida. Por tanto, la presencia en las tiendas determina qué productos de IA se convierten en servicios de consumo habituales.

Las políticas de las empresas también generan expectativas. Las directrices de revisión públicas de Apple prohíben varias categorías de comportamiento perjudicial o engañoso. Las políticas para desarrolladores de Google establecen requisitos sobre contenido, privacidad, suplantación de identidad y conductas engañosas.

Surge una pregunta difícil. Si una aplicación de IA permite repetidamente conductas que parecen incompatibles con esas normas, ¿cuándo pasa el operador de la tienda a ser responsable de su distribución continuada?

Esa cuestión pasó de la teoría a la defensa pública en enero de 2026. Una coalición de casi 30 organizaciones pidió a Apple y Google que retiraran X y Grok tras informes sobre imágenes sintéticas sexualizadas de mujeres y menores. Los grupos sostuvieron que las aplicaciones infringían las políticas ya existentes de las tiendas, según el escrutinio de la aplicación Grok.

La exigencia colocó a ambas empresas en una posición incómoda. Una retirada inmediata demostraría que las normas de las tiendas de aplicaciones pueden limitar a una plataforma destacada. Mantenerlas disponibles sugeriría que la aplicación de las normas depende de algo más que de la política escrita.

La controversia también mostró por qué la “seguridad de la IA” no puede seguir limitada a los desarrolladores de modelos. Un desarrollador controla el modelo y el producto. Los operadores de las tiendas controlan una vía crucial hacia los usuarios. Los servicios de pago, los anunciantes, los proveedores de nube y los reguladores poseen otras formas de influencia.

Cada institución puede afirmar que otra parte asume la responsabilidad principal. La empresa del modelo puede culpar a usuarios abusivos. La tienda puede señalar las salvaguardas del desarrollador. Los reguladores pueden decir que las plataformas deberían aplicar sus propias normas antes de que intervenga el gobierno.

Esa circulación de responsabilidades es, en sí misma, una característica social del despliegue de la IA. El daño puede surgir rápidamente, mientras que la rendición de cuentas avanza lentamente a través de contratos, sistemas de denuncias, apelaciones y límites jurisdiccionales.

Apple y Google también afrontan incentivos contradictorios. Sus marcas se benefician de la confianza de los consumidores, pero sus plataformas se benefician cuando los desarrolladores lanzan aplicaciones populares. La IA generativa puede aumentar la interacción con los dispositivos, las suscripciones, la actividad de búsqueda y la demanda de infraestructura en la nube.

Las empresas no son idénticas. Apple enfatiza el hardware, el software y los controles de privacidad integrados. Google opera un negocio más amplio de publicidad, búsqueda, móviles y nube, al tiempo que desarrolla sus propios modelos Gemini. Sus posiciones económicas difieren, pero ambas actúan como creadoras de reglas y competidoras en IA.

Ese doble papel complica la aplicación de las normas. Toda decisión sobre una aplicación rival de IA puede interpretarse como un juicio de seguridad, una maniobra comercial o ambas cosas. Los estándares transparentes se vuelven esenciales porque los observadores externos no pueden inferir de forma fiable los motivos de una retirada o aprobación.

Por eso el debate sobre la IA de Apple y Google va más allá de una sola aplicación. Plantea si los guardianes privados pueden aplicar normas previsibles cuando chocan la seguridad, la política y los intereses competitivos.

La verdadera división es elección frente a imposición

La aceptación pública suele depender menos de que exista la IA que de si las personas pueden rechazarla sin perder acceso, ingresos o estatus.

La adopción tecnológica suele narrarse como una decisión personal. Un usuario descarga una aplicación, acepta los términos y elige si continuar. Ese modelo falla cuando la IA se convierte en parte de un servicio esencial o un requisito laboral.

La búsqueda es un ejemplo claro. Una persona que busca una lista convencional de fuentes puede encontrarse con una respuesta generada por IA antes de llegar a las páginas originales. El sistema ya ha resumido y priorizado la información, incluso si el usuario nunca pidió una respuesta conversacional.

El mismo patrón aparece en el software creativo, la atención al cliente, la educación, la contratación y las herramientas de oficina. La IA puede incorporarse mediante una actualización de producto, en lugar de una compra deliberada. La elección nominal del usuario se convierte en elegir entre aceptar la función o abandonar un servicio conocido.

La adopción en el lugar de trabajo añade otra capa. Un empleado puede sentir presión para usar IA porque los directivos esperan resultados más rápidos. Si la herramienta produce un error, el empleado aún puede cargar con la responsabilidad del resultado. Las ganancias de productividad siguen siendo un beneficio organizacional, mientras que los costos de verificación recaen en el trabajador.

Esto ayuda a explicar la aparente contradicción entre criticar la IA y usarla. Las personas pueden objetar un sistema mientras dependen de servicios que hacen poco práctico evitarlo. El uso no demuestra automáticamente consentimiento, confianza ni satisfacción.

La misma contradicción existió con las redes sociales. Los usuarios criticaban las prácticas de privacidad y los sistemas de recomendación perjudiciales, pero permanecían porque sus comunidades, clientes o redes profesionales ya estaban allí. La participación continuada no eliminaba la queja subyacente.

Las empresas de IA suelen interpretar el aumento del uso como prueba de aceptación. Las cifras de uso pueden reflejar utilidad, curiosidad, presión institucional o falta de alternativas. No pueden distinguir esos motivos sin pruebas más profundas.

Por lo tanto, un análisis social útil pregunta quién controla la decisión. ¿Un creador autorizó el entrenamiento o la reutilización? ¿Un usuario solicitó una respuesta generada por IA? ¿Un trabajador ayudó a seleccionar el sistema? ¿Puede una persona impugnar una decisión automatizada? ¿Existe una vía significativa sin IA?

Estas preguntas son más informativas que preguntar si a alguien le gusta la IA en abstracto. Sitúan el conflicto en una relación real entre una plataforma, un empleador, un desarrollador, un creador y un usuario.

La elección también afecta a la confianza. Las personas pueden tolerar una herramienta imperfecta cuando comprenden sus límites y deciden cuándo usarla. Esa misma imperfección se vuelve más amenazante cuando el sistema aparece automáticamente, habla con autoridad o no puede evitarse.

Apple y Google pueden influir en esa experiencia mediante los requisitos de sus tiendas y el diseño de los sistemas operativos. Pueden exigir divulgaciones más claras, mecanismos de denuncia accesibles, protecciones por edad y controles significativos. También pueden destacar las funciones de IA de forma predeterminada y trasladar a los usuarios la carga de rechazarlas.

La disyuntiva no es simplemente innovación frente a regulación. Es velocidad de distribución frente a calidad del consentimiento. Un despliegue rápido puede revelar aplicaciones útiles, pero también puede normalizar un producto antes de que las comunidades afectadas puedan cuestionar sus condiciones.

Un sistema de conocimiento personal ofrece un ejemplo más acotado de este principio. Los usuarios tienen más control cuando deciden qué información entra en el sistema y cuándo la IA la procesa. La relación social cambia cuando la recopilación o el análisis se producen sin una elección comparable.

El control no resolverá todas las objeciones. Los datos de entrenamiento, los efectos laborales, los costes ambientales y la integridad de la información van más allá de una interfaz individual. Aun así, una elección significativa distingue la asistencia de la imposición, algo central para la confianza pública.

En qué acierta y se equivoca la reacción adversa

La crítica a la IA identifica fallos institucionales reales, pero una sola etiqueta puede ocultar diferencias importantes entre sistemas, usos y grados de daño.

El argumento más sólido a favor de la reacción adversa empieza por la rendición de cuentas. Los deepfakes pueden dirigirse contra personas que nunca aceptaron participar. El contenido sintético puede saturar los sistemas de descubrimiento. Los resultados poco fiables pueden aparecer en contextos donde los usuarios presuponen un cuidado factual básico.

La reciente presión regulatoria ilustra este punto. En julio de 2026, el fiscal municipal de San Francisco, David Chiu, envió avisos legales para exigir que Apple y Google retiraran 13 aplicaciones presuntamente utilizadas para generar imágenes íntimas no consentidas. La medida reportada apuntaba a la distribución y al lucro, no solo a las personas que introducían prompts abusivos.

Según la cobertura sobre los avisos sobre apps de nudify, ambas tiendas tenían políticas que prohibían la pornografía, el abuso o el acoso. Google afirmó haber retirado cientos de aplicaciones con funciones de nudificación por infringir sus políticas, incluidas cinco aplicaciones de Android identificadas por la ciudad.

Esa respuesta demuestra tanto el alcance como las limitaciones de la aplicación de normas por parte de las plataformas. La retirada puede reducir la distribución, pero a menudo llega después de una investigación externa. Productos similares pueden reaparecer con otros nombres, mensajes de marketing o diseños técnicos.

Los críticos también tienen razón al cuestionar la idea de que los usuarios por sí solos causan resultados dañinos. Los usuarios toman decisiones, pero los desarrolladores establecen qué puede generar el sistema, qué salvaguardas funcionan y cómo se gestionan los reportes de abuso. El diseño del producto influye tanto en la escala como en la previsibilidad del mal uso.

Sin embargo, una hostilidad generalizada puede perder precisión. La «IA» incluye sistemas de generación de imágenes, análisis de proteínas, accesibilidad, detección de fraude, traducción, apoyo médico, recomendación y previsión. Estas aplicaciones no comparten un único perfil de riesgo ni una misma finalidad social.

Incluso dentro de la IA generativa, una herramienta local de transcripción difiere de un generador público de imágenes. Una procesa material seleccionado por su usuario. La otra puede crear representaciones realistas de personas que nunca dieron su consentimiento. Tratar ambas como moralmente equivalentes impide establecer distinciones normativas útiles.

Una etiqueta general también puede desviar la ira de quienes toman las decisiones. Decir «la IA quitó un empleo» suena inevitable. Decir que un empleador sustituyó a un equipo tras adquirir un sistema específico identifica una decisión corporativa que puede examinarse y cuestionarse.

El mismo problema aparece en los debates sobre creatividad. Un modelo no decide cómo deben funcionar el reconocimiento, la remuneración o la atribución. Los desarrolladores, editores, agencias y clientes construyen esas prácticas. La tecnología cambia lo que es posible, pero las instituciones deciden qué se vuelve aceptable.

Los defensores de la IA a veces cometen el error opuesto. Señalan aplicaciones beneficiosas e insinúan que criticar un despliegue amenaza todos los usos. Ese movimiento también borra distinciones necesarias.

Una aplicación de tutoría que ayuda a un estudiante a comprender una ecuación no justifica los medios sintéticos engañosos. Un modelo de investigación que identifica patrones en datos científicos no resuelve si las obras creativas deben utilizarse para entrenamiento comercial sin autorización.

Ambos bandos pueden mejorar el debate nombrando al actor, la aplicación y el daño. «Google debería explicar cómo se aplica la normativa de Google Play a una aplicación de deepfakes denunciada» es una exigencia verificable. «La IA es malvada» es emocionalmente claro, pero débil desde el punto de vista operativo.

La precisión también permite respuestas proporcionales. Algunos productos requieren divulgación. Otros necesitan controles de edad más estrictos, auditorías o restricciones sobre resultados específicos. Un conjunto reducido puede presentar riesgos que justifiquen su retirada o prohibición legal.

Aquí es donde el debate sobre IA entre Apple y Google se vuelve constructivo. Los operadores de tiendas ya clasifican aplicaciones e imponen condiciones. La cuestión es si esos sistemas pueden evolucionar con la rapidez suficiente para reconocer nuevas formas de abuso facilitado por IA sin volverse arbitrarios.

La respuesta sigue siendo incierta. La revisión de tiendas no es un tribunal independiente, y la aplicación privada de normas puede afectar a la expresión, la competencia y el acceso. Dar más poder a los guardianes de acceso sin transparencia crea otro riesgo.

Por tanto, la rendición de cuentas necesita dos direcciones. Los desarrolladores deben responder por el comportamiento de sus productos, mientras que los operadores de tiendas deben explicar sus decisiones de aplicación de normas. Los reguladores y los tribunales deben seguir siendo capaces de revisar a ambos.

Las tiendas de aplicaciones no pueden resolver solas la crisis de confianza

La aplicación de normas por parte de las plataformas importa, pero las disputas más profundas sobre IA se refieren a estructuras de poder que la revisión de aplicaciones no puede reparar.

Apple puede retirar una aplicación de su tienda. Google puede suspender a un desarrollador o restringir una categoría de contenido. Ninguna de las dos medidas resuelve cómo se recopilaron los datos de entrenamiento, cómo se negocia la automatización en el trabajo o cómo afecta la infraestructura energética a las comunidades circundantes.

La intervención de las tiendas de aplicaciones es más eficaz cuando la infracción es concreta. Una aplicación distribuye contenido ilegal, engaña a los usuarios, suplanta a otras personas o maneja mal información sensible. Las políticas escritas pueden definir la conducta y proporcionar una base para su aplicación.

Los daños sociales suelen ser más difíciles de aislar. Un chatbot puede producir respuestas individualmente legales y, al mismo tiempo, fomentar una dependencia poco saludable a lo largo de muchas interacciones. Un generador de contenido puede inundar los canales publicitarios sin que ningún resultado individual infrinja una norma clara.

Los operadores de tiendas también evalúan los productos en un momento concreto. Los sistemas generativos pueden cambiar mediante actualizaciones del servidor después de ser aprobados. Su comportamiento depende de los prompts, las versiones del modelo, los clasificadores de seguridad y los ajustes del producto que los revisores quizá no observen de forma continua.

Los desarrolladores pueden responder a la presión pública sin revelar evidencia suficiente para evaluar la mejora. Podrían anunciar salvaguardas más fuertes, restringir ciertas funciones o afirmar que se corrigieron vulnerabilidades identificadas. Los observadores independientes aún necesitan métodos para comprobar si persiste el comportamiento dañino.

La transparencia ofrece parte de la respuesta. Las empresas pueden informar sobre cifras de retiradas, categorías de infracción, resultados de apelaciones y métricas de tiempo de respuesta. Pueden explicar si las políticas se aplican a una aplicación completa o solo a una función concreta.

Sin embargo, la transparencia puede volverse ceremonial si las categorías informadas son demasiado amplias. Decir que se retiraron cientos de aplicaciones no muestra cuántas siguieron disponibles, con qué rapidez se actuó ni si los desarrolladores reincidentes volvieron.

La investigación independiente puede ayudar, pero los investigadores necesitan acceso estable y protección legal. A veces las plataformas restringen las pruebas automatizadas porque se asemejan al abuso o infringen las condiciones de uso. Un marco de rendición de cuentas útil debe distinguir las auditorías de buena fe de los intentos de causar daño.

Los reguladores también se enfrentan a un problema de ritmo. Las investigaciones formales y los litigios avanzan lentamente, mientras que los productos generativos pueden llegar a grandes audiencias en cuestión de días. La aplicación privada de normas en las tiendas es más rápida, pero carece de las garantías procesales esperadas de los gobiernos.

Esa tensión no tiene una solución sencilla. Si Apple y Google actúan lentamente, los productos dañinos pueden escalar. Si actúan de forma agresiva, dos empresas adquieren mayor control sobre qué aplicaciones de IA llegan a los usuarios móviles.

Las propias ambiciones de IA de las empresas dificultan establecer su neutralidad. Google desarrolla modelos, distribuye Android, opera Google Play, vende servicios en la nube y controla importantes superficies de descubrimiento. Apple diseña dispositivos, sistemas operativos, reglas de tienda y experiencias de IA integradas.

Un desarrollador competidor puede preguntarse razonablemente si la aplicación de normas trata de manera coherente los servicios propios y los de terceros. Los usuarios pueden plantearse la misma pregunta cuando las funciones integradas reciben un acceso más profundo que las aplicaciones que instalan por separado.

Una separación clara entre los equipos de producto y los equipos de aplicación de normas ayudaría, pero las salvaguardas organizativas requieren verificación. Las explicaciones públicas de las políticas, las auditorías externas y los procesos de apelación coherentes pueden hacer que esos límites sean más creíbles.

La crisis de confianza va más allá del cumplimiento. Las personas quieren garantías de que las instituciones no las expondrán a daños evitables simplemente porque la adopción mejora su posición en el mercado. Esa es una cuestión de prioridades corporativas, no solo de seguridad técnica.

El enfoque social de Rappler capta esta cuestión más amplia. La ira contra la IA a menudo representa la frustración con instituciones que despliegan tecnología primero y negocian las consecuencias después. La resistencia pública se convierte en una de las pocas formas disponibles de ralentizar esa secuencia.

Las empresas no deberían tratar esa resistencia como un defecto de marca. Una mejor publicidad no puede resolver una disputa sobre consentimiento, trabajo o rendición de cuentas. Una campaña de relaciones públicas incluso puede profundizar la desconfianza si presenta las objeciones sociales como confusión.

La confianza crece cuando las personas afectadas obtienen un papel real en las decisiones. Los trabajadores necesitan participar antes de que lleguen sistemas de vigilancia o automatización. Los creadores necesitan opciones exigibles respecto a su obra. Los usuarios necesitan controles comprensibles y recursos efectivos.

Apple y Google pueden respaldar esas condiciones, pero no pueden crearlas por sí solas. Empleadores, desarrolladores, legisladores, tribunales, investigadores y sociedad civil también moldean el resultado.

Lo que Apple y Google deben demostrar ahora

La próxima prueba es si Apple y Google pueden convertir promesas generales de seguridad en decisiones coherentes y observables.

La primera señal es la transparencia en la aplicación de normas. Ambas empresas deberían proporcionar suficiente detalle para que terceros comparen las políticas escritas con los resultados reales. Los informes útiles identificarían categorías de infracción, tiempos de respuesta, reincidencias y el papel de las apelaciones.

Si los informes se vuelven más específicos, se fortalece el argumento a favor de una gobernanza liderada por las plataformas. Si las divulgaciones siguen siendo amplias, los críticos continuarán viendo la aplicación de normas como reactiva y selectiva.

La segunda señal es cómo las tiendas gestionan las aplicaciones que cambian después de la aprobación. Los modelos del lado del servidor pueden adquirir nuevas funciones o modificar sus salvaguardas sin una actualización convencional de la aplicación. Los sistemas de revisión necesitan una forma de detectar cambios de comportamiento materiales.

Las pruebas continuas no requieren leer cada conversación. Pueden centrarse en capacidades documentadas de alto riesgo, protecciones por edad, vías de denuncia y respuestas de los desarrolladores a patrones conocidos de abuso. Los auditores independientes pueden aportar credibilidad si se protegen su acceso y sus métodos.

La tercera señal es un trato coherente de la IA propia y de terceros. Apple y Google deben demostrar que los servicios integrados se someten a estándares comparables a los impuestos a los desarrolladores externos. Sin esa simetría, la aplicación de las normas de seguridad seguirá siendo vulnerable a preocupaciones sobre la competencia.

Estas señales importarán más que cualquier retirada puntual. Una suspensión de alto perfil puede demostrar poder, pero un sistema predecible demuestra gobernanza. Usuarios y desarrolladores necesitan conocer las reglas antes del próximo escándalo, no solo cuando la presión pública alcanza su punto máximo.

La actuación regulatoria aportará otra medida. Las notificaciones de San Francisco indican que los funcionarios están dispuestos a actuar contra la distribución en tiendas cuando las aplicaciones perjudiciales siguen disponibles. Intervenciones similares aumentarían la presión para realizar revisiones más rápidas y mejor documentadas.

El debate sobre la IA de Apple y Google también cambiará a medida que los medios sintéticos sean más difíciles de reconocer. Antes, los defectos visuales ofrecían a los usuarios una advertencia informal. Una generación de mayor calidad debilita esa defensa y aumenta el valor de la procedencia, el etiquetado y la denuncia rápida.

La procedencia se refiere a la información sobre el origen de un material digital y cómo ha cambiado. Puede ayudar a las plataformas y a los usuarios a evaluar contenido sintético, aunque las etiquetas pueden eliminarse y los metadatos pueden desaparecer al volver a publicar el contenido.

Ningún marcador técnico por sí solo resolverá el problema. Los sistemas eficaces necesitan aplicación de políticas, diseño de producto, recursos legales y alfabetización pública. También necesitan consecuencias para las instituciones que ignoran señales de advertencia reiteradas.

El cambio más importante sería pasar de la retirada reactiva a un despliegue responsable. Los desarrolladores deberían anticipar el uso indebido antes del lanzamiento. Las tiendas deberían comprobar las afirmaciones de alto riesgo antes de distribuir una aplicación. Los reguladores deberían definir obligaciones mínimas sin entregar cada decisión sobre contenido a guardianes privados.

Los lectores deberían observar cómo responden Apple y Google cuando el próximo producto de IA destacado entre en conflicto con las normas publicadas. ¿Explican el estándar, lo aplican de manera coherente y divulgan el resultado? ¿O esperan hasta que periodistas, investigadores y funcionarios les obliguen a tomar una decisión?

La respuesta revelará si la confianza en las tiendas de aplicaciones sigue siendo una promesa de marketing o se convierte en una relación exigible.

Odiar la IA es una respuesta imprecisa a un sistema complicado. Sin embargo, esa emoción suele transmitir un mensaje racional: las personas sienten que se están tomando decisiones importantes a su alrededor, en lugar de contar con ellas.

La respuesta adecuada no es decir a los críticos que la adopción es inevitable. Es identificar quién eligió el sistema, quién se beneficia, quién asume sus costes y quién puede detener un despliegue perjudicial.

Apple y Google ocupan esa última posición con más frecuencia de la que cualquiera de las dos empresas puede admitir cómodamente. Sus próximas decisiones mostrarán si las plataformas móviles pueden gobernar la IA de forma responsable mientras compiten dentro del mismo mercado. ¿Qué estándar deberían exigir los usuarios antes de que esas empresas aprueben la próxima aplicación de IA que les pide su confianza?