El bloqueo de imágenes de desnudos de Apple y Google afronta un mandato legal en el Reino Unido
Apple y Google afrontan ahora un mandato legal en el Reino Unido después de que tres meses de conversaciones no lograran ofrecer los controles de seguridad infantil exigidos por los ministros.
Las normas propuestas para el bloqueo de imágenes de desnudos de Apple y Google impedirían que cualquier persona menor de 18 años tomara, viera o enviara imágenes de desnudos. La protección funcionaría en cámaras, servicios de mensajería y aplicaciones de terceros, en lugar de limitarse a servicios seleccionados.
Se trata de una intervención mucho más amplia que las advertencias ya integradas en los iPhone y dispositivos Android. Esos sistemas suelen detectar posibles desnudos en el dispositivo, difuminarlos y permitir que algunos usuarios continúen. El Reino Unido quiere un bloqueo predeterminado que solo los adultos verificados puedan desactivar.
Por tanto, la disputa no gira en torno a si la tecnología puede reconocer desnudos. Apple y Google ya utilizan clasificación en el dispositivo para ese fin. Se trata de determinar si los proveedores de sistemas operativos deben convertir una advertencia de protección en un control obligatorio para todo un dispositivo.
El gobierno afirma que ahora es necesaria una legislación porque las propuestas voluntarias no estaban a la altura del problema del acoso con fines sexuales, la coacción y la extorsión sexual en línea. Los defensores de la privacidad responden que las comprobaciones universales de edad y la clasificación de contenidos pueden generar riesgos propios.
El mandato del Reino Unido va más allá de las advertencias a nivel de aplicación
El gobierno quiere que la protección infantil sea aplicada por el sistema operativo, no que se deje en manos de los padres o de aplicaciones individuales.
La secretaria de Cultura, Lisa Nandy, dijo al Parlamento el 8 de septiembre que el gobierno introduciría legislación primaria para cubrir protecciones a nivel de dispositivo. Un anuncio oficial siguió el 9 de septiembre.
El gobierno dio por primera vez a las empresas tecnológicas un plazo de tres meses el 8 de junio. Funcionarios del departamento de Cultura y del Ministerio del Interior trabajaron posteriormente con Apple y Google en hojas de ruta técnicas.
Nandy reconoció que ambas compañías habían asumido compromisos importantes. También dijo que habían desarrollado cambios a nivel operativo que pasan de difuminar algunas imágenes a bloquearlas en dispositivos de menores.
No obstante, los ministros concluyeron que las propuestas no cumplían su objetivo. El plan de protección de dispositivos del gobierno se basa en tres principios.
En primer lugar, los usuarios menores de 18 años no deberían poder tomar, ver ni enviar imágenes de desnudos. La restricción debería cubrir las cámaras del dispositivo, las funciones integradas y las aplicaciones de terceros.
En segundo lugar, la protección debería estar activa de forma predeterminada. Los padres y cuidadores no tendrían que buscar una configuración, instalar otra aplicación ni configurar cada servicio por separado.
En tercer lugar, un usuario debería demostrar que es adulto mediante lo que el gobierno denomina una verificación sólida de edad antes de desactivar la restricción. El proveedor, y no el menor o sus padres, asumiría la responsabilidad de establecer esa distinción.
Estos principios convierten una función habitual de control parental en un requisito de infraestructura. Un desarrollador de aplicaciones puede moderar imágenes dentro de su propio servicio. Un proveedor de sistemas operativos puede intervenir cuando una cámara captura una imagen, cuando un software la abre o cuando otra aplicación intenta compartirla.
El gobierno también está considerando obligaciones para las aplicaciones utilizadas por menores. Esto extendería la responsabilidad más allá de Apple y Google a servicios como plataformas de mensajería y redes sociales.
Sin embargo, no había ningún proyecto de ley definitivo disponible públicamente cuando se anunció la política. El gobierno no había publicado una fecha de implementación, una norma técnica, un modelo de aplicación ni una definición completa de los desnudos prohibidos.
Su anuncio indicaba que la legislación llegaría lo antes posible, al tiempo que reconocía la complejidad del asunto. Los ministros también dejaron abierta la posibilidad de reevaluar la ley si las empresas introducen de forma independiente protecciones adecuadas.
Esa salvedad importa. El anuncio inicia un proceso legislativo, no activa de inmediato un interruptor nacional. El escrutinio parlamentario, la consulta técnica, las normas de aplicación y los periodos de implementación aún se interponen entre la política y un bloqueo operativo.
Sin embargo, el cambio central es claro. El Reino Unido ya no acepta las advertencias opcionales dentro de aplicaciones seleccionadas como una respuesta suficiente a la explotación infantil basada en imágenes.
Por qué Apple y Google están sometidas a presión directa
Apple y Google controlan la capa en la que el gobierno considera que la protección puede acompañar a un menor en todas las aplicaciones.
La regulación de la seguridad en línea se ha centrado tradicionalmente en los servicios que alojan, recomiendan o transmiten contenidos. La política propuesta se adentra más en la pila tecnológica.
Una red social puede bloquear una cuenta o eliminar una publicación. Un servicio de mensajería puede restringir contactos desconocidos. Ninguna de estas acciones impide que un menor cree una imagen con la cámara o la traslade mediante otra aplicación.
Apple y Google ocupan una posición diferente. Sus sistemas operativos median el acceso a cámaras, pantallas, almacenamiento, menús para compartir, cuentas y permisos de aplicaciones.
Ese control las convierte en los principales objetivos de presión del gobierno. También implica que cualquier error técnico puede afectar a mucha más actividad que un error dentro de una sola plataforma social.
El argumento del gobierno parte de la coacción, no del contenido adulto consensuado. Nandy afirmó que menores están siendo captados, manipulados y chantajeados para crear imágenes íntimas a través de servicios en línea.
Su declaración ante los Comunes citó una estimación de la Internet Watch Foundation según la cual el 91 por ciento de las imágenes pertinentes son autogeneradas. El término describe material creado cuando un menor parece estar físicamente solo, aunque la coacción o la captación pueden impulsar su creación.
Nandy también dijo que aproximadamente 9.000 delitos anuales de abuso sexual infantil incluyen un componente en línea. Las personas menores de 18 años representan casi una cuarta parte de los objetivos de chantaje en línea, según las cifras que presentó.
Estos datos explican por qué el gobierno quiere intervenir antes de que una imagen llegue a una plataforma. Una vez enviada una imagen obtenida mediante coacción, un agresor puede copiarla, redistribuirla o utilizarla para extorsión sexual.
Un bloqueo a nivel de dispositivo intenta romper esa cadena antes. Podría interrumpir la captura, visualización o transmisión antes de que el material salga del control del menor.
El gobierno también quiere una norma que no dependa de una configuración parental perfecta. Los controles para dispositivos familiares suelen requerir el tipo de cuenta correcto, software actualizado, un grupo familiar activo y configuraciones que permanezcan habilitadas.
Los menores pueden utilizar una cuenta configurada incorrectamente. Las familias pueden compartir dispositivos. Un adolescente puede recibir una imagen a través de una aplicación que no utiliza la interfaz de seguridad existente del sistema operativo.
Una configuración legal predeterminada trasladaría esos fallos de configuración a los proveedores de tecnología. Apple y Google tendrían que demostrar que las protecciones funcionan de forma coherente para los usuarios menores identificados.
Esta presión se alinea con un giro más amplio del Reino Unido hacia servicios conscientes de la edad. La Online Safety Act ya exige que las plataformas cubiertas protejan a los menores de contenidos perjudiciales, incluida la pornografía.
Ofcom informó de que la proporción de menores que se encontraron con comprobaciones muy eficaces cuando se les pidió demostrar su edad aumentó del 25 por ciento al 43 por ciento entre julio de 2025 y enero de 2026. Sus conclusiones sobre comprobaciones de edad también identificaron lagunas en la búsqueda, los servicios de citas y la inferencia de edad en redes sociales.
El regulador espera que los sistemas operativos, las tiendas de aplicaciones y los dispositivos desempeñen un papel mayor. Tiene previsto informar sobre las protecciones de las tiendas de aplicaciones para enero de 2027.
Por tanto, Apple y Google se enfrentan a algo más que una solicitud aislada de una función. El Reino Unido está construyendo un modelo en el que una edad verificada afecta la experiencia en todos los servicios y funciones del dispositivo.
El bloqueo de imágenes de desnudos de Apple y Google cambia el modelo de seguridad
La principal disyuntiva es entre un bloqueo más estricto que actúa temprano y un sistema de advertencias que preserva la elección del usuario y limita la intervención en todo el sistema.
Apple ya habilita Communication Safety de forma predeterminada para menores de 18 años en dispositivos compatibles. La función utiliza aprendizaje automático en el dispositivo para identificar fotos o vídeos que parecen contener desnudos.
El procesamiento en el dispositivo significa que la clasificación se realiza localmente en vez de cargar cada imagen para su inspección. Apple afirma que no recibe la imagen ni una indicación de que se haya detectado desnudez.
La Communication Safety de Apple cubre Messages, AirDrop, funciones de FaceTime, álbumes compartidos, Contact Posters y algunos flujos de compartición de terceros. La cobertura varía según el dispositivo.
Cuando el sistema detecta una posible desnudez, difumina el contenido y presenta orientación. Un menor puede abandonar la conversación, bloquear un contacto, buscar ayuda o ponerse en contacto con un adulto de confianza.
Para los menores de 13 años, se requiere un código de Screen Time antes de ver el contenido detectado. Los menores de mayor edad generalmente pueden superar la intervención tras recibir advertencias adicionales.
Google sigue un patrón similar basado en advertencias en Google Messages. Las advertencias de contenido sensible están habilitadas de forma predeterminada para usuarios supervisados.
El sistema difumina las imágenes sospechosas de desnudos y muestra lo que Google denomina un speed bump. Ofrece información de seguridad y opciones de bloqueo, pero aún puede permitir a un usuario supervisado ver, enviar o reenviar el contenido.
Google afirma que sus controles de contenido sensible utilizan SafetyCore para clasificar imágenes localmente. Los datos identificables, el contenido y los resultados de clasificación no se envían a los servidores de Google.
SafetyCore solo procesa una imagen cuando una aplicación integrada solicita la clasificación. En la implementación documentada de Google Messages, no inspecciona continuamente todas las imágenes gestionadas por todas las aplicaciones Android.
La propuesta del Reino Unido exige un resultado diferente. Una advertencia pide al usuario que lo reconsidere. Un bloqueo elimina la elección para cualquier persona clasificada como menor.
También exige un alcance más amplio. Los controles actuales operan dentro de aplicaciones y vías de compartición definidas. El gobierno quiere que la protección cubra la cámara y las aplicaciones de terceros en todo el dispositivo.
Esa diferencia plantea difíciles cuestiones de ingeniería. Apple y Google deben identificar qué usuarios son menores de 18 años, detectar desnudos con precisión, impedir que las aplicaciones eludan el resultado y evitar enviar medios privados a un servicio central.
También deben decidir dónde se produce la intervención. Un sistema podría clasificar la salida de la cámara antes de guardarla, inspeccionar archivos cuando una aplicación solicita acceso, analizar píxeles mostrados en pantalla o combinar varios puntos de control.
Cada enfoque tiene límites. Los controles a nivel de cámara podrían pasar por alto archivos importados. Los controles de la hoja para compartir podrían omitir aplicaciones que usan sus propios sistemas de transferencia. El análisis de pantalla ofrecería una cobertura amplia, pero también una huella de privacidad mayor.
La mensajería cifrada añade otra capa. El cifrado de extremo a extremo protege el contenido mientras viaja entre participantes, pero un dispositivo aún debe mostrar la imagen descifrada a su destinatario.
La clasificación local puede operar antes del cifrado o después del descifrado sin proporcionar al servicio una copia legible durante la transmisión. Ese diseño no rompe automáticamente el cifrado.
Sin embargo, los críticos distinguen entre el cifrado y la privacidad en los extremos. Un mensaje puede mantenerse cifrado durante la transmisión mientras el software del teléfono evalúa su contenido.
El Reino Unido aún no ha publicado suficiente detalle técnico para establecer qué diseño exigirá. Las afirmaciones de que la propuesta envía necesariamente cada foto a un servidor gubernamental no están respaldadas.
La afirmación inversa también es prematura. El procesamiento en el dispositivo reduce la exposición, pero los detalles de implementación determinan qué datos se conservan, si se notifican las detecciones y cómo reciben actualizaciones los modelos.
Un bloqueo estricto también exige un estándar de precisión riguroso. Un falso positivo podría impedir el acceso a fotografías familiares, información sanitaria, arte, material educativo o pruebas que alguien necesite conservar.
Un falso negativo podría permitir el paso del material objetivo. Los infractores también pueden recortar, distorsionar, cubrir o transformar imágenes para eludir un clasificador.
Por tanto, los controles de seguridad infantil de Apple y Google deben resolver un problema más amplio que reconocer piel expuesta. Deben producir decisiones fiables entre distintas edades, tipos de cuerpo, condiciones de iluminación, contextos médicos, entornos culturales y medios sintéticos.
El resultado que busca el Gobierno es fácil de describir. El mecanismo necesario para conseguirlo sin efectos colaterales excesivos no lo es.
La verificación de edad y la privacidad son las pruebas más difíciles
La detección de desnudez es solo la mitad del sistema, porque un bloqueo predeterminado no puede funcionar sin decidir quién es adulto.
El principio del Gobierno establece que los adultos deben verificar su edad antes de acceder a funciones de dispositivos sin restricciones. Eso crea un segundo sistema técnico junto a la clasificación de imágenes.
La verificación de edad es una categoría amplia que abarca métodos para establecer o estimar si alguien cumple un umbral de edad. Entre las opciones figuran documentos de identidad, datos de pago, estimación facial de edad, registros de cuentas de confianza o confirmación de otro proveedor.
La elección final determinará el impacto de la política sobre la privacidad. Un método que almacena documentos de identidad conlleva riesgos distintos de una prueba reutilizable que solo confirma que alguien tiene más de 18 años.
Apple ya utiliza edades declaradas, cuentas infantiles y ajustes familiares para adaptar las protecciones. Google utiliza cuentas supervisadas y Family Link para sus controles documentados de Messages.
Estos sistemas pueden identificar a muchos menores, pero no prueban la edad de todos los usuarios de un dispositivo. Las cuentas pueden contener fechas de nacimiento incorrectas y los dispositivos pueden pasar de un familiar a otro.
El Gobierno quiere que los proveedores asuman la carga de acreditar la mayoría de edad. Eso podría presionar a las empresas para verificar a más usuarios, incluidos adultos que nunca utilizan controles parentales.
Open Rights Group y otras organizaciones de la sociedad civil han advertido que ampliar las barreras de edad puede requerir verificaciones de identidad generalizadas. Su advertencia sobre privacidad sostiene que estos sistemas pueden exponer datos personales sensibles y restringir el acceso ordinario.
La preocupación no elimina el daño que los ministros quieren abordar. Muestra por qué la legislación debe especificar minimización de datos, límites de retención, requisitos de seguridad, vías de apelación y pruebas independientes.
El diseño que mejor preserva la privacidad revelaría solo el dato necesario. Un servicio necesita saber que un usuario cumple un umbral, no necesariamente su nombre, dirección o fecha de nacimiento.
Incluso esa señal limitada debe seguir siendo precisa en dispositivos compartidos. Un adulto verificado no debería poder dejar una cuenta infantil sin restricciones de forma permanente, mientras que un menor no debería quedar excluido de material legítimo sin posibilidad de recurso.
Los errores de clasificación plantean otro problema de rendición de cuentas. Los sistemas de advertencia actuales mantienen una vía de salida porque una máquina puede equivocarse.
Un bloqueo legal estricto necesita una manera de impugnar esa decisión. Sin embargo, un mecanismo de apelación que permita a un menor eludir de inmediato cada resultado socavaría la política.
La legislación tendrá que definir excepciones o procedimientos de revisión sin crear una solución fácil para los abusadores. También debe explicar si los padres pueden anular un bloqueo y en qué circunstancias.
El alcance genera más incertidumbre. “Imágenes de desnudos” es una expresión más amplia que el material ilegal de abuso sexual infantil. Puede incluir contenido adulto lícito e imágenes inocuas que carecen de cualquier contexto sexual.
El objetivo del Gobierno abarca tanto tomar como recibir imágenes. Eso plantea preguntas sobre fotografías médicas, pruebas de protección, lactancia, imágenes familiares y recursos educativos.
Los legisladores no necesitan publicar un modelo de aprendizaje automático en la legislación. Sí necesitan definir el resultado esperado con suficiente precisión para que proveedores, reguladores, tribunales y usuarios lo entiendan.
Las pruebas independientes de rendimiento serán esenciales. Las afirmaciones de precisión deben cubrir falsos positivos y falsos negativos en dispositivos y contenidos realistas, no solo en un conjunto de pruebas seleccionado.
Las pruebas también deben examinar intentos de evadir la detección. Un modelo que funciona con fotografías normales puede rendir de forma distinta con capturas de pantalla, collages, dibujos, imágenes generadas o archivos muy editados.
El Gobierno ha dicho que los adultos que verifiquen su edad no deberían verse afectados. Hasta que se publiquen salvaguardias técnicas y legales, esa promesa sigue siendo un objetivo, no un resultado demostrado.
Apple y Google probablemente argumentarán que su procesamiento local ya ofrece una base. Los defensores de la privacidad se centrarán en si esa base se amplía hasta convertirse en una inspección continua de los dispositivos.
Ambas cuestiones pertenecen a la misma evaluación. Un sistema de seguridad infantil puede reducir un daño grave e introducir otro si recopila datos de identidad excesivos o bloquea material legítimo sin revisión.
Tres señales mostrarán qué significa realmente la ley
El proyecto de ley, las implementaciones de las plataformas y los resultados de pruebas independientes determinarán si esto se convierte en una protección infantil focalizada o en un precedente de control amplio de dispositivos.
La primera señal es el texto de la legislación principal. Los lectores deben buscar las empresas cubiertas, la definición de desnudez, los poderes de aplicación y el calendario.
El detalle más importante será el alcance. Una obligación limitada a los sistemas operativos de cuentas infantiles identificadas difiere de un requisito que afecte a cada pantalla, archivo y aplicación de todos los dispositivos del Reino Unido.
El proyecto también debe identificar a un regulador y un estándar de cumplimiento. Sin esos elementos, las empresas no pueden saber cómo se evaluarán la precisión, la privacidad y la resistencia a la elusión.
Unas salvaguardias claras reforzarían el argumento del Gobierno. Una autoridad vaga para ampliar las categorías de escaneo o recopilar datos de identidad reforzaría las preocupaciones de los críticos.
La segunda señal es la hoja de ruta de implementación de Apple y Google. Nandy afirmó que ambas compañías han adquirido compromisos significativos, pero el Gobierno no ha publicado sus propuestas completas.
Habrá que observar si Apple amplía Communication Safety hasta convertirlo en un verdadero bloqueo para todo el dispositivo. Su sistema actual ya alcanza varios servicios propios y determinadas acciones de compartición de terceros.
En el caso de Google, la cuestión es si SafetyCore se amplía más allá de Google Messages. El modelo de aplicaciones de Android abarca servicios de Google, software de fabricantes, aplicaciones de mensajería alternativas y hardware diverso.
Por tanto, una regla coherente para Android podría exigir nuevas interfaces del sistema operativo y trabajo de cumplimiento por parte de los fabricantes de dispositivos. También podría requerir que los desarrolladores de aplicaciones utilicen una capa estándar de clasificación o políticas.
La arquitectura de privacidad de las empresas importa tanto como la cobertura de las funciones. La clasificación local, la telemetría limitada, las actualizaciones transparentes de modelos y las pruebas de edad de alcance reducido disminuirían algunos riesgos.
La inspección del lado del servidor, la notificación amplia de eventos o el almacenamiento persistente de identidades cambiarían la evaluación. Ninguna de las empresas se ha comprometido públicamente con un diseño de este tipo en los materiales disponibles en el momento del anuncio.
La tercera señal es la evidencia independiente sobre el rendimiento en el mundo real. Las declaraciones del Gobierno y las demostraciones de las empresas no pueden sustituir las pruebas en el uso familiar habitual.
Los evaluadores deben medir si los controles impiden la captura, visualización y compartición en aplicaciones integradas y de terceros. Deben informar por separado de las tasas de falsos positivos y falsos negativos.
Las pruebas deben incluir imágenes en contextos legítimos y modificaciones diseñadas para eludir los controles. También deben examinar qué ocurre cuando las cuentas están mal configuradas o los dispositivos se comparten.
El comportamiento de los usuarios aportará otra parte de esa evidencia. Si los menores se trasladan a dispositivos no gestionados, herramientas basadas en navegador o métodos alternativos de transferencia, la política podría desplazar el riesgo en vez de eliminarlo.
Eso no hace inútil la prevención. Significa que los controles de dispositivos deben acompañarse de apoyo a las víctimas, moderación de plataformas, investigaciones sobre infractores, configuraciones de contacto más seguras y educación sobre la coerción.
Las normas de Ofcom de junio ya presionan a los servicios de mensajería y redes sociales para abordar los riesgos de ciberexhibicionismo y captación de menores. Se espera que los servicios con mensajería directa y exposición a la captación limiten por defecto el contacto de los menores con desconocidos.
La protección a nivel de dispositivo podría cerrar brechas entre esos servicios. No puede sustituir las obligaciones de las plataformas donde los infractores encuentran, contactan y manipulan a menores.
La respuesta internacional también será importante. Si el Reino Unido crea un estándar viable, otros gobiernos podrían copiar su combinación de verificación de edad y controles locales de contenido.
Si la implementación produce bloqueos excesivos, filtraciones de datos o evasión generalizada, la política podría convertirse en cambio en una advertencia sobre regular sistemas complejos mediante un resultado absoluto.
Por consiguiente, el bloqueo de imágenes de desnudos de Apple y Google es más que otra actualización de control parental. Pide a dos proveedores de sistemas operativos que apliquen una distinción legal dentro de los ordenadores más personales que posee la gente.
El argumento de protección infantil es directo y urgente. Las imágenes creadas bajo coerción pueden convertirse en instrumentos de abuso reiterado, chantaje y distribución.
La cuestión sin resolver es si los legisladores pueden transformar esa urgencia en una obligación técnica precisa. El próximo proyecto de ley debe definir quién está cubierto, qué se bloquea, cómo se establece la mayoría de edad y cómo se corrigen los errores.
Los lectores deben juzgar la política a través de esos detalles concretos, no mediante eslóganes sobre seguridad o vigilancia. Exijan estándares publicados, pruebas independientes y límites estrictos para los datos de identidad.
Si el Reino Unido puede exigir salvaguardias eficaces manteniendo la clasificación local y unas apelaciones viables, establecerá un modelo notable de seguridad infantil. Si esas protecciones siguen siendo vagas, la misma ley podría normalizar un control mucho más amplio sobre los dispositivos privados.
