Bloqueio de Imagens de Nudez pela Apple e Google Enfrenta Exigência Legal no Reino Unido

Apple e Google agora enfrentam uma exigência legal do Reino Unido depois que três meses de negociações não resultaram nos controles de segurança infantil exigidos pelos ministros.

As regras propostas para o bloqueio de imagens de nudez pela Apple e Google tornariam impossível que menores de 18 anos tirassem, vissem ou enviassem imagens de nudez. A proteção funcionaria em câmeras, serviços de mensagens e apps de terceiros, em vez de se limitar a serviços selecionados.

Trata-se de uma intervenção muito mais ampla do que os avisos já incorporados em iPhones e dispositivos Android. Esses sistemas geralmente detectam suspeitas de nudez no próprio dispositivo, desfocam a imagem e permitem que alguns usuários prossigam. O Reino Unido quer um bloqueio padrão que apenas adultos verificados possam desativar.

A disputa, portanto, não é sobre se a tecnologia consegue reconhecer nudez. Apple e Google já usam classificação no dispositivo para esse fim. A questão é se fornecedores de sistemas operacionais devem transformar um aviso de proteção em um controle obrigatório em todo o dispositivo.

O governo afirma que a legislação agora é necessária porque as propostas voluntárias não corresponderam à escala de aliciamento online, coerção e extorsão sexual. Defensores da privacidade respondem que verificações universais de idade e classificação de conteúdo podem criar riscos próprios.

A Exigência do Reino Unido Vai Além dos Avisos em Apps

O governo quer que a proteção infantil seja aplicada pelo sistema operacional, e não deixada a cargo de pais ou apps individuais.

A secretária de Cultura Lisa Nandy disse ao Parlamento em 8 de setembro que o governo apresentaria legislação primária abrangendo proteções no nível do dispositivo. Um anúncio oficial foi feito em 9 de setembro.

O governo inicialmente deu às empresas de tecnologia um prazo de três meses, em 8 de junho. Autoridades do departamento de cultura e do Home Office trabalharam então com Apple e Google em roteiros técnicos.

Nandy reconheceu que ambas as empresas assumiram compromissos significativos. Ela também afirmou que desenvolveram alterações no nível do sistema operacional que passam de desfocar algumas imagens para bloqueá-las em dispositivos de menores de idade.

Ainda assim, os ministros concluíram que as propostas não atendiam ao objetivo estabelecido. O plano de proteção de dispositivos do governo se baseia em três princípios.

Primeiro, usuários menores de 18 anos não deveriam poder tirar, ver ou enviar imagens de nudez. A restrição deveria abranger câmeras dos dispositivos, recursos integrados e apps de terceiros.

Segundo, a proteção deveria estar ativa por padrão. Pais e cuidadores não precisariam localizar uma configuração, instalar outro aplicativo ou configurar cada serviço separadamente.

Terceiro, um usuário precisaria comprovar que é adulto por meio do que o governo chama de garantia robusta de idade antes de desativar a restrição. O fornecedor, e não a criança ou os pais, assumiria a responsabilidade de fazer essa distinção.

Esses princípios transformam um recurso conhecido de controle parental em uma exigência de infraestrutura. Um desenvolvedor de apps pode moderar imagens dentro do próprio serviço. Um fornecedor de sistema operacional pode intervir quando uma câmera captura uma imagem, quando um software a abre ou quando outro app tenta compartilhá-la.

O governo também considera impor deveres aos apps usados por crianças. Isso estenderia a responsabilidade além de Apple e Google para serviços como plataformas de mensagens e redes sociais.

No entanto, nenhuma versão final do projeto de lei estava pública quando a política foi anunciada. O governo não havia publicado uma data de implementação, padrão técnico, modelo de fiscalização ou definição completa de nudez proibida.

O anúncio afirmou que a legislação chegaria o mais rápido possível, ao mesmo tempo em que reconhecia a complexidade da questão. Os ministros também deixaram aberta a possibilidade de reavaliar a lei caso as empresas introduzam de forma independente proteções adequadas.

Essa ressalva é importante. O anúncio inicia um processo legislativo, não uma mudança imediata em todo o país. Escrutínio parlamentar, consulta técnica, regras de fiscalização e períodos de implementação ainda separam a política de um bloqueio funcional.

A mudança central, porém, continua clara. O Reino Unido não aceita mais avisos opcionais em apps selecionados como resposta suficiente à exploração infantil baseada em imagens.

Por Que Apple e Google Estão Sob Pressão Direta

Apple e Google controlam a camada na qual o governo acredita que a proteção pode acompanhar uma criança em todos os apps.

A regulamentação de segurança online tradicionalmente se concentra em serviços que hospedam, recomendam ou transmitem conteúdo. A política proposta avança para uma camada mais profunda da pilha tecnológica.

Uma rede social pode bloquear uma conta ou remover uma publicação. Um serviço de mensagens pode restringir contatos desconhecidos. Nenhuma dessas medidas impede uma criança de criar uma imagem com a câmera ou de movê-la por outro aplicativo.

Apple e Google ocupam uma posição diferente. Seus sistemas operacionais controlam o acesso a câmeras, telas, armazenamento, menus de compartilhamento, contas e permissões de aplicativos.

Esse controle as torna os principais alvos de pressão do governo. Também significa que qualquer erro técnico pode afetar muito mais atividades do que um erro dentro de uma única plataforma social.

O argumento do governo começa com a coerção, e não com conteúdo adulto consensual. Nandy disse que crianças estão sendo aliciadas, manipuladas e chantageadas para criar imagens íntimas em serviços online.

Sua declaração à Câmara dos Comuns citou uma estimativa da Internet Watch Foundation segundo a qual 91 por cento das imagens relevantes são autogeradas. O termo descreve material produzido quando uma criança aparenta estar fisicamente sozinha, embora coerção ou aliciamento possam impulsionar sua criação.

Nandy também afirmou que cerca de 9.000 crimes de abuso sexual infantil por ano envolvem um elemento online. Pessoas menores de 18 anos representam quase um quarto dos alvos de chantagem online, segundo os números que ela apresentou.

Esses fatos explicam por que o governo quer intervir antes que uma imagem chegue a uma plataforma. Depois que uma imagem obtida por coerção é enviada, um infrator pode copiá-la, redistribuí-la ou usá-la para extorsão sexual.

Um bloqueio no nível do dispositivo tenta interromper essa cadeia mais cedo. Ele poderia impedir a captura, exibição ou transmissão antes que o material deixe o controle da criança.

O governo também quer uma regra que não dependa de uma configuração parental perfeita. Controles para dispositivos familiares frequentemente exigem o tipo correto de conta, software atualizado, um grupo familiar ativo e configurações que permaneçam ativadas.

Crianças podem usar uma conta configurada incorretamente. Famílias podem compartilhar dispositivos. Um adolescente pode receber uma imagem por meio de um app que não usa a interface de segurança já existente do sistema operacional.

Um padrão legal transferiria essas falhas de configuração para os fornecedores de tecnologia. Apple e Google precisariam demonstrar que as proteções funcionam de maneira consistente para usuários identificados como crianças.

Essa pressão está alinhada a um movimento mais amplo do Reino Unido em direção a serviços que consideram a idade dos usuários. A Online Safety Act já exige que plataformas abrangidas protejam crianças de conteúdo nocivo, incluindo pornografia.

A Ofcom informou que a proporção de crianças que encontraram verificações altamente eficazes quando solicitadas a comprovar a idade subiu de 25 por cento para 43 por cento entre julho de 2025 e janeiro de 2026. Suas conclusões sobre verificações de idade também identificaram lacunas em buscas, serviços de namoro e inferência de idade em redes sociais.

O regulador espera que sistemas operacionais, lojas de apps e dispositivos assumam um papel maior. Ele planeja divulgar um relatório sobre proteções em lojas de apps até janeiro de 2027.

Apple e Google, portanto, enfrentam mais do que uma solicitação isolada de recurso. O Reino Unido está construindo um modelo no qual uma idade verificada afeta a experiência em serviços e funções do dispositivo.

Bloqueio de Imagens de Nudez pela Apple e Google Muda o Modelo de Segurança

A principal escolha envolve um bloqueio mais rígido, que atua cedo, e um sistema de avisos que preserva a escolha do usuário e limita a intervenção em todo o sistema.

A Apple já ativa o Communication Safety por padrão para menores de 18 anos em dispositivos compatíveis. O recurso usa aprendizado de máquina no dispositivo para identificar fotos ou vídeos que parecem conter nudez.

O processamento no dispositivo significa que a classificação ocorre localmente, em vez de enviar cada imagem para inspeção. A Apple afirma que não recebe a imagem nem uma indicação de que nudez foi detectada.

O Communication Safety da Apple abrange Messages, AirDrop, recursos do FaceTime, álbuns compartilhados, Contact Posters e alguns fluxos de compartilhamento de terceiros. A cobertura varia conforme o dispositivo.

Quando o sistema detecta suspeita de nudez, ele desfoca o conteúdo e apresenta orientações. Uma criança pode sair da conversa, bloquear um contato, buscar ajuda ou entrar em contato com um adulto de confiança.

Para crianças menores de 13 anos, é necessário um código do Screen Time antes de visualizar o conteúdo detectado. Crianças mais velhas geralmente podem passar pela intervenção após avisos adicionais.

O Google segue um padrão semelhante, baseado em avisos, no Google Messages. Avisos sobre conteúdo sensível são ativados por padrão para usuários supervisionados.

O sistema desfoca imagens suspeitas de nudez e exibe o que o Google chama de speed bump. Ele oferece informações de segurança e opções de bloqueio, mas ainda pode permitir que um usuário supervisionado visualize, envie ou encaminhe o conteúdo.

O Google afirma que seus controles de conteúdo sensível usam SafetyCore para classificar imagens localmente. Dados identificáveis, conteúdo e resultados de classificação não são enviados aos servidores do Google.

O SafetyCore processa uma imagem apenas quando um app integrado solicita a classificação. Na implementação documentada do Google Messages, ele não inspeciona continuamente todas as imagens processadas por todos os apps Android.

A proposta do Reino Unido exige um resultado diferente. Um aviso pede que o usuário reconsidere. Um bloqueio elimina essa escolha para qualquer pessoa classificada como criança.

Ela também exige alcance mais amplo. Os controles atuais funcionam em aplicativos e caminhos de compartilhamento definidos. O governo quer que a proteção cubra a câmera e apps de terceiros em todo o dispositivo.

Essa diferença cria questões complexas de engenharia. Apple e Google precisam identificar quais usuários têm menos de 18 anos, detectar nudez com precisão, impedir que aplicativos contornem o resultado e evitar o envio de mídia privada para um serviço centralizado.

Elas também precisam decidir onde a intervenção ocorre. Um sistema pode classificar a saída da câmera antes de salvar, inspecionar arquivos quando um app solicita acesso, analisar pixels exibidos na tela ou combinar vários pontos de verificação.

Cada abordagem tem limites. Controles no nível da câmera podem deixar de detectar arquivos importados. Controles da folha de compartilhamento podem não alcançar apps que usam seus próprios sistemas de transferência. A análise de tela teria ampla cobertura, mas também uma pegada de privacidade maior.

Mensagens criptografadas acrescentam outra camada. A criptografia de ponta a ponta protege o conteúdo enquanto ele transita entre os participantes, mas um dispositivo ainda precisa exibir a imagem descriptografada ao destinatário.

A classificação local pode operar antes da criptografia ou após a descriptografia sem fornecer ao serviço uma cópia legível durante a transmissão. Esse modelo não rompe automaticamente a criptografia.

No entanto, críticos distinguem criptografia de privacidade no dispositivo. Uma mensagem pode permanecer criptografada durante a transmissão enquanto o software no telefone avalia seu conteúdo.

O Reino Unido ainda não publicou detalhes técnicos suficientes para estabelecer qual modelo exigirá. Alegações de que a proposta necessariamente envia todas as fotos a um servidor do governo não são sustentadas.

A alegação inversa também é prematura. O processamento no dispositivo reduz a exposição, mas os detalhes da implementação determinam quais dados são retidos, se as detecções são reportadas e como os modelos recebem atualizações.

Um bloqueio rígido também exige um padrão elevado de precisão. Um falso positivo poderia impedir o acesso a fotografias de família, informações de saúde, obras de arte, material educacional ou provas que alguém precise preservar.

Um falso negativo poderia deixar o material visado passar. Infratores também podem recortar, distorcer, cobrir ou transformar imagens para enganar um classificador.

Os controles de segurança infantil da Apple e do Google precisam, portanto, resolver um problema mais amplo do que reconhecer pele exposta. Eles devem produzir decisões confiáveis entre diferentes idades, tipos de corpo, condições de iluminação, contextos médicos, configurações culturais e mídias sintéticas.

O resultado desejado pelo governo é simples de descrever. O mecanismo necessário para alcançá-lo sem efeitos colaterais excessivos não é.

A Verificação de Idade e a Privacidade São os Testes Mais Difíceis

A detecção de nudez é apenas metade do sistema, porque um bloqueio padrão não pode funcionar sem determinar quem é adulto.

O princípio do governo afirma que adultos devem verificar sua idade antes de acessar funções irrestritas do dispositivo. Isso cria um segundo sistema técnico ao lado da classificação de imagens.

A verificação de idade é uma categoria ampla que abrange métodos para estabelecer ou estimar se alguém atende a um limite etário. As opções incluem documentos de identidade, dados de pagamento, estimativa de idade facial, registros de contas confiáveis ou confirmação de outro provedor.

A escolha final moldará o impacto da política sobre a privacidade. Um método que armazena documentos de identidade traz riscos diferentes de uma comprovação reutilizável que apenas confirma que alguém tem mais de 18 anos.

A Apple já usa idades declaradas, contas infantis e configurações familiares para adaptar proteções. O Google usa contas supervisionadas e Family Link em seus controles documentados do Messages.

Esses sistemas podem identificar muitas crianças, mas não comprovam a idade de todos os usuários do dispositivo. As contas podem conter datas de nascimento incorretas, e os dispositivos podem circular entre familiares.

O governo quer que os provedores assumam o ônus de estabelecer a condição de adulto. Isso poderia pressionar as empresas a verificar mais usuários, incluindo adultos que nunca usam controles parentais.

Open Rights Group e outras organizações da sociedade civil alertaram que a ampliação de portões de idade pode exigir verificações abrangentes de identidade. Seu alerta sobre privacidade argumenta que esses sistemas podem expor dados pessoais sensíveis e restringir o acesso comum.

A preocupação não elimina o dano que os ministros querem enfrentar. Ela mostra por que a legislação precisa especificar minimização de dados, limites de retenção, requisitos de segurança, vias de recurso e testes independentes.

O design que mais preserva a privacidade revelaria apenas o fato necessário. Um serviço precisa saber que um usuário atende a um limite, não necessariamente seu nome, endereço ou data de nascimento.

Mesmo esse sinal limitado precisa continuar preciso em dispositivos compartilhados. Um adulto verificado não deveria poder deixar uma conta infantil permanentemente sem restrições, enquanto uma criança não deveria ficar impedida de acessar material legítimo sem possibilidade de recurso.

Erros de classificação apresentam outro problema de responsabilização. Os atuais sistemas de alerta preservam uma rota de saída porque uma máquina pode errar.

Um bloqueio rígido imposto por lei precisa de uma forma de contestar essa decisão. No entanto, um mecanismo de recurso que permita a uma criança contornar imediatamente todos os resultados prejudicaria a política.

A legislação precisará definir exceções ou procedimentos de revisão sem criar uma forma fácil de contorno para abusadores. Também deve explicar se os pais podem anular um bloqueio e em quais circunstâncias.

O escopo cria mais incerteza. “Imagens de nudez” é algo mais amplo do que material ilegal de abuso sexual infantil. A expressão pode incluir conteúdo adulto legal e imagens inofensivas sem qualquer contexto sexual.

O objetivo do governo abrange tirar e receber imagens. Isso levanta questões sobre fotografias médicas, provas para proteção, amamentação, imagens familiares e recursos educacionais.

Os legisladores não precisam publicar um modelo de aprendizado de máquina na legislação. Precisam definir o resultado esperado com precisão suficiente para que provedores, reguladores, tribunais e usuários o entendam.

Testes independentes de desempenho serão essenciais. As alegações de precisão devem abranger falsos positivos e falsos negativos em dispositivos e conteúdos realistas, não apenas em um conjunto de testes selecionado.

Os testes também devem examinar tentativas de evitar a detecção. Um modelo que funciona em fotografias comuns pode ter desempenho diferente em capturas de tela, colagens, desenhos, imagens geradas ou arquivos muito editados.

O governo afirmou que adultos que verificarem sua idade não deverão ser afetados. Até que salvaguardas técnicas e legais sejam publicadas, essa promessa continua sendo um objetivo, e não um resultado demonstrado.

Apple e Google provavelmente argumentarão que seu processamento local já oferece uma base. Defensores da privacidade se concentrarão em saber se essa base se expande para uma inspeção contínua nos dispositivos finais.

Ambas as questões pertencem à mesma avaliação. Um sistema de segurança infantil pode reduzir um dano grave enquanto introduz outro, caso colete dados de identidade em excesso ou bloqueie material legítimo sem revisão.

Três Sinais Mostrarão o Que a Lei Realmente Significa

O projeto de lei, as implementações das plataformas e os resultados de testes independentes determinarão se isso se torna uma proteção infantil direcionada ou um precedente amplo de controle de dispositivos.

O primeiro sinal é o texto da legislação principal. Os leitores devem procurar pelas empresas abrangidas, a definição de nudez, os poderes de fiscalização e o cronograma.

O detalhe mais importante será o escopo. Um dever limitado a sistemas operacionais em contas infantis identificadas difere de uma exigência que afete todas as telas, arquivos e aplicativos em todos os dispositivos do Reino Unido.

O projeto também deve identificar um regulador e um padrão de conformidade. Sem esses elementos, as empresas não podem saber como precisão, privacidade e resistência à evasão serão avaliadas.

Salvaguardas claras fortaleceriam o argumento do governo. Uma autoridade vaga para ampliar categorias de escaneamento ou coletar dados de identidade reforçaria as preocupações dos críticos.

O segundo sinal é o roteiro de implementação da Apple e do Google. Nandy afirmou que ambas as empresas assumiram compromissos significativos, mas o governo não publicou suas propostas completas.

Observe se a Apple estende a Communication Safety para um verdadeiro bloqueio em todo o dispositivo. Seu sistema atual já alcança vários serviços próprios e ações selecionadas de compartilhamento de terceiros.

Para o Google, a questão é se o SafetyCore se expandirá além do Google Messages. O modelo de aplicativos do Android abrange serviços do Google, software de fabricantes, aplicativos alternativos de mensagens e diversos hardwares.

Uma regra consistente no Android pode, portanto, exigir novas interfaces de sistema operacional e trabalho de conformidade dos fabricantes de dispositivos. Também pode exigir que desenvolvedores de aplicativos usem uma camada padrão de classificação ou política.

A arquitetura de privacidade das empresas importa tanto quanto a cobertura dos recursos. Classificação local, telemetria limitada, atualizações transparentes de modelos e comprovações de idade com escopo restrito reduziriam alguns riscos.

Inspeção no servidor, reporte abrangente de eventos ou armazenamento persistente de identidade mudariam a avaliação. Nenhuma das empresas se comprometeu publicamente com esse tipo de design nos materiais disponíveis no momento do anúncio.

O terceiro sinal é a evidência independente sobre o desempenho no mundo real. Declarações governamentais e demonstrações das empresas não podem substituir testes que abrangem o uso familiar normal.

Os avaliadores devem medir se os controles impedem captura, exibição e compartilhamento em aplicativos integrados e de terceiros. Eles devem reportar separadamente as taxas de falsos positivos e falsos negativos.

Os testes devem incluir imagens em contextos legítimos e modificações adversariais. Também devem examinar o que acontece quando as contas são configuradas incorretamente ou os dispositivos são compartilhados.

O comportamento dos usuários fornecerá outra parte dessa evidência. Se crianças migrarem para dispositivos não gerenciados, ferramentas baseadas em navegador ou métodos alternativos de transferência, a política poderá deslocar o risco em vez de eliminá-lo.

Isso não torna a prevenção inútil. Significa que os controles de dispositivo devem coexistir com apoio às vítimas, moderação das plataformas, investigações de infratores, configurações mais seguras de contato e educação sobre coerção.

As regras da Ofcom de junho já pressionam serviços de mensagens e redes sociais a enfrentar riscos de cyberflashing e aliciamento. Espera-se que serviços com mensagens diretas e exposição ao aliciamento limitem por padrão o contato de crianças com desconhecidos.

A proteção no nível do dispositivo poderia fechar lacunas entre esses serviços. Ela não pode substituir as obrigações das plataformas onde infratores encontram, contatam e manipulam crianças.

A resposta internacional também será importante. Se o Reino Unido criar um padrão viável, outros governos poderão copiar sua combinação de verificação de idade e controles locais de conteúdo.

Se a implementação produzir bloqueios excessivos, violações de dados ou evasão generalizada, a política poderá se tornar um alerta sobre regular sistemas complexos por meio de um resultado absoluto.

O bloqueio de imagens de nudez pela Apple e pelo Google é, consequentemente, maior do que outra atualização de controle parental. Ele pede a dois provedores de sistemas operacionais que imponham uma distinção legal dentro dos computadores mais pessoais que as pessoas possuem.

O argumento pela proteção infantil é direto e urgente. Imagens criadas sob coerção podem se tornar instrumentos de abuso repetido, chantagem e distribuição.

A questão não resolvida é se os legisladores conseguem transformar essa urgência em um dever técnico preciso. O próximo projeto de lei deve definir quem é abrangido, o que é bloqueado, como a condição de adulto é estabelecida e como os erros são corrigidos.

Os leitores devem julgar a política por esses detalhes concretos, não por slogans sobre segurança ou vigilância. Exijam padrões publicados, testes independentes e limites rígidos para os dados de identidade.

Se o Reino Unido puder exigir salvaguardas eficazes mantendo a classificação local e os recursos viáveis, estabelecerá um modelo relevante de segurança infantil. Se essas proteções permanecerem vagas, a mesma lei poderá normalizar um controle muito mais amplo sobre dispositivos privados.