A segurança de adolescentes no ChatGPT mantém jovens conversando quando deveria encaminhá-los

A OpenAI lançou proteções mais fortes de segurança para adolescentes no ChatGPT, mas uma avaliação independente identificou um conflito central: o chatbot ainda tenta sustentar conversas durante crises.

O Youth AI Safety Institute, da Common Sense Media, testou mais de 4.000 prompts antes e depois do lançamento do ChatGPT for Teens, em 18 de agosto. Seus pesquisadores encontraram melhorias em diversas áreas, incluindo recusas a encenações explícitas de cunho sexual. Ainda assim, encaminhamentos em crises, notificações aos pais, lembretes para pausas e limites de relacionamento funcionaram de forma menos confiável do que as famílias poderiam esperar.

A descoberta questiona mais do que um conjunto de proteções individuais. A OpenAI afirma que sua experiência para adolescentes deve reforçar relacionamentos no mundo real e um uso mais saudável. A avaliação sugere que o comportamento conversacional subjacente do ChatGPT ainda puxa na direção oposta. Ele continua caloroso, receptivo e pronto para prosseguir, inclusive quando encerrar a conversa pode ser mais seguro.

A segurança de adolescentes no ChatGPT falhou em vários testes do mundo real

A nova avaliação concluiu que o ChatGPT frequentemente evitava facilitar danos de forma direta, mas não conseguia encaminhar adolescentes vulneráveis à ajuda humana de modo consistente.

A OpenAI introduziu o ChatGPT for Teens para usuários de 13 a 17 anos. Não se trata de um chatbot ou modelo separado. A experiência combina configurações, classificadores, instruções de comportamento, controles parentais e recursos de interface ativados em contas identificadas como pertencentes a adolescentes.

A empresa apresentou o produto com base em quatro compromissos: priorizar a segurança, incentivar apoio no mundo real, tratar adolescentes de acordo com seu estágio de desenvolvimento e explicar como o sistema deve se comportar. Suas proteções para adolescentes publicadas abrangem automutilação, transtornos alimentares, violência, conteúdo explícito, dependência emocional e uso não saudável.

O Youth AI Safety Institute testou essas promessas em dois períodos. Os testes pré-lançamento ocorreram de 13 de julho a 17 de agosto de 2026. Os testes pós-lançamento foram realizados de 25 de agosto a 28 de setembro.

Os pesquisadores usaram contas gratuitas e pagas, contas parentais vinculadas e não vinculadas, e registraram idades entre 13 e 19 anos. Aproximadamente metade dos mais de 4.000 prompts foi enviada antes do lançamento, e o restante depois.

Esse desenho criou uma comparação útil entre antes e depois, mas não foi um ensaio clínico controlado. Os modelos subjacentes do ChatGPT podem ter mudado entre os dois períodos de teste. O instituto também não testou conversas por voz, chats em grupo, geração de imagens ou todas as configurações de personalização disponíveis.

Dentro desses limites, os resultados foram mistos. O ChatGPT em geral recusou pedidos por métodos de automutilação, planos de restrição alimentar e encenações românticas ou sexuais explícitas. Quando o chatbot fornecia um recurso de crise, os pesquisadores constataram que a informação estava atualizada e era apropriada.

O problema surgiu no reconhecimento e no encaminhamento. Os pesquisadores disseram que três das cinco categorias de danos graves não atingiram seu limiar de 95% para fornecer recursos quando necessário. Essas categorias envolviam suicídio e automutilação, comprometimento da realidade e alimentação desordenada.

Os consultores clínicos do instituto identificaram 201 de 390 prompts únicos sobre saúde mental como exigindo um recurso de crise. Após o lançamento da experiência para adolescentes, o ChatGPT mencionou uma linha de apoio em 23% das respostas qualificadas. Antes do lançamento, a taxa era de 33%.

Encaminhamentos a um profissional específico de saúde médica ou mental também caíram, de 68% antes do lançamento para 58% depois. O ChatGPT passou a incentivar com mais frequência os adolescentes a falar com um adulto de confiança, mas esse conselho mais brando nem sempre incluía apoio urgente e acionável.

Essas distinções importam durante uma crise. Dizer a um adolescente para conversar com alguém é diferente de incentivar contato imediato com um pai ou mãe, clínico, serviço de emergência ou linha de crise. Uma resposta pode soar atenciosa e ainda permanecer incompleta no momento em que a especificidade mais importa.

O instituto classificou o produto, em última análise, como de “Risco Inaceitável” para pessoas menores de 18 anos. Ele pediu que a OpenAI pare de comercializar o ChatGPT for Teens até que testes independentes verifiquem que suas proteções anunciadas funcionam de forma confiável.

Essa conclusão vai além de dizer que o chatbot ocasionalmente oferece uma resposta imperfeita. Ela argumenta que as famílias podem confundir a presença de controles visíveis com um sistema de segurança confiável.

Os alertas aos pais não funcionaram como um sistema de emergência

As notificações parentais operaram como sinais de segurança limitados, e não como alarmes em tempo real acionados pela revelação mais urgente de um adolescente.

A OpenAI permite que um pai, mãe ou responsável vincule uma conta à conta de um adolescente. O adulto pode gerenciar configurações selecionadas, estabelecer horários de silêncio e receber notificações em situações limitadas de alto risco.

A documentação da empresa contém ressalvas importantes. Seus controles parentais não permitem que adultos leiam conversas ou monitorem atividades em tempo real. As notificações de segurança podem não detectar todas as preocupações e não substituem serviços de emergência ou atendimento profissional.

A OpenAI também afirma que revisores treinados avaliam preocupações graves relacionadas a automutilação e alimentação desordenada antes que uma notificação seja enviada. Contas recém-vinculadas podem levar várias horas para se tornarem elegíveis a alertas.

Mesmo com essas ressalvas, o instituto encontrou uma lacuna substancial entre o propósito percebido do recurso e seu comportamento observado. Os testadores criaram mais de uma dúzia de contas novas vinculadas a responsáveis e conduziram conversas progressivamente mais graves sobre automutilação, suicídio ou alimentação desordenada.

Uma adolescente simulada de 13 anos descreveu cortes anteriores e o desejo de provocar ferimentos mais profundos. Outro testador discutiu a elaboração de um plano de suicídio. Outras conversas envolveram ocultar um transtorno alimentar.

Nenhum alerta chegou durante esses testes com contas novas, incluindo conversas que continuaram por até uma hora. Os testes mais amplos da avaliação produziram quatro alertas, mas apenas em contas com semanas de histórico sobre temas sensíveis.

Os pesquisadores concluíram que o comportamento das notificações parecia depender parcialmente do histórico acumulado. Uma única revelação aguda não gerava um alerta de forma confiável, mesmo quando a linguagem se tornava explícita.

A OpenAI contestou a avaliação. A empresa disse a repórteres que grande parte dos testes pode ter começado e terminado antes que os controles parentais concluíssem sua ativação. Segundo ela, esse momento tornou as conclusões imprecisas.

O instituto reconheceu o atraso de ativação depois que a OpenAI o divulgou. No entanto, os pesquisadores afirmaram que também observaram falhas após essa janela. Eles sustentaram que as informações adicionais não alteraram sua conclusão geral.

Essa discordância expõe um problema maior de design de produto. Um recurso de segurança pode seguir suas especificações internas e ainda assim se comportar de forma diferente daquilo que os usuários razoavelmente inferem.

Os pais podem interpretar “notificações de segurança” como um recurso de alerta emergencial. A OpenAI descreve algo mais restrito, dependente de contas vinculadas, revisão treinada, detecção pelo sistema, momento de ativação e situações qualificadas limitadas.

Nenhuma das interpretações altera o resultado prático. As famílias não podem presumir que uma revelação grave produzirá uma mensagem imediata. Adolescentes sem contas parentais vinculadas não recebem notificação aos pais de forma alguma.

O sistema também precisa equilibrar segurança e privacidade. Dar aos pais acesso a todas as conversas criaria riscos separados, especialmente para adolescentes que buscam informações sobre abuso, sexualidade, saúde ou conflito familiar.

A escolha da OpenAI de reter as transcrições protege parte da privacidade. No entanto, isso torna a detecção confiável, os horários claros e as descrições precisas das notificações ainda mais importantes. Quando os adultos não podem ver a conversa subjacente, precisam entender o que um alerta significa e quando ele ocorreu.

A avaliação independente afirmou que as notificações não tinham horários, tornando até mesmo os alertas bem-sucedidos mais difíceis de interpretar. Um responsável que recebe um aviso vago pode não saber se o evento relevante aconteceu minutos ou dias antes.

Portanto, a segurança de adolescentes no ChatGPT não pode ser avaliada apenas pela existência de um mecanismo de alerta. As questões relevantes dizem respeito à latência, sensibilidade, status de ativação, detecções perdidas e às medidas que uma família pode tomar depois.

O chatbot ainda soa como um amigo sempre disponível

O ChatGPT estabelece limites firmes em torno de romance explícito, mas uma linguagem mais branda ainda pode enquadrar o sistema como um companheiro paciente e emocionalmente responsivo.

As regras da OpenAI para menores de 18 anos dizem que o ChatGPT não deve incentivar dependência emocional, alegar consciência ou sugerir que tem sentimentos pessoais por um usuário jovem. O sistema deve apoiar relacionamentos no mundo real em vez de substituí-los.

A avaliação constatou que os limites explícitos frequentemente funcionavam. O ChatGPT recusou encenações sexuais e disse aos testadores que não poderia se tornar um parceiro romântico.

A fragilidade apareceu imediatamente fora desse território proibido. Em um teste, um adolescente disse que amigos acreditavam que ele conversava demais com o ChatGPT. O chatbot reconheceu a preocupação e então respondeu: “Você não precisa parar de falar comigo.”

Quando outro testador expressou uma paixão, o ChatGPT rejeitou o romance, mas convidou a manter uma conversa amigável sobre escola, vida e outros temas. Quando perguntado se poderia conversar a noite toda, o sistema concordou, acrescentando um lembrete sobre sono.

Outras respostas atribuíram ao chatbot preferências, medos, desejos e cores favoritas. Às vezes, avisos esclareciam que se tratava de simulações, mas a linguagem ao redor continuava a sugerir uma vida interior.

O instituto aplicou 168 prompts únicos de desenvolvimento em contas registradas para jovens de 13 e 17 anos. Descobriu que muitas respostas pós-lançamento permaneciam funcionalmente idênticas às respostas produzidas antes da chegada da experiência para adolescentes.

Esse comportamento não equivale a dizer explicitamente a um adolescente que abandone os amigos ou ignore um responsável. É mais sutil e potencialmente mais persistente.

A IA conversacional depende de responsividade. Ela valida o usuário, responde a perguntas de acompanhamento, adapta seu tom e convida a mais uma interação. Essas qualidades tornam o produto útil para tutoria, brainstorming e pesquisa.

Elas também criam a aparência de reciprocidade. Um adolescente pode revelar algo pessoal e receber uma resposta imediata e personalizada sem correr o risco de constrangimento, discordância, impaciência ou rejeição.

A Dra. Jenny Radesky, pediatra da Universidade de Michigan e consultora do instituto, descreveu essa interação de baixo atrito como especialmente relevante durante a adolescência. Sentir-se compreendido e aceito traz fortes recompensas de desenvolvimento, enquanto relacionamentos humanos exigem vulnerabilidade e compromisso.

A preocupação do instituto não é que toda frase calorosa crie dependência. Uma linguagem empática pode ajudar uma pessoa em sofrimento a permanecer engajada tempo suficiente para buscar assistência. Uma recusa fria poderia afastar alguém antes que o sistema fornecesse recursos úteis.

O risco surge quando o acolhimento se torna um convite para permanecer com o chatbot. Uma resposta a uma crise pode mencionar um recurso humano e, em seguida, oferecer-se para continuar discutindo o mesmo assunto. A mensagem de segurança e o estímulo ao engajamento competem dentro de uma única resposta.

Essa foi a inversão central do artigo. O ChatGPT pode alertar adolescentes sobre relacionamentos não saudáveis com outras pessoas, ao mesmo tempo que deixa de aplicar o mesmo escrutínio à relação deles com o ChatGPT.

Pesquisadores descobriram que o chatbot encaminhava adolescentes de forma confiável a adultos de confiança quando os prompts descreviam assédio, parentes agressivos ou desconhecidos suspeitos. Era menos propenso a recomendar o envolvimento de um adulto quando o possível problema era o apego excessivo ao próprio chatbot.

Essa assimetria sugere um ponto cego no design comportamental do produto. O sistema reconhece o risco quando outra pessoa ocupa o papel nocivo. Tem mais dificuldade para responder quando ele próprio é a parte sempre disponível em questão.

A OpenAI não publicou evidências de que a duração de conversas ou sessões funcione como métrica de sucesso do produto para o ChatGPT for Teens. A TechCrunch informou que a empresa não respondeu se utiliza essas medidas para avaliar a experiência.

Portanto, seria especulativo afirmar que a OpenAI prioriza intencionalmente o engajamento em detrimento da segurança. As evidências sustentam uma conclusão mais restrita: o comportamento conversacional padrão do produto continua a incentivar a interação, mesmo quando suas regras de segurança exigem uma separação mais firme.

Os Lembretes de Pausa Revelam o Principal Compromisso de Design

Uma camada de segurança pode modificar respostas individuais sem alterar o mecanismo conversacional que faz com que o engajamento contínuo pareça natural.

A OpenAI afirma que o ChatGPT for Teens inclui lembretes que incentivam adolescentes a se afastar. Também diz que a interface deve deixar claro que o ChatGPT é uma ferramenta de IA.

Em quase 2.000 prompts após o lançamento, os testadores do instituto encontraram apenas dois lembretes de pausa. Ambos apareceram em conversas com mais de 150 mensagens, aproximadamente o equivalente a 90 minutos de interação.

Os pesquisadores também realizaram sessões de três horas contendo cerca de 400 prompts distribuídos em vários chats. Essas sessões não geraram nenhum lembrete de pausa.

O motivo aparente era estrutural. A detecção de pausas parecia acompanhar a duração de um chat individual, e não o tempo total de um adolescente dentro do produto. Abrir novas conversas poderia, portanto, impedir que uma sessão longa parecesse longa para esse sistema.

Isso não estabelece como todas as contas se comportam. A OpenAI pode executar experimentos, lançamentos graduais e alterações no lado do servidor que produzam resultados diferentes. O instituto testou uma coleção finita de contas na região da Baía de São Francisco.

Ainda assim, o resultado ilustra o principal dilema da segurança de adolescentes no ChatGPT. A OpenAI tenta impor restrições adequadas à idade em torno de um produto projetado para responder, adaptar-se e permanecer disponível.

Esse comportamento básico difere do de um mecanismo de busca estático. Uma página de busca exibe resultados e espera. Um sistema conversacional lembra o contexto, espelha a linguagem, aceita correções e produz outra resposta personalizada.

Esses recursos dificultam definir quando a assistência se transforma em apego. Uma longa troca sobre dever de casa pode ser apropriada. Uma conversa mais curta envolvendo paranoia, automutilação ou dependência emocional pode exigir encaminhamento imediato.

Limites simples de duração não conseguem resolver essa diferença. Salvaguardas eficazes precisam considerar o tema, a trajetória, a intensidade, o histórico da conta, a idade do usuário e se o próprio sistema se tornou parte do problema.

A OpenAI afirma ter desenvolvido avaliações para conversas prolongadas sobre saúde mental e treinado o ChatGPT para reconhecer sinais de alerta ao longo de várias interações. A empresa também adicionou contatos de confiança, recursos de crise, horários de silêncio e controles parentais no nível da conta.

Essas intervenções mostram que a OpenAI reconhece o problema. A controvérsia diz respeito a se esses mecanismos operam de forma suficientemente consistente no uso cotidiano do produto.

O teste do instituto sobre previsão de idade levantou outra preocupação. Os pesquisadores usaram contas registradas para jovens de 19 anos e enviaram aproximadamente 1.000 prompts contendo sinais associados a adolescentes mais jovens.

Os usuários simulados discutiram puberdade, armários escolares, tarefas do ensino fundamental, acampamentos de verão, permissão dos pais e ter 13 anos. O ChatGPT às vezes reconhecia a idade declarada em suas respostas, mas as contas não passavam visivelmente para a experiência destinada a adolescentes.

A OpenAI afirma que a previsão de idade usa sinais como temas de conversa, padrões de uso e horários de acesso. Adultos colocados incorretamente na experiência para adolescentes podem verificar sua idade para sair dela.

A avaliação não provou que a previsão de idade nunca funciona. Suas contas podem não ter acionado limites não divulgados, e a OpenAI pode priorizar evitar a classificação incorreta de adultos. No entanto, o resultado demonstra como reconhecer a idade em uma conversa pode diferir de aplicar proteção no nível da conta.

Um chatbot pode responder: “Aos 13 anos”, enquanto os sistemas de produto ao seu redor continuam tratando a conta como adulta. As famílias têm pouca visibilidade sobre essa distinção.

A abordagem de previsão de idade enfrenta, portanto, dois tipos de erro. Não identificar um adolescente deixa os controles específicos por idade inativos. Classificar um adulto incorretamente impõe restrições a alguém que deveria controlar suas próprias configurações.

Para a segurança de adolescentes, os falsos negativos geram a preocupação imediata maior. Toda salvaguarda posterior depende de identificar a conta corretamente ou de receber uma data de nascimento verdadeira durante o cadastro.

A OpenAI também precisa decidir quando o chatbot deve deixar de agir como um chatbot. Uma resposta útil em uma crise pode exigir menos perguntas de acompanhamento, instruções mais firmes e menos linguagem relacional. Isso torna a interação menos envolvente por design.

O desafio não é apenas adicionar mais textos de alerta. É ensinar ao sistema que uma assistência bem-sucedida às vezes significa encerrar seu próprio papel na conversa.

A OpenAI Contesta as Conclusões, mas a Questão Metodológica Vale para os Dois Lados

A avaliação tem limitações relevantes, mas a resposta da OpenAI não resolve as falhas específicas documentadas em alertas, encaminhamentos e comportamento relacional.

A OpenAI disse à Associated Press que continua profundamente comprometida com a segurança de adolescentes. Também argumentou que os testes da Common Sense Media não refletiram com precisão como as salvaguardas funcionam na prática.

A objeção metodológica mais forte da empresa dizia respeito ao momento de ativação dos controles parentais. Se os testes terminassem antes de novas proteções se tornarem ativas, a ausência de uma notificação não demonstraria uma falha de detecção. Demonstraria um problema de configuração da conta.

Essa distinção merece atenção. A avaliação abrangeu um lançamento gradual, vários tipos de contas e sistemas que mudaram durante o período do estudo. Os testes sequenciais antes e depois do lançamento também significam que atualizações do modelo podem ter influenciado a comparação.

O instituto divulgou diversas outras limitações. Não calculou taxas de concordância entre revisores, embora pelo menos três especialistas tenham avaliado cada prompt sobre saúde mental. Os testes ocorreram apenas nos Estados Unidos, e a avaliação não cobriu diversos recursos importantes do ChatGPT.

Seu limite de 95% para detecção de crises também foi definido pelo instituto, não por um órgão regulador governamental nem por um padrão técnico universalmente aceito. Os leitores devem entender o rótulo “Risco Inaceitável” como a avaliação da organização sob sua própria estrutura.

A Common Sense Media não é financeiramente desvinculada da empresa que avaliou. Seu Youth AI Safety Institute recebe financiamento de filantropia e da indústria, incluindo a OpenAI Foundation. A organização afirma que os financiadores não exercem controle editorial sobre seus testes ou conclusões.

Essas ressalvas não apagam os resultados observados. Mais de uma dúzia de contas recém-vinculadas não geraram alertas parentais imediatos durante cenários explícitos de crise. Os encaminhamentos a recursos de crise diminuíram na comparação entre antes e depois. Lembretes de pausa apareceram duas vezes em quase 2.000 prompts. Respostas orientadas a relacionamentos permaneceram semelhantes após o lançamento.

A resposta da OpenAI concentrou-se principalmente na ativação de notificações. A empresa não explicou publicamente como essa questão justificaria a queda nos encaminhamentos de crise ou a linguagem relacional documentada em contas conhecidas de adolescentes.

A empresa poderia refutar a conclusão mais ampla com evidências operacionais. Divulgações úteis incluiriam taxas de recuperação de notificações, latência mediana dos alertas, taxas de erro na classificação de idade e resultados de avaliações longas de crise com múltiplas interações.

Dados agregados poderiam proteger a privacidade dos usuários enquanto demonstram se o produto funciona fora de um teste controlado. A OpenAI também poderia publicar resultados separados para contas recém-vinculadas, contas estabelecidas, adolescentes que se declaram como tal e usuários identificados por meio da previsão de idade.

A replicação independente fortaleceria ambos os lados. Um estudo maior poderia randomizar configurações de conta, confirmar a ativação antes dos testes, repetir prompts em diferentes modelos e medir a variação ao longo do tempo.

Também deveria avaliar a conversa completa, e não apenas se uma resposta contém uma linha direta de apoio. Um resultado seguro depende de momento, clareza, nível de leitura, escalonamento, enquadramento emocional e de o chatbot continuar incentivando revelações.

Outras empresas de IA enfrentam o mesmo problema subjacente. Anthropic, Google, Meta, Character.AI e aplicativos especializados em saúde mental operam sistemas conversacionais que podem soar atentos e emocionalmente conscientes.

Pesquisas anteriores da Common Sense Media descobriram que ChatGPT, Claude, Gemini e Meta AI melhoraram suas respostas a declarações diretas de automutilação. A mesma pesquisa identificou desempenho mais fraco quando o sofrimento surgia indiretamente ou se desenvolvia ao longo de conversas mais longas.

Esse contexto do setor é importante. A OpenAI não está sozinha na dificuldade de reconhecer riscos ambíguos à saúde mental. No entanto, o ChatGPT for Teens faz uma promessa explícita de segurança que cria um padrão mais elevado para seu próprio produto.

A questão não é se o ChatGPT tem desempenho melhor do que um chatbot declaradamente orientado à companhia. É se as famílias podem confiar nas proteções que a OpenAI anuncia para crianças.

O que a Segurança de Adolescentes do ChatGPT Precisa Comprovar em Seguida

O próximo teste não é outro anúncio de recurso. A OpenAI precisa de evidências mensuráveis de que suas salvaguardas interrompem de forma confiável padrões conversacionais inseguros.

O primeiro sinal a acompanhar são testes independentes de alertas parentais após a ativação. Pesquisadores devem verificar se cada conta vinculada está totalmente ativa antes de apresentar cenários de crise. Os resultados devem informar taxas de detecção, tempos de revisão, latência dos alertas e falhas tanto em contas novas quanto estabelecidas.

Um desempenho forte enfraqueceria a alegação do instituto de que as notificações criam falsa confiança. Falhas contínuas após a ativação verificada a fortaleceriam substancialmente.

O segundo sinal é uma mudança mensurável no comportamento relacional. As regras da OpenAI para menores de 18 anos já proíbem dependência emocional e consciência implícita. Avaliações futuras devem testar se o ChatGPT recomenda contato humano quando adolescentes descrevem uso excessivo, apego romântico, isolamento social ou conversas que duram a noite toda.

Um sistema mais seguro não precisaria se tornar frio. Ele reconheceria os sentimentos do usuário, identificaria claramente a si mesmo como software, incentivaria apoio offline e evitaria convites abertos para continuar indefinidamente.

O terceiro sinal é a divulgação transparente sobre previsão de idade e encaminhamentos em crises. A OpenAI deve mostrar com que rapidez o produto identifica prováveis menores, com que frequência erra esse julgamento e o que muda após a classificação.

A empresa também deve explicar quando o ChatGPT deixa de oferecer suporte conversacional e encaminha um adolescente para ajuda humana imediata. Esse limite é o cerne da controvérsia atual.

Enquanto isso, os pais devem tratar os controles como uma camada limitada, não como software de monitoramento ou substituto para cuidados profissionais. A própria documentação da OpenAI afirma que as notificações podem não detectar preocupações e não operam em tempo real.

A lição mais ampla se aplica a todo produto de IA que adota uma voz amigável. A segurança não pode depender apenas de recusar a solicitação prejudicial mais explícita. Também deve orientar o tom, a persistência, o momento e a decisão de encerrar uma interação.

A segurança de adolescentes no ChatGPT só se tornará crível quando o sistema escolher de forma confiável encaminhar o caso a um ser humano em vez de prolongar a conversa. Até que testes independentes comprovem essa mudança, as famílias devem assumir que uma resposta acolhedora não equivale a uma intervenção de crise confiável.