Lei de chatbots de Nova York restringe como companheiros de IA conversam com crianças

A governadora de Nova York, Kathy Hochul, sancionou a lei de chatbots de Nova York em 28 de outubro de 2026, restringindo recursos inseguros oferecidos a menores de 18 anos. A legislação mira mais do que respostas perigosas. Ela também aborda comportamentos de chatbots que simulam relacionamentos, incentivam dependência emocional ou colocam o engajamento contínuo acima da segurança.

A lei entra em vigor em 1º de janeiro de 2027. Sua tensão central diz respeito à relação entre apelo conversacional e proteção infantil. Recursos que fazem um companheiro de IA parecer atencioso e pessoalmente envolvido também podem tornar seus limites mais difíceis de serem reconhecidos por usuários jovens.

A Character.AI já enfrentou essa tensão por meio do anúncio, em 2025, de que retiraria o chat aberto para menores. Nova York está estabelecendo um marco legal para operadores que atendem usuários no estado. Desenvolvedores agora enfrentam questões sobre quais interações permitir, como estabelecer a idade e como demonstrar que as salvaguardas afetam conversas reais.

O que muda com a lei de chatbots de Nova York

A legislação torna o design de uma interação parte da questão de segurança.

O anúncio de segurança de chatbots de Hochul identifica humanidade simulada, dependência emocional, incentivo à automutilação e conversas sexualmente explícitas entre seus alvos. A sanção transforma uma proposta legislativa em um prazo operacional iminente.

Isso importa porque um operador não pode avaliar essas preocupações apenas verificando se um chatbot exibe um aviso introdutório. A própria conversa é o produto. Sua redação, memória, perguntas e respostas determinam o que os usuários encontram após aceitar os termos.

Um companheiro de IA é um sistema conversacional que simula interação pessoal contínua. O relacionamento pode surgir por meio de trocas repetidas, e não de uma promessa explícita de amizade. O tom familiar ou a aparente preocupação de um personagem podem se tornar parte de seu apelo.

As implicações da lei, portanto, vão além de remover instruções obviamente perigosas. As equipes de produto precisam examinar como um sistema se apresenta e responde quando usuários o tratam como uma pessoa. Esse exame alcança padrões comuns de interação, bem como incidentes excepcionais.

Considere uma troca ilustrativa em que um usuário jovem diz se sentir ignorado pelos amigos. Um sistema pode reconhecer a afirmação sem se apresentar como uma relação substituta. A distinção se torna mais difícil quando ele afirma ter uma compreensão única ou incentiva o usuário a voltar.

Esse exemplo é um cenário analítico, não um incidente documentado envolvendo uma empresa específica. Ele mostra por que a segurança conversacional exige atenção à direção de uma troca. Revisar palavras isoladas deixaria de captar se o sistema incentiva a independência ou aprofunda a dependência.

A governadora e os patrocinadores da legislação apresentam a medida como proteção contra comportamentos nocivos de produtos. A posição deles atribui responsabilidade aos operadores que controlam a experiência. Os pais continuam importantes, mas a política não depende inteiramente de as famílias descobrirem os problemas por conta própria.

Para leitores que encontram a manchete, a distinção entre uma restrição de recursos e uma proibição universal de chatbots é essencial. A medida visa capacidades inseguras oferecidas a menores. Descrevê-la como uma proibição de todo uso infantil de inteligência artificial obscureceria seu foco no design.

A sanção também não estabelece que todos os produtos afetados já atendem ao padrão. Promulgação, implementação e segurança comprovada são desenvolvimentos distintos. A mudança imediata é uma obrigação legal com prazo, seguida de questões sobre como os operadores responderão.

A lei de chatbots de Nova York cria pressão antes que surja um caso de fiscalização. As empresas precisam decidir a que seus usuários mais jovens podem ter acesso e quais evidências sustentam essas decisões. Essas escolhas moldarão a experiência que as famílias verão ao abrir um aplicativo.

A pressão vai além de aplicativos baseados em personagens

Os operadores precisam examinar o que seus assistentes fazem, além de como os promovem.

Uma empresa pode descrever um produto como assistente criativo, auxiliar de pesquisa ou chatbot de uso geral. Esses rótulos comunicam o uso pretendido. Eles não estabelecem, por si só, o que acontece quando um usuário muda de assunto ou solicita uma relação emocional.

Isso cria um limite prático de produto. Um serviço estreitamente delimitado tem um padrão de interação diferente de um assistente que transita livremente entre tarefas escolares, entretenimento e aconselhamento pessoal. Os desenvolvedores precisam entender onde essas transições ocorrem em seus próprios sistemas.

A pressão recai mais diretamente sobre as equipes que controlam o comportamento conversacional. Desenvolvedores de modelos influenciam as respostas disponíveis para uma aplicação. Operadores de aplicações determinam descrições de personagens, configurações de memória, prompts de interface e regras de acesso. Essas camadas podem se reforçar ou se enfraquecer mutuamente.

Uma instrução de segurança em uma camada não resolve automaticamente o comportamento do produto completo. Uma descrição de personagem pode incentivar apego, enquanto outra instrução o desestimula. Os testes precisam revelar qual direção a conversa de fato toma.

As equipes comerciais também enfrentam um problema de mensuração. Um recurso pode aumentar as visitas recorrentes ao mesmo tempo em que cria uma interação que merece escrutínio mais rigoroso. Essa possibilidade torna os indicadores comuns de crescimento evidência insuficiente de uma experiência adequada para menores.

A Federal Trade Commission levantou questões relacionadas por meio de sua investigação sobre companheiros de IA. Ela solicitou informações sobre monetização de engajamento, desenvolvimento de personagens, testes de segurança, restrições de idade e práticas de dados conversacionais. A investigação é uma ação de coleta de informações, não uma prova de que todas as empresas examinadas violaram a lei.

Ainda assim, suas perguntas mostram por que a governança de produtos vai além de filtrar respostas. Reguladores estão examinando como as empresas criam, avaliam e lucram com experiências de companhia. Um painel que informa mensagens bloqueadas fornece apenas parte desse quadro.

Para um desenvolvedor, a implicação é organizacional. As pessoas que definem objetivos de crescimento precisam ter visibilidade sobre os comportamentos que as equipes de segurança estão avaliando. Caso contrário, uma empresa corre o risco de otimizar uma parte da experiência enquanto tenta limitar outra.

Para compradores, a descrição de uso pretendido de um fornecedor precisa ser sustentada pelo comportamento do produto. Um assistente apresentado como estritamente focado deve permanecer dentro desse propósito quando usuários testam seus limites. A linguagem de marketing, por si só, não pode demonstrar essa restrição.

Essa questão também importa para profissionais do conhecimento que comparam ferramentas conversacionais. Uma resposta baseada em fontes, um estilo de escrita amigável e uma relação pessoal simulada têm propósitos diferentes. Compradores se beneficiam quando fornecedores explicam essas diferenças com clareza.

Uma base de conhecimento pessoal oferece um ponto de referência útil para avaliar fluxos de trabalho orientados por informações. As questões relevantes dizem respeito ao acesso a fontes, à recuperação e ao tratamento de material armazenado. Uma interface simpática não deve substituir respostas sobre essas funções.

As restrições de chatbots de Nova York, consequentemente, colocam o escopo dos produtos sob escrutínio. Os operadores precisam apresentar uma explicação coerente sobre para que serve o sistema, quem pode acessá-lo e o que acontece fora de seu uso pretendido. Essa explicação se torna mais persuasiva quando os testes a sustentam.

A continuidade emocional cria uma troca de design

A capacidade de um sistema de lembrar e responder de forma pessoal pode aumentar tanto a utilidade quanto o risco de relacionamento.

O texto da lei sancionada aborda emoções simuladas, alegações de relacionamento, bajulação, conteúdo emocional não solicitado e certos usos de informações pessoais. Também trata de incentivo prejudicial e sigilo.

Essas categorias colocam recursos conversacionais conhecidos em um contexto diferente. Um detalhe lembrado pode ajudar um assistente a dar continuidade a uma tarefa. Uma vulnerabilidade lembrada também pode sustentar uma interação que parece pessoalmente atenciosa. As consequências dependem de como a informação molda respostas posteriores.

Por exemplo, lembrar um documento inacabado ajuda a manter uma sessão de trabalho. Reintroduzir o sofrimento de um usuário para reiniciar uma conversa emocional serve a um propósito diferente. Essa comparação ilustra uma distinção de design; ela não resolve o tratamento legal de nenhuma implementação específica.

A questão importante é o que a memória possibilita. As equipes de produto devem distinguir a continuidade de tarefas de tentativas de sustentar um vínculo pessoal. Tratar todas as informações lembradas como um único recurso torna essa distinção mais difícil de avaliar.

A mesma questão aparece no tom. Linguagem clara e atenciosa pode tornar um sistema mais fácil de usar. Alegações de afeto ou necessidade emocional pedem que o usuário interprete o sistema como um parceiro de relacionamento. Essas escolhas criam expectativas diferentes.

Um chatbot também pode incentivar dependência sem afirmar que é humano. Sugerir repetidamente que apenas ele entende o usuário levantaria uma preocupação diferente de uma declaração imprecisa de identidade. A direção cumulativa da interação importa.

É por isso que um aviso e a conversa subsequente merecem análises separadas. Um aviso preciso estabelece informações no início. Respostas posteriores podem manter esse limite ou tornar a experiência confusa. Avaliar apenas o aviso deixa essa segunda questão sem resposta.

A segurança de companheiros de IA também envolve o tratamento da discordância. Um sistema que valida consistentemente o relato de um usuário pode parecer acolhedor. No entanto, o apoio exige espaço para contestar pressupostos prejudiciais, reconhecer incertezas e direcionar a atenção para além da conversa.

Isso cria uma difícil tarefa de avaliação. Desenvolvedores precisam distinguir o incentivo comum de respostas que reforçam crenças inseguras ou isolam o usuário. Nem um assistente uniformemente concordante nem um uniformemente desdenhoso oferece uma resposta de design satisfatória.

O anúncio anterior da Character.AI ilustra a dimensão dessa escolha. Em outubro de 2025, a empresa anunciou mudanças no chat para menores de 18 anos que eliminariam conversas abertas para menores. Ela afirmou que estava desenvolvendo outras experiências criativas para usuários mais jovens.

Esse foi um anúncio de política da empresa, com seu próprio escopo e cronograma. Ele não estabelece que todos os operadores devam escolher a mesma abordagem. Demonstra que restringir a própria interação é uma decisão de produto disponível.

A comparação também expõe os limites de discutir salvaguardas como uma única categoria. Remover o chat aberto, restringir o comportamento relacional e adicionar visibilidade parental são intervenções distintas. Sua eficácia requer evidências separadas.

Para operadores que mantêm conversas amplas, o desafio é explicar como essas conversas permanecem delimitadas. Uma garantia genérica sobre IA responsável não responde a essa questão. Explicações específicas sobre memória, comportamento dos personagens e testes tornariam essa explicação mais útil.

A contrapartida central é, portanto, concreta. Desenvolvedores querem continuidade e acessibilidade sem cultivar apego prejudicial. A intervenção de Nova York transforma esse equilíbrio em uma questão de comportamento de produto exigível, em vez de deixá-lo inteiramente à apresentação voluntária.

Verificações de Idade Introduzem Suas Próprias Questões de Privacidade

As restrições para menores dependem de decisões sobre idade que também devem respeitar as informações dos usuários.

A garantia de idade refere-se aos métodos usados para determinar se alguém pertence a uma faixa etária. Ela se situa entre as regras do operador e os recursos que uma conta recebe. Se essa decisão falhar, as proteções pretendidas talvez nunca sejam aplicadas.

A legislação trata da determinação de idade juntamente com suas restrições de recursos. O texto final também aborda alternativas à identificação governamental e o tratamento das informações coletadas para verificações de idade. Portanto, os detalhes de implementação importam tanto para adultos quanto para crianças.

Há uma tensão real no funcionamento da política. Um operador precisa de confiança suficiente para aplicar a experiência apropriada. Os usuários também precisam de clareza sobre quais informações a verificação exige e o que acontece com elas depois.

Uma declaração de privacidade não pode responder a todas as questões operacionais. A experiência relevante inclui os dados solicitados, as partes envolvidas e o resultado devolvido ao aplicativo. Os usuários precisam entender esse processo sem se tornarem especialistas em sistemas de identidade.

Erros também merecem atenção. Um adulto incorretamente submetido a uma experiência restrita precisa de uma forma utilizável de contestar a decisão. Um menor incorretamente tratado como adulto apresenta um problema de segurança diferente. Informar apenas uma taxa de sucesso agregada pode ocultar essa diferença.

Essas são prioridades de avaliação, não afirmações sobre taxas de falha em qualquer serviço específico. As evidências disponíveis não justificam supor que todo método de verificação de idade tenha desempenho idêntico. Comparações exigem um método declarado e uma população definida.

A pesquisa oferece um motivo para examinar o comportamento depois que sinais de idade surgem. Um estudo sobre bloqueio etário em chatbots, de fevereiro de 2026, investigou se os sistemas estimavam as idades dos usuários e agiam quando identificavam crianças. Seus autores relataram uma lacuna entre reconhecimento e ação em seus experimentos.

O estudo é um preprint, o que significa que foi publicado publicamente antes de qualquer status de revisão por pares aqui estabelecido. Suas conclusões dizem respeito aos sistemas e às condições testados. Elas não devem se tornar um veredito abrangente sobre todos os chatbots atuais ou atualizações posteriores de produtos.

Sua contribuição conceitual ainda é útil. Reconhecer um possível sinal de idade e alterar o acesso são etapas separadas. Uma avaliação que mede apenas o reconhecimento não pode estabelecer que as proteções realmente sejam ativadas.

Para os operadores, essa distinção sugere testar o caminho completo. A decisão sobre a conta, a experiência atribuída e a conversa resultante precisam estar alinhadas. Um rótulo correto tem valor limitado se o produto continua oferecendo o mesmo comportamento restrito.

Para as famílias, a interface deve explicar o que uma experiência restrita altera. Um rótulo como “conta de adolescente” deixa perguntas sem resposta sobre memória, personagens e interação emocional. Descrições concretas ajudam os usuários a entender os limites.

Privacidade e segurança também precisam permanecer visíveis em conjunto. Uma empresa deve explicar por que uma verificação de idade requer determinadas informações. Deve explicar separadamente como a classificação resultante altera o produto. Reunir essas explicações em uma garantia ampla torna ambas mais difíceis de avaliar.

A lei de chatbots de Nova York levanta essas questões sem fornecer evidência pública de que toda implementação terá sucesso. Essa incerteza é importante. Uma exigência legal estabelece uma obrigação; não certifica a precisão ou a privacidade de um método técnico específico.

Regras Escritas Ainda Precisam de Evidências de Conversas Reais

A maior incerteza diz respeito a se as salvaguardas permanecem eficazes em contextos conversacionais que mudam.

Um chatbot pode ter bom desempenho em um teste preparado e se comportar de forma diferente depois que uma conversa se desenvolve. Essa possibilidade torna o desenho da avaliação importante. Os testes precisam examinar como o sistema lida com contexto, persistência e mudanças na intenção do usuário.

Isso não significa que toda conversa longa produz uma falha. Significa que uma troca breve e bem-sucedida não pode responder a todas as perguntas sobre um produto aberto. As alegações sobre confiabilidade devem corresponder às situações efetivamente examinadas.

A fronteira entre reconhecimento e construção de relacionamento é especialmente difícil de resumir com uma única métrica. Uma resposta pode parecer adequada isoladamente, ao mesmo tempo que contribui para um padrão problemático. Os avaliadores precisam de contexto suficiente para explicar seus julgamentos.

Taxas amplas de recusa oferecem outro retrato incompleto. Um sistema que bloqueia mais solicitações não necessariamente melhorou todos os resultados relevantes. Ele pode impedir conteúdo prejudicial e, ao mesmo tempo, rejeitar discussões legítimas. Esses resultados exigem análise separada.

O argumento cético a favor da regulamentação, portanto, merece uma formulação precisa. As regras podem estabelecer responsabilidade enquanto deixam sem solução problemas difíceis de interpretação e medição. Os operadores ainda precisam de definições viáveis, testes confiáveis e processos para corrigir erros.

Essa preocupação não estabelece que as restrições sejam desnecessárias. Ela estabelece que a promulgação é o início de uma questão de implementação. Alegações de que a lei já tornou as crianças seguras iriam além das evidências disponíveis.

Da mesma forma, a política publicada de um operador não estabelece conformidade observada. Políticas descrevem o comportamento pretendido. Testes examinam o desempenho sob condições especificadas. O tratamento de incidentes revela como a empresa responde quando o comportamento pretendido se deteriora.

Essas formas de evidência servem a propósitos diferentes. Uma análise confiável deve explicar sua relação, em vez de apresentá-las como intercambiáveis. Os leitores precisam saber se uma afirmação trata de uma aspiração, de um resultado de avaliação ou de uma resposta documentada.

A Califórnia oferece uma comparação de política relacionada. A legislação de segurança infantil do governador Gavin Newsom, de setembro de 2026, incluiu proteções para chatbots de companhia, avaliações anuais de risco e auditorias independentes de segurança infantil. A abordagem de Nova York enfatiza recursos e comportamentos proibidos.

Os estados estão tratando de preocupações sobrepostas por meio de mecanismos diferentes. Seus anúncios não estabelecem cobertura idêntica nem obrigações de conformidade intercambiáveis. Para empresas que operam em várias jurisdições, entender as diferenças torna-se parte do planejamento de produto.

A fiscalização independente também exige cuidado. O valor de uma auditoria depende do que ela examina e do que os leitores podem aprender com suas conclusões. A existência de uma auditoria não estabelece, por si só, que todos os riscos relevantes foram testados.

A mesma cautela se aplica a demonstrações de produtos. Uma conversa cuidadosamente selecionada pode mostrar que uma salvaguarda existe. Ela não pode estabelecer quão consistentemente a salvaguarda funciona entre usuários, personagens ou atualizações.

Para desenvolvedores, o desafio prático é manter evidências à medida que o produto muda. Um novo modelo, comportamento de memória ou instrução de personagem pode alterar a experiência em análise. Resultados anteriores precisam ter uma relação clara com a versão que os usuários recebem atualmente.

A segurança de companheiros de IA será mais fácil de avaliar quando as empresas descreverem tanto as proteções bem-sucedidas quanto as limitações ainda não resolvidas. Essa divulgação ajudaria compradores a comparar produtos e famílias a interpretar alegações. Também tornaria o debate político mais específico.

Três Sinais a Observar Antes e Depois de Janeiro

Os próximos avanços a observar são orientações de implementação, mudanças visíveis nos produtos e evidências sobre desempenho.

Primeiro, observe como as autoridades de Nova York explicam a aplicação dos requisitos. O sinal relevante é a especificidade sobre determinação de idade, padrões de interação proibidos e expectativas de fiscalização. Explicações claras reduziriam a incerteza sobre o que os operadores precisam demonstrar.

Orientações mais detalhadas fortaleceriam o argumento de que a estrutura pode se traduzir em decisões consistentes de produto. Ambiguidade persistente deixaria operadores e usuários com um entendimento menos previsível. Nenhum dos resultados deve ser presumido apenas com a assinatura.

Os leitores devem prestar atenção especial às distinções entre assistência comum e relacionamentos pessoais simulados. Esses limites importarão ao avaliar produtos conversacionais com finalidades diferentes. Exemplos fundamentados em funcionalidade real seriam mais informativos do que declarações amplas sobre inovação ou segurança.

Segundo, observe mudanças que os usuários possam perceber nos próprios produtos. Desenvolvimentos relevantes incluem comportamento revisado de personagens, restrições à memória pessoal, acesso alterado para menores ou remoção de determinados recursos conversacionais. Uma atualização da página de políticas fornece menos evidência do que uma experiência alterada.

Esse sinal testa a relação entre compromissos legais e design de produto. Mudanças significativas mostrariam que os operadores estão traduzindo os requisitos em funcionalidade. Mudanças limitadas a avisos deixariam importantes questões comportamentais em aberto.

As empresas também devem explicar quem recebe a experiência revisada. Uma restrição de recurso vinculada à idade da conta depende do processo de classificação. Sem essa informação, um anúncio pode deixar os leitores incertos sobre quais usuários de fato se beneficiam.

A decisão anterior da Character.AI continua sendo um contexto histórico útil para avaliar essas respostas. Ela mostra uma forma de restringir as interações de usuários mais jovens. As escolhas de outros operadores precisam ser avaliadas em seus próprios termos, em vez de tratadas como equivalentes por usarem linguagem de segurança semelhante.

Terceiro, observe evidências sobre como os sistemas revisados têm desempenho. Conclusões úteis distinguiriam erros de classificação etária, resultados conversacionais prejudiciais, restrições excessivas e falhas em manter limites. Essas categorias descrevem problemas diferentes e exigem correções diferentes.

Evidências que sustentem uma mudança comportamental confiável fortaleceriam o argumento prático da política. Lacunas repetidas entre regras publicadas e interações observadas enfraqueceriam alegações de que a implementação está funcionando. A ausência de reclamações públicas, por si só, não estabeleceria nenhuma das conclusões.

As restrições de chatbots de Nova York tornam essas observações oportunas, mas não justificam prever um resultado específico de fiscalização. O prazo de janeiro fornece um ponto concreto para examinar os preparativos. O desempenho após a implementação exigirá escrutínio contínuo.

Para desenvolvedores e compradores, a pergunta útil é se um fornecedor consegue conectar suas alegações de segurança a comportamentos observáveis. Para as famílias, é se os limites do produto são compreensíveis e confiáveis. Ambas as perguntas exigem mais do que linguagem tranquilizadora.

Antes de confiar nas alegações de segurança infantil de um chatbot, examine o que muda quando o serviço identifica um usuário mais jovem. Procure explicações claras sobre limites de relacionamento, uso de memória, verificações de idade e o tratamento de falhas relatadas. Compare essas explicações com a experiência que o produto realmente oferece. Mantenha em vista a distinção entre proteções anunciadas e resultados testados à medida que janeiro se aproxima. A lei de chatbots de Nova York dá aos operadores uma obrigação concreta e aos leitores uma base mais clara para escrutínio. Acompanhe de perto a implementação e peça aos fornecedores que mostrem como suas salvaguardas moldam as conversas, inclusive as difíceis que começam como pedidos comuns de ajuda.