Lei de Kathy Hochul sobre chatbots restringe relações de IA com crianças

Kathy Hochul sancionou uma lei de segurança para chatbots em 28 de outubro de 2026, restringindo recursos de IA que simulam relacionamentos com crianças e adolescentes menores de 18 anos. A lei de Kathy Hochul sobre chatbots mira o comportamento dos sistemas durante conversas, incluindo condutas que criam dependência emocional. Sua tensão central é prática: as empresas precisam preservar uma assistência útil ao mesmo tempo que removem interações que Nova York considera inseguras para menores.

Um companheiro de IA é um sistema conversacional projetado para manter interações que podem se assemelhar a relações pessoais. A abordagem de Nova York coloca essas interações sob escrutínio direto. A Califórnia oferece uma comparação relevante, pois sancionou sua própria legislação de segurança infantil para chatbots companheiros em setembro. Para desenvolvedores, a questão passa cada vez mais pelos comportamentos que um produto permite, além do que diz sua tela de aviso.

Hochul também sancionou uma lei separada que exige recursos de segurança e rótulos de advertência para babás eletrônicas conectadas à internet. As medidas abordam ameaças diferentes, mas compartilham uma escolha de política pública: a responsabilidade começa pela empresa que projeta e vende o produto. As famílias continuam tomando decisões sobre tecnologia, enquanto fabricantes e operadores de chatbots enfrentam expectativas mais claras sobre os riscos que introduzem.

O que muda com a lei de Kathy Hochul sobre chatbots

Nova York está restringindo comportamentos conversacionais específicos, colocando o design de produto no centro da fiscalização da segurança dos chatbots.

O anúncio de segurança infantil da governadora identifica recursos proibidos envolvendo humanidade simulada, relações declaradas, encorajamento prejudicial, sigilo e interações sexualmente explícitas. Ele também descreve verificações de idade e a fiscalização pelo procurador-geral.

Essa combinação importa porque a segurança conversacional vai além de filtrar palavras isoladas. Uma resposta pode conter linguagem comum e ainda assim incentivar dependência ou apresentar um software como uma relação de confiança. Uma análise de produto focada apenas em conteúdo explícito deixaria de captar essa distinção.

Considere uma conversa hipotética sobre dificuldades na escola. Um chatbot pode ajudar a organizar os pensamentos de um estudante ou sugerir que ele converse com um adulto de confiança. Uma resposta diferente poderia apresentar o sistema como a única relação que compreende o estudante. A segunda interação introduz uma preocupação de dependência, mesmo sem linguagem gráfica ou abertamente ameaçadora.

Esse exemplo ilustra o desafio de design; não descreve um incidente verificado envolvendo um serviço específico. A distinção importante diz respeito ao papel que o sistema afirma ter e ao comportamento que incentiva. Essas qualidades surgem do contexto, o que torna mais difícil avaliá-las com uma simples lista de palavras proibidas.

A lei, portanto, pressiona toda a experiência conversacional. Nomes de produtos, descrições de personagens, prompts sugeridos e respostas geradas podem moldar as expectativas de um usuário. Analisar apenas a resposta final deixaria outras partes dessa experiência inexploradas.

Para os leitores, a conclusão imediata é mais restrita do que uma proibição estadual de toda assistência de IA. Nova York direcionou a medida a recursos que classifica como inseguros para crianças. Determinar se um produto específico se enquadra na lei exige atenção às suas capacidades e às exceções aplicáveis.

Essa distinção também muda a forma como as empresas devem explicar publicamente suas respostas. Uma declaração de que um serviço continua disponível não estabelece que seus recursos atuais possam permanecer inalterados. Por outro lado, remover um recurso de companhia não significa necessariamente que toda função informativa precise desaparecer.

O evento cria uma questão concreta de produto: o serviço consegue cumprir sua finalidade útil sem simular uma relação que ultrapasse o limite legal? Essa questão deve fazer parte do desenvolvimento e dos testes, e não apenas das relações públicas após uma reclamação.

A lei de Kathy Hochul sobre chatbots torna essa tensão visível porque o comportamento regulado pode se sobrepor a recursos comercializados como calor humano ou personalização. As empresas precisarão distinguir assistência responsiva de alegações de relacionamento. Os usuários precisarão de explicações mais claras sobre essa distinção, especialmente quando um recurso familiar mudar.

Verificações de idade colocam privacidade e acesso na mesma decisão

Um sistema de segurança infantil deve estabelecer limites de idade sem transformar a verificação em outro canal de coleta de informações pessoais.

Garantia de idade refere-se a métodos usados para determinar se alguém pertence a uma determinada faixa etária. Segundo as disposições sobre companheiros inseguros, os operadores devem comprovar a condição de adulto antes de fornecer recursos restritos. O texto vigente do projeto também limita a dependência da autodeclaração de um usuário adulto.

O texto exige vários métodos de garantia de idade, incluindo uma opção sem documento de identificação governamental ou que preserve o anonimato perante o operador. As informações coletadas para a determinação estão sujeitas a restrições de finalidade e exclusão, com exceções legais. Esses requisitos conectam a proteção infantil às obrigações de privacidade.

A implicação de engenharia é que a verificação de idade não pode ficar separada dos controles de acesso. Um serviço deve conectar o resultado da verificação aos recursos que disponibiliza. Caso contrário, o processo adiciona atrito sem alterar de forma confiável a experiência que motivou a exigência.

Uma conta doméstica compartilhada hipotética mostra por que isso importa. Um adulto pode concluir a verificação, enquanto um familiar mais jovem usa posteriormente o mesmo dispositivo. O resultado da verificação, por si só, não explicaria quem está interagindo com o chatbot naquele momento.

Esse cenário não estabelece que uma solução técnica específica seja obrigatória. Ele ilustra a diferença entre verificar uma conta e compreender uma sessão. As empresas precisarão explicar as premissas por trás de sua abordagem, incluindo os pontos em que essas premissas podem falhar.

Há também uma preocupação de usabilidade. Se a verificação falhar repetidamente para adultos legítimos, alguns usuários abandonarão o processo. Se for fácil demais contorná-la, a experiência restrita continuará acessível. Avaliar ambos os resultados é mais informativo do que anunciar que existe uma barreira de idade.

A privacidade acrescenta outra dimensão. Uma questão útil de design é se um serviço pode manter um resultado de elegibilidade e, ao mesmo tempo, evitar a retenção desnecessária das provas subjacentes. A implementação exata exige análise jurídica e técnica, mas o princípio é direto: coletar apenas o que a decisão exige.

As famílias também devem distinguir verificação de supervisão parental. Determinar que uma conta pertence a um menor não informa a um responsável o que aconteceu durante uma conversa. Da mesma forma, controles parentais não estabelecem automaticamente que as respostas geradas atendam às restrições comportamentais.

Para os desenvolvedores, isso cria várias responsabilidades conectadas. A decisão de elegibilidade, a configuração de recursos, o tratamento de dados e o comportamento em caso de falha precisam estar alinhados. Uma divergência entre esses componentes pode comprometer todo o processo, mesmo quando cada componente parece razoável isoladamente.

A lei de Kathy Hochul sobre chatbots torna a garantia de idade relevante porque ela determina o acesso a funcionalidades restritas. As empresas devem ser avaliadas pela forma como essa conexão funciona no uso comum. Um selo de verificação, isoladamente, oferece evidências limitadas sobre o que o chatbot realmente fará.

A pressão alcança equipes de produto, compradores e educadores

O ônus prático recai sobre as organizações que decidem o que um chatbot pode dizer, lembrar e apresentar-se como sendo.

O texto sancionado inclui exceções para usos especificados, incluindo produtividade interna de negócios. Algumas exceções para atendimento ao cliente, pesquisa e assistência técnica dependem de limitar as respostas à finalidade declarada. Portanto, a categoria anunciada de um produto merece ser comparada com seu comportamento real.

Um assistente de pesquisa hipotético demonstra a questão. Seu fluxo de trabalho normal pode envolver resumir documentos e localizar trechos. Se a mesma interface também permitir roleplay emocional irrestrito, sua função útil de pesquisa não resolve todas as questões sobre a experiência mais ampla.

Esta é uma análise dos limites de produto, e não uma conclusão sobre a situação jurídica de qualquer fornecedor nomeado. Um serviço requer avaliação individual. A lição geral é que uma descrição restrita em uma página de vendas deve corresponder a uma capacidade restrita no produto.

Para um comprador empresarial, isso sugere uma discussão de aquisição mais concreta. Pergunte o que o assistente foi projetado para realizar e como lida com solicitações fora dessa finalidade. Uma resposta baseada em comportamento observável é mais útil do que uma garantia ampla de que a segurança importa.

A distinção é familiar em bases de conhecimento de IA, em que a tarefa pretendida é recuperar e organizar informações. Os compradores podem examinar se um produto mantém essa finalidade quando uma conversa se torna pessoal. Assistência útil e companhia simulada merecem avaliações separadas.

Os educadores enfrentam um julgamento relacionado. Um sistema que ajuda um estudante a revisar uma explicação cumpre uma finalidade instrucional reconhecível. Um sistema que reivindica autoridade pessoal sobre o estudante introduz uma relação diferente. Os processos de avaliação escolar devem conseguir descrever claramente essa diferença.

O apoio dos educadores à legislação reflete a preocupação com esses limites. Em sua declaração sobre salvaguardas para chatbots de IA, a New York State United Teachers apoiou a lei e enfatizou o bem-estar das crianças e as conexões humanas. Essa é uma posição de defesa, e não evidência de que todas as questões de implementação tenham sido resolvidas.

As implicações para o produto também vão além do modelo que gera uma resposta. Um modelo é o sistema computacional que produz uma saída a partir de entradas. O aplicativo ao redor determina a apresentação, o contexto armazenado, os recursos disponíveis e os caminhos pelos quais os usuários encontram o sistema.

Uma equipe de produto deve, portanto, examinar a interação completa. Uma resposta cuidadosamente redigida pode ficar sob uma descrição de personagem que cria expectativas contraditórias. Da mesma forma, um aviso introdutório pode perder valor prático se interações posteriores sugerirem repetidamente um vínculo pessoal.

Para trabalhadores do conhecimento, isso é relevante mesmo quando nunca usam aplicativos de companhia. A mesma interface conversacional pode atender a propósitos muito diferentes. Distinguir a tarefa de um assistente de trabalho de sua personalidade ajuda compradores a avaliar utilidade, confiança e as informações que devem compartilhar.

A pressão imediata é tornar essas distinções passíveis de revisão. Uma empresa deve ser capaz de demonstrar a experiência pretendida, explicar seus limites e identificar quem é responsável pelas mudanças. A responsabilidade se torna mais difícil de avaliar quando cada problema é atribuído a um fornecedor subjacente de modelos.

Nova York e Califórnia expõem um difícil limite conversacional

O desafio não resolvido é traçar uma linha aplicável entre responsividade comum e comportamento de relacionamento proibido.

A Califórnia oferece uma comparação de políticas, em vez de um produto de chatbot concorrente. A legislação complementar sobre chatbots do governador Gavin Newsom, de setembro, reforçou as proteções para crianças que usam sistemas conversacionais. A abordagem inclui avaliações de risco e escrutínio independente, juntamente com outras medidas de segurança infantil online.

A comparação ilustra diferentes instrumentos regulatórios. Restrições comportamentais especificam o que um sistema não deve fazer. Avaliações e auditorias examinam como uma empresa identifica e gerencia riscos. Ambas as abordagens levantam questões sobre evidências, mas solicitam essas evidências por mecanismos distintos.

Um comportamento proibido pode parecer claro em uma manchete, mas tornar-se mais difícil de classificar no contexto. Incentivar uma criança a concluir uma tarefa escolar é diferente de elogios excessivos concebidos para manter o engajamento. Ainda assim, uma análise superficial poderia categorizar ambas as respostas como reforço positivo.

A mesma dificuldade se aplica à linguagem emocional. Uma resposta que reconhece que uma situação parece difícil pode cumprir uma função conversacional prática. Uma resposta que afirma sentimentos recíprocos cria uma expectativa diferente. A avaliação precisa considerar essa diferença sem presumir que toda frase empática tenha o mesmo efeito.

A pesquisadora de privacidade Justine Gluck, do Future of Privacy Forum, levantou essa preocupação em reportagens sobre a lei. Ela disse à Associated Press que categorias formuladas de forma ampla deixam incertezas sobre a responsividade comum e as condutas proibidas. Sua crítica trata da aplicabilidade da lei, e não rejeita a proteção infantil como objetivo. O debate sobre design conversacional será relevante à medida que a implementação avançar.

Os testes devem refletir esse problema contextual. A análise de uma única interação pode revelar uma falha evidente, mas não pode descrever todas as conversas possíveis. Interações mais longas podem introduzir informações e expectativas que não estavam presentes no início.

Uma avaliação hipotética poderia começar com um pedido comum de aconselhamento e, depois, examinar se o chatbot passa gradualmente a reivindicar um papel exclusivo. Isso testaria um padrão de interação, em vez de uma única frase proibida. Os resultados ainda devem ser descritos dentro dos limites da avaliação.

Há o risco de corrigir em excesso de formas que reduzam a assistência útil. Um sistema que se recuse a qualquer menção a emoções pode evitar alguns casos difíceis, mas se tornar pouco útil em conversas educacionais comuns. Essa é uma questão de design que exige evidências, não um resultado já estabelecido pela lei.

Também há o risco de correção insuficiente por meio de mudanças cosméticas. Substituir um rótulo de relacionamento, preservando o mesmo comportamento emocional, ofereceria pouca segurança prática. A questão relevante é o que o usuário vivencia, inclusive como o sistema responde quando os limites são testados.

As empresas devem, portanto, evitar apresentar a conformidade como prova de segurança universal. Um padrão jurídico estabelece obrigações; ele não demonstra que um produto não possa causar danos. Da mesma forma, uma hipótese preocupante não prova que todos os assistentes conversacionais apresentam um risco idêntico.

Para a lei sobre chatbots de Kathy Hochul, esse limite é central para uma aplicação confiável. Exemplos claros, raciocínio transparente e avaliações cuidadosamente descritas ajudariam empresas e famílias a entender o padrão. Declarações amplas sobre segurança perfeita ou censura inevitável obscureceriam o trabalho prático.

Regras para babás eletrônicas levam a mesma responsabilidade ao quarto do bebê

A lei separada sobre babás eletrônicas impõe uma obrigação de segurança aos produtos que as famílias levam para espaços privados.

A medida de segurança de babás eletrônicas aborda dispositivos que transmitem áudio ou vídeo por meio de uma conexão à internet. Ela exige recursos de segurança destinados a impedir acesso não autorizado, juntamente com um aviso por escrito. O anúncio da governadora afirma que a lei entra em vigor 90 dias após a assinatura.

Essa é uma ameaça diferente de um chatbot que alega intimidade emocional. A preocupação é o acesso ao quarto de uma criança por meio de um dispositivo conectado. Reunir as medidas politicamente não torna seus requisitos técnicos intercambiáveis.

Uma residência hipotética ilustra a distinção. Um pai ou uma mãe pode usar um monitor para verificar um bebê dormindo enquanto está fora do quarto. O valor do produto depende de o acesso remoto funcionar para pessoas autorizadas, ao mesmo tempo que exclui todas as demais.

Isso torna a segurança parte da função essencial. Um monitor que fornece uma imagem nítida sem proteção adequada de acesso não entregou plenamente a experiência que a família espera. A conveniência do dispositivo não pode ser avaliada separadamente de quem pode usar a conexão.

A exigência de aviso aborda outra parte da decisão de compra. Um responsável deve entender que uma conexão à internet cria considerações de acesso que vão além de colocar uma câmera em uma prateleira. Uma rotulagem clara pode tornar esse fato visível antes que o produto se torne parte da rotina doméstica.

Um rótulo, contudo, fornece informação, não uma barreira técnica. Seu valor prático depende de o dispositivo também oferecer proteção utilizável. Os responsáveis não deveriam precisar interpretar um aviso como explicação para a ausência de recursos de segurança.

Essa distinção reflete o debate sobre chatbots em um nível mais amplo. Uma divulgação informa aos usuários algo sobre um produto. Uma exigência de design altera o que o produto permite. As medidas enfatizam tanto a informação quanto o comportamento do sistema subjacente.

Para os fabricantes, a análise relevante se estende por todo o dispositivo e sua experiência conectada. Uma câmera, um aplicativo e uma conta podem afetar o acesso. Avaliar apenas o hardware físico deixaria parte da experiência do usuário fora da discussão.

Para os varejistas, descrições claras também são importantes. Os compradores precisam entender se um monitor se conecta à internet e o que isso possibilita. O marketing ambíguo torna mais difícil comparar um dispositivo acessível remotamente com um produto de finalidade mais limitada.

A conexão entre as políticas é a responsabilidade no ponto de design e venda. As famílias ainda configuram os dispositivos e decidem como usá-los. A lei acrescenta expectativas para as empresas que colocam esses dispositivos no mercado.

Seria prematuro descrever a assinatura como evidência de que monitores recém-vendidos são seguros. Essa conclusão exige examinar produtos e a aplicação da lei após a implementação. A mudança imediata e verificada é a exigência jurídica, cuja eficácia ainda depende da execução.

O que observar à medida que as leis avançam para a implementação

As próximas evidências úteis virão de orientações regulatórias, mudanças observáveis nos produtos e da implementação dos requisitos para babás eletrônicas.

Primeiro, acompanhe as orientações e o processo de reclamações do procurador-geral. Explicações claras sobre comportamentos proibidos ajudariam a transformar categorias amplas em decisões que as empresas possam avaliar. Orientações que abordem exemplos conversacionais difíceis reforçariam a tese de que a lei pode operar de maneira previsível.

A data de vigência também merece atenção cuidadosa. O texto ativo da S9051B estabelece 1º de janeiro de 2027. Versões anteriores utilizavam um cronograma de 180 dias, enquanto o anúncio da governadora se refere, de modo geral, à implementação nos próximos meses. Os leitores devem distinguir o texto em vigor das versões substituídas ao comparar resumos.

Essa distinção é importante para a responsabilização. A preparação de uma empresa deve ser avaliada em relação aos requisitos e ao cronograma aplicáveis. Resumos conflitantes podem gerar confusão sem demonstrar que a lei subjacente não tenha uma data.

Segundo, acompanhe mudanças documentadas no comportamento dos chatbots e na verificação de idade. Uma política atualizada é uma informação útil, mas uma mudança observável oferece evidências mais fortes sobre a experiência. As empresas devem explicar quais recursos mudam para menores e o que acontece quando o status de adulto permanece sem confirmação.

A qualidade dessas explicações revelará se as empresas tratam o requisito como uma responsabilidade de produto. Uma descrição detalhada pode explicar o comportamento pretendido, limitações conhecidas e as evidências que sustentam uma mudança. Uma declaração genérica sobre segurança deixa os leitores com menos formas de avaliar o progresso.

As evidências também devem ser interpretadas com cuidado. Uma demonstração bem-sucedida estabelece o que ocorreu nas condições apresentadas. Ela não prova que todas as conversas seguirão o mesmo caminho. Da mesma forma, uma falha deve ser documentada de modo suficiente para distinguir um problema reproduzível de um relato impreciso.

Terceiro, acompanhe o mercado de babás eletrônicas à medida que o prazo separado se aproxima. Rótulos mais claros e explicações sobre proteção de acesso indicariam que os fabricantes estão respondendo. A ambiguidade persistente sobre conectividade e segurança enfraqueceria a confiança no efeito prático da lei.

As descrições dos varejistas são um lugar útil para observar essa resposta. Embalagens e instruções de configuração fornecem evidências adicionais sobre o que é informado aos compradores. A questão é se uma família consegue entender a função conectada e usar suas proteções sem precisar adivinhar.

Esses sinais devem ser considerados separadamente. Melhores limites para chatbots não comprovam melhor segurança para câmeras. Uma rotulagem aprimorada de monitores não resolve as questões conversacionais enfrentadas por operadores de IA. Cada medida exige evidências vinculadas ao risco que aborda.

Para as famílias, a resposta mais útil é examinar a experiência real que uma criança encontra. Pergunte se um chatbot afirma ter um relacionamento, incentiva segredos ou afasta um jovem de adultos de confiança. Para compradores e desenvolvedores, solicite uma explicação clara sobre os limites dos recursos e o tratamento de dados de verificação de idade. Ao escolher um monitor conectado, examine suas proteções de acesso e as informações fornecidas durante a configuração. A lei sobre chatbots de Kathy Hochul e sua medida complementar sobre dispositivos criam novas responsabilidades, mas os leitores ainda precisam de evidências observáveis de acompanhamento. À medida que a implementação se aproxima, procure mudanças específicas que possam ser examinadas e explicadas. Peça aos provedores que mostrem como seus produtos atendem a essas expectativas.