Proibição de brinquedos com IA na Califórnia transforma o comportamento de chatbots em uma questão de segurança de produtos

A Califórnia promulgou uma restrição de quatro anos para brinquedos com IA que trata o software conversacional como um possível risco de produto, mesmo quando o brinquedo físico funciona corretamente.

A proibição de brinquedos com IA na Califórnia chega por meio do Projeto de Lei do Senado 867, que o governador Gavin Newsom sancionou em 10 de setembro de 2026. A partir de 1º de janeiro de 2027, chatbots de companhia abrangidos pela lei não poderão ser incorporados a brinquedos destinados a crianças menores de 16 anos.

Essa abordagem cria um conflito direto entre recursos adaptativos de IA e práticas tradicionais de segurança de produtos. Filtros, avisos e controles parentais não oferecem um caminho de conformidade sob a lei. Um produto abrangido deve perder a funcionalidade de companhia ou deixar o mercado de brinquedos da Califórnia.

A medida também muda quem precisa se preocupar com o comportamento dos chatbots. Os fornecedores de modelos continuam importantes, mas fabricantes, distribuidores e varejistas agora enfrentam consequências vinculadas ao produto final.

A Califórnia está, na prática, pedindo que as empresas tratem prompts, memória, configurações de personalidade e atualizações de modelos como decisões de projeto. Essa é uma mudança substancial em relação a tratar os mesmos componentes como serviços de software separados.

SB 867 bloqueia o recurso, não apenas respostas inseguras

O SB 867 não regula apenas o que um brinquedo com IA pode dizer. Ele proíbe uma categoria definida de funcionalidade de chatbot dentro de brinquedos abrangidos.

O texto do SB 867 proíbe fabricar, vender, trocar ou oferecer um brinquedo que inclua um chatbot de companhia. Ele também abrange possuir esse brinquedo com a intenção de vendê-lo ou trocá-lo.

A lei define brinquedo como um produto físico projetado, comercializado ou fabricado para brincadeiras de crianças menores de 16 anos. A restrição permanece em vigor até 1º de janeiro de 2031.

Essa data de expiração torna a medida uma moratória, e não uma proibição permanente. Ainda assim, quatro ciclos de produto podem representar uma longa interrupção para empresas de brinquedos, especialmente aquelas que desenvolvem produtos conectados.

A definição de chatbot de companhia vem da estrutura já existente da Califórnia para chatbots. Ela abrange um sistema de IA que fornece respostas adaptativas e semelhantes às humanas por meio de uma interface de linguagem natural.

O sistema também deve ser capaz de atender necessidades sociais. Características relevantes incluem comportamento antropomórfico e a capacidade de sustentar um relacionamento ao longo de múltiplas interações.

Essa linguagem traça a linha em torno do comportamento relacional, não de todo uso de inteligência artificial. Um brinquedo que reconhece fala ou responde a perguntas fixas não se qualifica automaticamente.

A lei também exclui várias categorias. Ferramentas de atendimento ao cliente, sistemas empresariais, aplicações de pesquisa e assistentes técnicos ficam fora da definição de chatbot de companhia.

Um personagem de videogame também pode permanecer fora da definição quando suas respostas se limitam ao jogo. A exclusão desaparece quando um personagem pode discutir automutilação, saúde mental, conduta sexualmente explícita ou temas não relacionados.

Assistentes de voz independentes recebem outra exclusão. No entanto, eles não podem sustentar relacionamentos ao longo de múltiplas interações nem produzir respostas suscetíveis de provocar reações emocionais.

Essas distinções serão importantes durante a classificação de produtos. Um dispositivo falante pode parecer inofensivo até que memória, personalização ou uma personalidade afetuosa transformem respostas isoladas em um relacionamento contínuo.

A lei não contém nenhum processo de certificação que permita um brinquedo abrangido após testes. Ela também não prevê exceção baseada na confiança de uma empresa em seu sistema de moderação.

Um fabricante não pode simplesmente adicionar um aviso de que o personagem é artificial. Temporizadores de sessão, painéis parentais e filtros de conteúdo não retiram um produto da proibição.

A questão decisiva é se o brinquedo final contém a funcionalidade abrangida. Como observou uma análise jurídica, evitar a restrição exige mudar o produto para que ele fique fora da definição legal.

Esse teste focado no projeto diferencia o SB 867 de muitas regras de segurança online. A maioria das leis de plataformas permite que um serviço opere quando adota divulgações, auditorias ou controles de proteção específicos.

A Califórnia escolheu um limite mais rígido para brinquedos. O estado não está perguntando se um recurso de companhia tem salvaguardas suficientes. Ele está, temporariamente, mantendo o recurso fora da categoria de produtos abrangidos.

Essa distinção cria a tensão central do artigo. Desenvolvedores de IA tendem a tratar o comportamento do modelo como algo ajustável após o lançamento, enquanto sistemas de segurança de produtos esperam que os riscos sejam resolvidos antes da venda.

Um chatbot pode mudar após a substituição de um modelo, a revisão de um prompt ou uma atualização na nuvem. O animal de pelúcia ou robô que o envolve pode permanecer fisicamente idêntico.

Sob a proibição de brinquedos com IA na Califórnia, essa mudança de software pode alterar o caráter jurídico de todo o produto. O componente importante já não é apenas aquilo que está dentro da carcaça.

A proibição de brinquedos com IA na Califórnia amplia o perímetro de segurança

A mudança prática é maior do que uma restrição temporária de vendas porque o comportamento do software agora passa a integrar o registro de segurança do produto.

A conformidade tradicional de brinquedos se concentra em propriedades que podem ser testadas antes da distribuição. Os fabricantes examinam materiais, peças pequenas, baterias, sistemas elétricos, rotulagem e usos físicos indevidos previsíveis.

A IA conversacional se comporta de forma diferente. Sua saída depende do modelo, das instruções de sistema, do histórico da conversa, da formulação do usuário, dos filtros de segurança e de atualizações posteriores do serviço.

Dois brinquedos fisicamente idênticos podem, portanto, se comportar de maneira diferente. Eles podem usar versões distintas de modelos, configurações de conta, políticas regionais ou configurações na nuvem.

O registro de projeto relevante deve se expandir em conformidade. As empresas precisam saber qual modelo conduz a conversa, quem controla suas instruções e se ele retém informações entre sessões.

As configurações de memória merecem atenção especial. A memória ajuda um personagem a lembrar o nome, os interesses, os medos e conversas anteriores de uma criança. Esses detalhes podem fazer uma interação parecer contínua e pessoal.

Essa continuidade também ajuda a determinar se o sistema sustenta um relacionamento. Um recurso promovido como melhor personalização pode, portanto, aproximar um produto da definição legal.

O projeto da personalidade levanta o mesmo problema. Um personagem que expressa afeto, decepção ou dependência pode criar um engajamento mais forte do que uma ferramenta neutra de perguntas e respostas.

Esse comportamento não exige um componente físico defeituoso. Ele pode surgir de prompts, ajuste fino, sistemas de recompensa ou instruções criadas por um fornecedor externo à empresa de brinquedos.

A proibição de brinquedos com IA na Califórnia pressiona toda essa cadeia de fornecimento fragmentada. Uma marca pode projetar o personagem enquanto outra empresa fornece o modelo.

Um integrador pode conectar o modelo a microfones e alto-falantes. Um provedor de hospedagem pode implantar atualizações, enquanto um varejista vende estoque produzido sob uma configuração anterior.

Essa divisão de controle cria um problema básico de responsabilização. A empresa que detém a certificação do produto pode não controlar o sistema que gera cada resposta.

Os fabricantes agora precisam de um mapa confiável dessas responsabilidades. Eles devem identificar quem pode alterar prompts, substituir modelos, ajustar a memória, analisar incidentes ou desativar o serviço.

Esse mapa também deve abranger a autoridade contratual. Uma empresa de brinquedos precisa de mais do que a promessa geral de um fornecedor de cumprir a legislação aplicável.

Ela precisa ser avisada antes de mudanças materiais no software. Também precisa de registros que descrevam versões dos modelos, configurações de segurança, resultados de testes e as pessoas autorizadas a aprovar a implantação.

Manter esses registros se assemelha a criar uma base de conhecimento de IA pesquisável para decisões de produto. O objetivo é rastreabilidade, não apenas armazenamento de documentos.

Os varejistas enfrentam uma forma diferente de pressão. Eles raramente selecionam um modelo ou escrevem instruções de sistema, mas o SB 867 abrange expressamente a venda e a oferta de brinquedos abrangidos.

Um varejista precisa saber qual funcionalidade está dentro de um produto antes de colocá-lo em uma prateleira. A linguagem da embalagem, por si só, pode não revelar se um personagem mantém um relacionamento entre sessões.

Atualizações de produto também podem criar estoque imobilizado. Um brinquedo interativo em conformidade pode receber um recurso de companhia depois que as unidades já entraram em armazéns ou lojas.

A situação inversa também é possível. Um fabricante pode desativar remotamente recursos relacionais, mas os varejistas precisariam de evidências confiáveis de que todas as unidades afetadas receberam a alteração.

As equipes de privacidade não podem permanecer separadas desse processo. Gravações de voz, perfis de conta e históricos de diálogo podem sustentar a memória que torna um chatbot relacional.

Os mesmos dados podem revelar informações sensíveis sobre uma criança. Eles também podem influenciar respostas posteriores, tornando a governança de dados parte da segurança comportamental do produto.

Para as empresas, o novo perímetro de segurança alcança a governança de modelos, a revisão de privacidade, os controles de estoque e os acordos com fornecedores. Nenhuma dessas funções pode mais operar de forma independente.

Promessas de segurança encontram uma proibição baseada em funcionalidade

A lei rejeita a promessa central do setor de que controles flexíveis de software podem tornar brinquedos de companhia suficientemente seguros durante a implantação.

Equipes de produtos de IA normalmente gerenciam riscos por meio de camadas. Elas combinam políticas de modelo, prompts de sistema, classificadores de conteúdo, controles de conta, monitoramento e atualizações emergenciais.

Essa abordagem pressupõe que o comportamento pode ser aprimorado após o lançamento. Ela também aceita que nenhum teste isolado captura todas as respostas que um sistema generativo pode produzir.

O SB 867 aplica uma lógica diferente. Se o sistema se enquadra na definição de chatbot de companhia, controles melhores não autorizam sua inclusão em um brinquedo abrangido.

Esse é o principal equilíbrio por trás da medida. A Califórnia prioriza um limite jurídico previsível em vez de avaliações caso a caso de salvaguardas em evolução.

Os apoiadores argumentam que crianças não deveriam se tornar cobaias enquanto empresas descobrem modos de falha. Durante uma audiência legislativa em abril, testemunhas descreveram testes envolvendo três brinquedos conversacionais.

Uma representante da CalPIRG disse aos legisladores que os três forneceram informações sobre como encontrar objetos perigosos. A testemunha também descreveu instruções envolvendo fósforos e diálogo sexualmente explícito de um brinquedo testado.

A mesma audiência legislativa incluiu depoimentos sobre controles parentais limitados e coleta de dados sensíveis. Um incidente de segurança citado teria exposto 50.000 linhas de diálogos de crianças.

Essas alegações ajudaram os legisladores a enquadrar o risco como algo além de conteúdo inadequado. Um brinquedo conversacional pode combinar comportamento persuasivo, dados íntimos, acesso contínuo e uma forma física amigável para crianças.

O projeto físico importa porque altera as expectativas do usuário. Pais geralmente presumem que produtos vendidos como brinquedos passaram por um padrão reconhecível de segurança.

Crianças pequenas também podem depositar confiança incomum em personagens amigáveis. Elas não têm as ferramentas conceituais que os adultos usam para separar fala gerada de intenção ou compreensão.

Defensores dos consumidores apresentaram esse argumento durante a temporada de festas de 2025. Um alerta sobre brinquedos com IA assinado por mais de 150 organizações aconselhou os pais a não comprarem esses produtos.

O alerta abrangia brinquedos comercializados para crianças de até dois anos. Ele citava preocupações relacionadas a diálogos sexuais, instruções inseguras, engajamento compulsivo, privacidade e substituição da brincadeira imaginativa.

Desenvolvedores de brinquedos argumentaram que o monitoramento parental e salvaguardas cuidadosamente projetadas podem reduzir esses riscos. Alguns produtos permitem que os pais revisem conversas, ajustem controles ou limitem o acesso.

Essas ferramentas podem oferecer supervisão útil. No entanto, sua presença não garante que uma criança nunca encontrará uma resposta prejudicial.

Elas também não resolvem a questão do desenvolvimento. Um sistema pode evitar linguagem proibida e ainda assim incentivar dependência emocional ou substituir a interação humana.

Modelos generativos apresentam outro desafio porque seu comportamento é probabilístico. Um teste bem-sucedido mostra como o sistema respondeu em condições específicas, não todas as respostas que ele pode produzir.

Testes de red teaming podem revelar padrões perigosos, mas não conseguem esgotar todos os caminhos conversacionais. As crianças também usam linguagem incompleta, palavras inventadas, faz de conta e prompts inesperados.

Um fornecedor de modelos pode melhorar seu sistema geral de segurança sem considerar a persona específica de um brinquedo. Em contrapartida, uma empresa de brinquedos pode enfraquecer salvaguardas por meio de suas próprias instruções de sistema.

Os controles de software continuam valiosos, mas a SB 867 não os trata como base suficiente para a venda. Essa escolha de política pública privilegia a aplicabilidade e a prevenção em vez da conformidade adaptativa.

A restrição também evita um problema de certificação. Caso contrário, a Califórnia precisaria de padrões para taxas aceitáveis de recusa, comportamento emocional, memória, cobertura de testes e monitoramento pós-lançamento.

Nenhum parâmetro amplamente aceito resolve atualmente essas questões para brinquedos companheiros. Uma pontuação aprovada poderia criar falsa confiança se a métrica não capturar danos impulsionados por relacionamentos.

Ainda assim, a proibição tem custos. Ela pode bloquear produtos educacionais ou criativos que usam recursos conversacionais sem buscar dependência emocional.

Um brinquedo de contação de histórias pode se lembrar de personagens entre sessões. Um tutor de idiomas pode adotar uma persona amigável para manter a atenção de uma criança.

A definição legal desses produtos dependerá de seu design e comportamento. Rótulos como “educacional” não determinarão necessariamente o resultado.

A verdadeira divisão, portanto, não é entre fala segura e fala insegura. É entre controles de segurança adaptáveis e uma proibição temporária da própria função relacional.

Varejistas e Desenvolvedores Ainda Enfrentam Incerteza de Classificação

A SB 867 estabelece uma linha firme após a classificação, mas decidir quais produtos cruzam essa linha continua sendo a incerteza mais importante da lei.

A expressão “capaz de atender às necessidades sociais de um usuário” é central para a definição de chatbot companheiro. Ela também está aberta a disputas factuais.

A capacidade pode ser mais ampla do que o uso pretendido. Uma empresa pode comercializar um dispositivo como tutor, ao mesmo tempo em que permite diálogo aberto, respostas emocionais e memória persistente.

O produto poderia então se comportar como um companheiro sem usar esse termo. Tribunais e reguladores podem olhar além do texto de marketing para os recursos reais do sistema.

A definição de brinquedo cria outra questão de limite. Os produtos abrangidos devem ser projetados, comercializados ou fabricados para brincadeiras de crianças menores de 16 anos.

Alguns dispositivos têm públicos ou funções mistos. Um robô de mesa pode servir como ferramenta de programação, assistente doméstico, dispositivo de entretenimento e personagem conversacional.

Um aplicativo associado complica ainda mais a análise. O brinquedo físico pode não conter nenhum modelo localmente, mas pode acessar um chatbot em nuvem por meio de um telefone.

A SB 867 se refere a um brinquedo que “inclui” um chatbot companheiro. As empresas precisarão avaliar como essa redação se aplica a módulos licenciados e serviços conectados.

Os legisladores identificaram essas questões antes da aprovação. Na audiência de abril, a California Retailers Association buscou um padrão de conhecimento para proteger varejistas de responsabilidade.

Um representante da Civil Justice Association of California também levantou preocupações sobre definições e responsabilidade. Legisladores questionaram quem determinaria se um produto contestado se qualifica como brinquedo.

O senador Thomas Umberg perguntou se a classificação se tornaria uma questão jurídica, uma questão factual para júris ou uma análise mista. O estatuto final fornece definições, mas nenhum procedimento detalhado de classificação.

Essa incerteza importa porque a restrição abrange mais do que fabricantes. Varejistas e outros vendedores precisam de um processo de triagem defensável antes de 1º de janeiro de 2027.

Um varejista poderia solicitar certificações de fornecedores, descrições de recursos e notificações de alterações. Esses documentos ajudariam, mas o estatuto não cria uma salvaguarda automática para quem depende deles.

As empresas devem evitar exagerar o efeito da lei sobre a responsabilidade por produtos. A SB 867 não declara que todo software é um produto.

Uma violação também não prova automaticamente um defeito de projeto em todos os casos civis. A responsabilidade por produtos ainda envolve questões sobre dever, causalidade, defeito, advertências e defesas disponíveis.

No entanto, a medida dá a autores de ações e reguladores uma referência legal concreta. Ela também torna a configuração de software mais relevante para argumentos sobre risco previsível e controle de projeto.

A data de expiração introduz outra incerteza. A lei permanece em vigor apenas até 1º de janeiro de 2031, a menos que os legisladores a estendam ou substituam.

Essa janela dá aos legisladores tempo para estudar o mercado. Também dá à indústria tempo para desenvolver evidências sobre se salvaguardas específicas funcionam para crianças.

No entanto, uma moratória não produz por si só padrões melhores. Instituições de pesquisa, desenvolvedores e reguladores ainda precisam estabelecer medidas úteis para dependência emocional e efeitos no desenvolvimento.

Eles também devem distinguir uma ferramenta interativa saudável de um sistema projetado para maximizar o apego. Essa diferença pode ser difícil de captar apenas por meio de testes de conteúdo.

A proibição californiana de brinquedos com IA, portanto, resolve um problema de aplicação ao criar outro problema de classificação. A funcionalidade abrangida é claramente proibida, mas casos limítrofes exigirão exame atento.

As empresas não devem presumir que um personagem amigável está automaticamente abrangido. Tampouco devem presumir que um rótulo educacional, modelo remoto ou painel parental o torna isento.

A abordagem mais segura é uma revisão no nível dos recursos. As equipes devem documentar o escopo conversacional, a memória, os sinais emocionais, os tópicos permitidos, os usuários pretendidos e a capacidade de sustentar interações.

Essa revisão deve continuar após o lançamento. Uma atualização de software pode mudar a resposta mesmo quando o nome do produto, a embalagem e o hardware permanecem intactos.

Três Sinais Mostrarão se a Política se Espalha

A próxima fase será definida por orientações de aplicação, reformulações de produtos e pela adoção, ou não, da abordagem californiana baseada em funções por outros estados.

O primeiro sinal é como a Califórnia interpreta produtos limítrofes antes de 1º de janeiro de 2027. Fabricantes e varejistas precisam saber como as autoridades avaliarão aplicativos associados, dispositivos de uso misto e memória limitada.

Orientações detalhadas reduziriam a incerteza sem enfraquecer a proibição. Sua ausência levaria empresas a retiradas conservadoras ou a análises jurídicas individuais custosas.

As primeiras disputas também revelarão quais evidências importam. Materiais de marketing, especificações técnicas, registros de conversas, testes internos e configurações de modelos podem influenciar a classificação.

Orientações claras fortaleceriam o modelo de segurança de produtos da lei. Uma ambiguidade persistente o enfraqueceria ao fazer a conformidade depender da tolerância ao risco, e não de padrões consistentes.

O segundo sinal é como as empresas de brinquedos reformulam seus produtos. A resposta mais rápida pode ser desativar memória persistente, conversas abertas ou personas emocionalmente responsivas.

Algumas empresas podem substituir diálogo generativo por roteiros selecionados. Outras poderiam reposicionar dispositivos para usuários mais velhos ou remover o marketing voltado a crianças na Califórnia.

Fornecedores de modelos também podem desenvolver interfaces restritas para fabricantes de brinquedos. Esses sistemas poderiam limitar tópicos, bloquear comportamentos de construção de relacionamentos e tornar os resultados mais previsíveis.

Essas mudanças mostrariam que a regulamentação pode moldar a arquitetura antes que ocorra um caso de aplicação. Elas também forneceriam evidências sobre quais recursos as empresas consideram juridicamente arriscados.

Observe o comportamento dos varejistas tão de perto quanto os anúncios de produtos. Grandes vendedores podem exigir novas declarações de fornecedores, listas de materiais de software ou aviso prévio sobre mudanças de modelos.

Uma lista de materiais de software identifica os componentes e dependências dentro de um aplicativo. Para produtos de IA, um registro equivalente também deve capturar modelos, prompts, políticas e serviços hospedados.

Se os varejistas impuserem esses requisitos nacionalmente, a influência da Califórnia se estenderá além das fronteiras estaduais. Os fornecedores frequentemente preferem uma única configuração de produto a manter uma versão separada para a Califórnia.

O terceiro sinal é se outros estados escolhem proibições ou acesso regulamentado. Legisladores de Nova York já avançaram uma moratória de cinco anos para brinquedos que contêm companheiros de IA.

A proposta de Nova York associa sua pausa a uma força-tarefa interagências que estuda segurança, controles parentais, privacidade e riscos ao desenvolvimento.

A Califórnia também promulgou regras mais amplas para chatbots junto com a SB 867. O pacote de segurança infantil do governador inclui protocolos de crise, controles parentais, auditorias independentes e avaliações anuais de risco para serviços abrangidos.

Essa combinação cria duas vias regulatórias. Chatbots companheiros oferecidos como serviços enfrentam salvaguardas, enquanto chatbots companheiros incorporados em brinquedos abrangidos enfrentam uma proibição temporária.

Se mais estados copiarem essa distinção, a integração física se tornará uma importante linha divisória jurídica. O mesmo modelo pode continuar disponível por uma interface, mas ser proibido por outra.

Um cenário estadual fragmentado continua possível. Algumas jurisdições podem exigir auditorias, enquanto outras exigem advertências, garantia de idade, restrições de design ou moratórias.

Esse resultado aumentaria os custos de conformidade e recompensaria empresas com registros precisos de produtos. Também poderia incentivar legisladores federais ou agências de segurança a buscar uma estrutura comum.

Para desenvolvedores, a lição imediata é concreta. A exposição jurídica de um modelo depende do contexto do produto, não apenas de seus resultados de benchmark ou de sua política de segurança publicada.

Para compradores empresariais, a medida mostra por que os contratos devem identificar quem controla o comportamento após a implantação. Uma atualização do modelo de um fornecedor pode alterar o perfil de risco de um produto físico.

Para os pais, a lei oferece um limite temporário, e não a prova de que todos os demais produtos conversacionais são seguros. Chatbots de uso geral e ferramentas de IA não companheiras continuam sendo questões separadas.

A proibição californiana de brinquedos com IA será testada pelo que desaparece, pelo que é reformulado e pelo que retorna antes de 2031. Esses resultados importam mais do que promessas amplas de qualquer lado.

Observe as primeiras classificações de produtos, os requisitos dos varejistas e projetos de lei similares em outros estados. Juntos, eles mostrarão se o comportamento do software entrou permanentemente na segurança de produtos de consumo.