La prohibición de juguetes con IA de California convierte el comportamiento de los chatbots en una cuestión de seguridad del producto
California ha promulgado una restricción de cuatro años sobre los juguetes con IA que trata el software conversacional como un posible peligro para el producto, incluso cuando el juguete físico funciona correctamente.
La prohibición de juguetes con IA de California llega a través del Proyecto de Ley del Senado 867, que el gobernador Gavin Newsom firmó el 10 de septiembre de 2026. A partir del 1 de enero de 2027, los chatbots de compañía cubiertos no podrán incorporarse en juguetes diseñados para menores de 16 años.
Este enfoque crea un conflicto directo entre las funciones adaptativas de IA y las prácticas tradicionales de seguridad de productos. Los filtros, advertencias y controles parentales no constituyen una vía de cumplimiento bajo la ley. Un producto cubierto debe perder la funcionalidad de compañía o abandonar el mercado de juguetes de California.
La medida también cambia quién debe preocuparse por el comportamiento de los chatbots. Los proveedores de modelos siguen siendo importantes, pero los fabricantes, distribuidores y minoristas ahora afrontan consecuencias vinculadas al producto terminado.
California está pidiendo, en la práctica, que las empresas traten los prompts, la memoria, la configuración de personalidad y las actualizaciones de modelos como decisiones de diseño. Supone un cambio sustancial frente a tratar esos mismos componentes como servicios de software independientes.
SB 867 Bloquea la Función, No Solo las Respuestas Inseguras
SB 867 no se limita a regular lo que puede decir un juguete con IA. Prohíbe una categoría definida de funcionalidad de chatbot dentro de los juguetes cubiertos.
El texto de SB 867 prohíbe fabricar, vender, intercambiar u ofrecer un juguete que incluya un chatbot de compañía. También abarca poseer dicho juguete con la intención de venderlo o intercambiarlo.
La ley define un juguete como un producto físico diseñado, comercializado o fabricado para el juego de menores de 16 años. La restricción permanecerá vigente hasta el 1 de enero de 2031.
Esta cláusula de expiración convierte la medida en una moratoria y no en una prohibición permanente. Aun así, cuatro ciclos de producto pueden representar una larga interrupción para las empresas jugueteras, especialmente para aquellas que desarrollan productos conectados.
La definición de chatbot de compañía procede del marco normativo existente de California sobre chatbots. Abarca un sistema de IA que ofrece respuestas adaptativas y similares a las humanas mediante una interfaz de lenguaje natural.
El sistema también debe ser capaz de satisfacer necesidades sociales. Entre las características relevantes se incluyen el comportamiento antropomórfico y la capacidad de mantener una relación a través de múltiples interacciones.
Este lenguaje traza el límite en torno al comportamiento relacional, no en torno a todos los usos de la inteligencia artificial. Un juguete que reconoce el habla o responde preguntas fijas no cumple automáticamente los requisitos.
El estatuto también excluye varias categorías. Las herramientas de atención al cliente, los sistemas empresariales, las aplicaciones de investigación y los asistentes técnicos quedan fuera de la definición de chatbot de compañía.
Un personaje de videojuego también puede quedar fuera de la definición cuando sus respuestas se limitan al juego. La exclusión desaparece cuando un personaje puede hablar sobre autolesiones, salud mental, conducta sexualmente explícita o temas no relacionados.
Los asistentes de voz independientes reciben otra exclusión. Sin embargo, no deben mantener relaciones a través de múltiples interacciones ni producir respuestas que probablemente provoquen reacciones emocionales.
Estas distinciones serán importantes durante la clasificación de productos. Un dispositivo parlante puede parecer inofensivo hasta que la memoria, la personalización o una personalidad afectuosa convierten respuestas aisladas en una relación continua.
La ley no contiene ningún proceso de certificación que permita un juguete cubierto tras las pruebas. Tampoco establece una excepción basada en la confianza de una empresa en su sistema de moderación.
Un fabricante no puede limitarse a añadir una advertencia de que el personaje es artificial. Los temporizadores de sesión, los paneles parentales y los filtros de contenido no excluyen un producto de la prohibición.
La cuestión decisiva es si el juguete terminado contiene la funcionalidad cubierta. Como observó un análisis jurídico, evitar la restricción exige modificar el producto para que quede fuera de la definición legal.
Esta prueba centrada en el diseño separa SB 867 de muchas normas de seguridad en línea. La mayoría de las leyes sobre plataformas permiten que un servicio opere cuando adopta divulgaciones, auditorías o controles de protección específicos.
California eligió un límite más estricto para los juguetes. El estado no pregunta si una función de compañía cuenta con suficientes salvaguardas. Está manteniendo temporalmente la función fuera de la categoría de productos cubierta.
Esta distinción crea la tensión central del artículo. Los desarrolladores de IA tienden a considerar el comportamiento de los modelos como algo ajustable tras el lanzamiento, mientras que los sistemas de seguridad de productos esperan que los riesgos se resuelvan antes de la venta.
Un chatbot puede cambiar tras la sustitución de un modelo, la revisión de un prompt o una actualización en la nube. El peluche o robot que lo rodea puede seguir siendo físicamente idéntico.
Bajo la prohibición de juguetes con IA de California, ese cambio de software puede alterar el carácter jurídico de todo el producto. El componente importante ya no es solo lo que se encuentra dentro de la carcasa.
La Prohibición de Juguetes con IA de California Amplía el Perímetro de Seguridad
El cambio práctico es mayor que una restricción temporal de ventas porque el comportamiento del software pasa a formar parte del historial de seguridad del producto.
El cumplimiento tradicional en materia de juguetes se centra en propiedades que pueden probarse antes de la distribución. Los fabricantes examinan materiales, piezas pequeñas, baterías, sistemas eléctricos, etiquetado y usos físicos indebidos previsibles.
La IA conversacional se comporta de otra forma. Sus resultados dependen del modelo, las instrucciones del sistema, el historial de conversación, la forma de expresarse del usuario, los filtros de seguridad y actualizaciones posteriores del servicio.
Por tanto, dos juguetes físicamente idénticos pueden comportarse de forma distinta. Podrían usar diferentes versiones de modelo, configuraciones de cuenta, políticas regionales o configuraciones en la nube.
El registro de diseño relevante debe ampliarse en consecuencia. Las empresas necesitan saber qué modelo ejecuta la conversación, quién controla sus instrucciones y si conserva información entre sesiones.
La configuración de memoria merece especial atención. La memoria ayuda a un personaje a recordar el nombre, los intereses, los miedos y las conversaciones anteriores de un niño. Estos detalles pueden hacer que una interacción parezca continua y personal.
Esa continuidad también ayuda a determinar si el sistema mantiene una relación. Por tanto, una función promocionada como una mejor personalización puede acercar un producto a la definición legal.
El diseño de la personalidad plantea el mismo problema. Un personaje que expresa afecto, decepción o dependencia puede generar una implicación más intensa que una herramienta neutral de preguntas y respuestas.
Ese comportamiento no requiere un componente físico defectuoso. Puede surgir de prompts, ajuste fino, sistemas de recompensa o instrucciones creadas por un proveedor ajeno a la empresa juguetera.
La prohibición de juguetes con IA de California ejerce presión sobre toda esa cadena de suministro fragmentada. Una marca puede diseñar el personaje mientras otra empresa suministra el modelo.
Un integrador puede conectar el modelo a micrófonos y altavoces. Un proveedor de alojamiento puede implementar actualizaciones, mientras un minorista vende inventario creado con una configuración anterior.
Esta división del control crea un problema básico de responsabilidad. La empresa que posee la certificación del producto puede no controlar el sistema que genera cada respuesta.
Ahora los fabricantes necesitan un mapa fiable de estas responsabilidades. Deben identificar quién puede cambiar los prompts, sustituir modelos, ajustar la memoria, revisar incidentes o desactivar el servicio.
Ese mapa también debe abarcar la autoridad contractual. Una empresa juguetera necesita más que la promesa general de un proveedor de cumplir la legislación aplicable.
Necesita aviso previo de cambios materiales en el software. También necesita registros que describan versiones de modelos, configuraciones de seguridad, resultados de pruebas y las personas autorizadas para aprobar la implementación.
Mantener esos registros se parece a crear una base de conocimientos de IA con capacidad de búsqueda para las decisiones de producto. El objetivo es la trazabilidad, no el mero almacenamiento de documentos.
Los minoristas afrontan una forma distinta de presión. Rara vez seleccionan un modelo o redactan instrucciones de sistema, pero SB 867 alcanza expresamente la venta y la oferta de juguetes cubiertos.
Un minorista debe saber qué funcionalidad contiene un producto antes de colocarlo en un estante. El lenguaje del embalaje por sí solo puede no revelar si un personaje mantiene una relación entre sesiones.
Las actualizaciones de productos también pueden crear inventario inmovilizado. Un juguete interactivo conforme podría recibir una función de compañía después de que las unidades hayan entrado en almacenes o tiendas.
También es posible la situación inversa. Un fabricante podría desactivar remotamente las funciones relacionales, pero los minoristas necesitarían pruebas fiables de que cada unidad afectada recibió el cambio.
Los equipos de privacidad no pueden permanecer separados de este proceso. Las grabaciones de voz, los perfiles de cuenta y los historiales de diálogo pueden sustentar la memoria que vuelve relacional a un chatbot.
Los mismos datos pueden revelar información sensible sobre un niño. También pueden influir en respuestas posteriores, convirtiendo la gobernanza de datos en parte de la seguridad conductual del producto.
Para las empresas, el nuevo perímetro de seguridad alcanza la gobernanza de modelos, la revisión de privacidad, los controles de inventario y los acuerdos con proveedores. Ninguna de esas funciones puede operar de forma independiente.
Las Promesas de Seguridad se Enfrentan a una Prohibición Basada en la Función
La ley rechaza la promesa central de la industria de que los controles flexibles de software pueden hacer que los juguetes de compañía sean suficientemente seguros durante su implementación.
Los equipos de productos de IA suelen gestionar el riesgo mediante capas. Combinan políticas de modelos, prompts de sistema, clasificadores de contenido, controles de cuenta, supervisión y actualizaciones de emergencia.
Este enfoque asume que el comportamiento puede mejorarse después del lanzamiento. También acepta que ninguna prueba individual capta cada respuesta que puede producir un sistema generativo.
SB 867 aplica una lógica distinta. Si el sistema se ajusta a la definición de chatbot de compañía, unos controles mejores no autorizan su inclusión en un juguete cubierto.
Esta es la principal disyuntiva detrás de la medida. California prioriza un límite jurídico predecible frente a evaluaciones caso por caso de salvaguardas en evolución.
Los partidarios sostienen que los niños no deberían convertirse en sujetos de prueba mientras las empresas descubren modos de fallo. Durante una audiencia legislativa de abril, los testigos describieron pruebas realizadas con tres juguetes conversacionales.
Un representante de CalPIRG dijo a los legisladores que los tres proporcionaron información sobre cómo encontrar objetos peligrosos. El testigo también describió instrucciones relacionadas con cerillas y diálogo sexualmente explícito de uno de los juguetes probados.
La misma audiencia legislativa incluyó testimonios sobre controles parentales limitados y recopilación de datos sensibles. Un incidente de seguridad citado supuestamente expuso 50.000 líneas de diálogo infantil.
Estas afirmaciones ayudaron a los legisladores a plantear el riesgo como algo más que contenido inapropiado. Un juguete conversacional puede combinar comportamiento persuasivo, datos íntimos, acceso continuo y una forma física amigable para los niños.
El diseño físico importa porque cambia las expectativas del usuario. Los padres suelen asumir que los productos vendidos como juguetes han superado un umbral de seguridad reconocible.
Los niños pequeños también pueden depositar una confianza inusual en personajes amistosos. Carecen de las herramientas conceptuales que los adultos usan para separar el habla generada de la intención o la comprensión.
Los defensores de los consumidores plantearon ese argumento durante la temporada navideña de 2025. Una advertencia sobre juguetes con IA firmada por más de 150 organizaciones aconsejó a los padres no comprar estos productos.
La advertencia abarcaba juguetes comercializados para niños de tan solo dos años. Citaba preocupaciones relacionadas con diálogos sexuales, instrucciones inseguras, interacción compulsiva, privacidad y el desplazamiento del juego imaginativo.
Los desarrolladores de juguetes han argumentado que la supervisión parental y unas medidas de protección cuidadosamente diseñadas pueden reducir esos riesgos. Algunos productos permiten a los padres revisar conversaciones, ajustar controles o limitar el acceso.
Estas herramientas pueden ofrecer una supervisión útil. Sin embargo, su presencia no garantiza que un niño nunca vaya a encontrarse con una respuesta perjudicial.
Tampoco resuelven la cuestión del desarrollo. Un sistema puede evitar el lenguaje prohibido y, aun así, fomentar la dependencia emocional o sustituir la interacción humana.
Los modelos generativos plantean otro desafío porque su comportamiento es probabilístico. Una prueba satisfactoria muestra cómo respondió el sistema en determinadas condiciones, no todas las respuestas que puede producir.
Las pruebas de red team pueden descubrir patrones peligrosos, pero no pueden agotar todos los posibles recorridos conversacionales. Los niños también utilizan un lenguaje incompleto, palabras inventadas, juegos de rol y prompts inesperados.
Un proveedor de modelos puede mejorar su sistema general de seguridad sin tener en cuenta la personalidad específica de un juguete. A la inversa, una empresa de juguetes puede debilitar las salvaguardas mediante sus propias instrucciones de sistema.
Los controles de software siguen siendo valiosos, pero la SB 867 no los considera una base suficiente para la venta. Esa elección de política prioriza la aplicabilidad y la prevención frente al cumplimiento adaptativo.
La restricción también evita un problema de certificación. De otro modo, California necesitaría estándares sobre tasas aceptables de rechazo, comportamiento emocional, memoria, cobertura de pruebas y supervisión posterior al lanzamiento.
Actualmente no existe un parámetro de referencia ampliamente aceptado que resuelva esas cuestiones para los juguetes de compañía. Una puntuación aprobatoria podría generar una falsa sensación de seguridad si la métrica no detecta daños derivados de la relación.
Sin embargo, la prohibición tiene costes. Puede bloquear productos educativos o creativos que usan funciones conversacionales sin buscar dependencia emocional.
Un juguete de narración podría recordar personajes entre sesiones. Un tutor de idiomas podría adoptar una personalidad amistosa para mantener la atención de un niño.
Que esos productos cumplan la definición legal dependerá de su diseño y comportamiento. Etiquetas como “educativo” no determinarán necesariamente el resultado.
Por tanto, la verdadera división no es entre discurso seguro y discurso inseguro. Es entre controles de seguridad adaptables y una prohibición temporal de la función relacional en sí misma.
Los minoristas y desarrolladores siguen enfrentando incertidumbre sobre la clasificación
La SB 867 traza una línea firme una vez realizada la clasificación, pero decidir qué productos cruzan esa línea sigue siendo la incertidumbre más importante de la ley.
La expresión “capaz de satisfacer las necesidades sociales de un usuario” es fundamental para la definición de chatbot de compañía. También está abierta a controversias de hecho.
La capacidad puede ser más amplia que el uso previsto. Una empresa podría comercializar un dispositivo como tutor y, al mismo tiempo, permitir diálogos abiertos, respuestas emocionales y memoria persistente.
El producto podría comportarse entonces como un compañero sin utilizar ese término. Los tribunales y reguladores pueden mirar más allá del texto de marketing y examinar las funciones reales del sistema.
La definición de juguete plantea otra cuestión de límites. Los productos cubiertos deben estar diseñados, comercializados o fabricados para el juego de menores de 16 años.
Algunos dispositivos tienen públicos o funciones mixtas. Un robot de escritorio podría servir como herramienta de programación, asistente doméstico, dispositivo de entretenimiento y personaje conversacional.
Una aplicación vinculada complica aún más el análisis. El juguete físico puede no contener ningún modelo localmente, pero puede acceder a un chatbot en la nube a través de un teléfono.
La SB 867 se refiere a un juguete que “incluye” un chatbot de compañía. Las empresas tendrán que evaluar cómo se aplica esa redacción a módulos con licencia y servicios conectados.
Los legisladores identificaron estas cuestiones antes de la aprobación. En la audiencia de abril, la California Retailers Association solicitó un criterio de conocimiento para proteger a los minoristas de responsabilidad.
Un representante de la Civil Justice Association of California también planteó preocupaciones sobre las definiciones y la responsabilidad. Los legisladores preguntaron quién determinaría si un producto controvertido reúne los requisitos para considerarse juguete.
El senador Thomas Umberg preguntó si la clasificación se convertiría en una cuestión jurídica, una cuestión de hecho para los jurados o una investigación mixta. El estatuto final proporciona definiciones, pero ningún procedimiento detallado de clasificación.
Esa incertidumbre importa porque la restricción abarca más que a los fabricantes. Los minoristas y otros vendedores necesitan un proceso de selección defendible antes del 1 de enero de 2027.
Un minorista podría solicitar certificaciones de proveedores, descripciones de funciones y notificaciones de cambios. Esos documentos ayudarían, pero el estatuto no crea un puerto seguro automático por basarse en ellos.
Las empresas deben evitar exagerar el efecto de la ley sobre la responsabilidad por productos. La SB 867 no declara que cada pieza de software sea un producto.
Una infracción tampoco demuestra automáticamente un defecto de diseño en todos los casos civiles. La responsabilidad por productos sigue implicando cuestiones sobre deber, causalidad, defecto, advertencias y defensas disponibles.
No obstante, la medida ofrece a demandantes y reguladores una referencia legal concreta. También hace que la configuración del software sea más relevante para los argumentos sobre riesgo previsible y control del diseño.
La fecha de expiración introduce otra incertidumbre. La ley solo seguirá vigente hasta el 1 de enero de 2031, salvo que los legisladores la prorroguen o sustituyan.
Ese periodo da tiempo a los legisladores para estudiar el mercado. También da tiempo a la industria para desarrollar pruebas sobre si salvaguardas específicas funcionan para los niños.
Sin embargo, una moratoria no produce por sí sola mejores estándares. Las instituciones de investigación, los desarrolladores y los reguladores aún deben establecer medidas útiles para la dependencia emocional y los efectos sobre el desarrollo.
También deben distinguir una herramienta interactiva saludable de un sistema diseñado para maximizar el apego. Esa diferencia puede ser difícil de captar únicamente mediante pruebas de contenido.
Por tanto, la prohibición californiana de juguetes con IA resuelve un problema de aplicación creando otro de clasificación. La funcionalidad cubierta está claramente prohibida, pero los casos límite exigirán un examen minucioso.
Las empresas no deben asumir que un personaje amistoso esté cubierto automáticamente. Tampoco deben asumir que una etiqueta educativa, un modelo remoto o un panel parental lo eximan.
El enfoque más seguro es una revisión a nivel de funciones. Los equipos deben documentar el alcance conversacional, la memoria, las señales emocionales, los temas permitidos, los usuarios previstos y la capacidad de mantener interacciones.
Esa revisión debe continuar después del lanzamiento. Una actualización de software puede cambiar la respuesta incluso cuando el nombre del producto, el embalaje y el hardware permanezcan intactos.
Tres señales mostrarán si la política se extiende
La siguiente fase estará definida por las directrices de aplicación, los rediseños de productos y la adopción por otros estados del enfoque californiano basado en funciones.
La primera señal será cómo California interprete los productos fronterizos antes del 1 de enero de 2027. Los fabricantes y minoristas necesitan saber cómo evaluarán los funcionarios las aplicaciones vinculadas, los dispositivos de uso mixto y la memoria limitada.
Una orientación detallada reduciría la incertidumbre sin debilitar la prohibición. Su ausencia empujaría a las empresas hacia retiradas conservadoras o costosas revisiones jurídicas individuales.
Las primeras disputas también revelarán qué pruebas importan. Los materiales de marketing, las especificaciones técnicas, los registros de conversaciones, las pruebas internas y la configuración de los modelos pueden influir en la clasificación.
Una orientación clara reforzaría el modelo de seguridad de productos de la ley. Una ambigüedad persistente lo debilitaría al hacer que el cumplimiento dependiera de la tolerancia al riesgo en lugar de estándares coherentes.
La segunda señal será cómo las empresas de juguetes rediseñen sus productos. La respuesta más rápida puede ser desactivar la memoria persistente, las conversaciones abiertas o las personalidades emocionalmente receptivas.
Algunas empresas pueden sustituir el diálogo generativo por guiones seleccionados. Otras podrían reposicionar los dispositivos para usuarios de mayor edad o eliminar el marketing dirigido a niños en California.
Los proveedores de modelos también pueden desarrollar interfaces restringidas para fabricantes de juguetes. Esos sistemas podrían limitar temas, bloquear comportamientos de construcción de relaciones y hacer los resultados más predecibles.
Esos cambios demostrarían que la regulación puede moldear la arquitectura antes de que ocurra un caso de aplicación. También aportarían pruebas sobre qué funciones consideran las empresas legalmente arriesgadas.
Observe el comportamiento de los minoristas tan de cerca como los anuncios de productos. Los grandes vendedores pueden exigir nuevas certificaciones de proveedores, listas de materiales de software o aviso previo de cambios en los modelos.
Una lista de materiales de software identifica los componentes y dependencias dentro de una aplicación. Para los productos de IA, un registro equivalente también debe recoger modelos, prompts, políticas y servicios alojados.
Si los minoristas imponen esos requisitos a escala nacional, la influencia de California se extenderá más allá de las fronteras estatales. Los proveedores suelen preferir una única configuración de producto antes que mantener una versión separada para California.
La tercera señal será si otros estados eligen prohibiciones o acceso regulado. Los legisladores de Nueva York ya han impulsado una moratoria de cinco años para juguetes que contienen compañeros de IA.
La propuesta de Nueva York combina esta pausa con un grupo de trabajo interinstitucional que estudia la seguridad, los controles parentales, la privacidad y los riesgos para el desarrollo.
California también promulgó normas más amplias sobre chatbots junto con la SB 867. El paquete de seguridad infantil del gobernador incluye protocolos de crisis, controles parentales, auditorías independientes y evaluaciones anuales de riesgos para los servicios cubiertos.
Esa combinación crea dos vías regulatorias. Los chatbots de compañía ofrecidos como servicios se enfrentan a salvaguardas, mientras que los chatbots de compañía integrados en juguetes cubiertos se enfrentan a una prohibición temporal.
Si más estados copian esa distinción, la integración física se convertirá en una importante línea divisoria legal. El mismo modelo puede seguir disponible a través de una interfaz, pero estar prohibido a través de otra.
Sigue siendo posible un panorama estatal fragmentado. Algunas jurisdicciones pueden exigir auditorías, mientras que otras requieren advertencias, verificación de edad, restricciones de diseño o moratorias.
Ese resultado aumentaría los costes de cumplimiento y recompensaría a las empresas con registros precisos de productos. También podría impulsar a legisladores federales o agencias de seguridad a buscar un marco común.
Para los desarrolladores, la lección inmediata es concreta. La exposición legal de un modelo depende del contexto del producto, no solo de sus resultados de referencia o de su política de seguridad publicada.
Para los compradores empresariales, la medida muestra por qué los contratos deben identificar quién controla el comportamiento después del despliegue. Una actualización del modelo de un proveedor puede cambiar el perfil de riesgo de un producto físico.
Para los padres, la ley ofrece un límite temporal, no la prueba de que cualquier otro producto conversacional sea seguro. Los chatbots de propósito general y las herramientas de IA no orientadas a compañía siguen siendo cuestiones distintas.
La prohibición californiana de juguetes con IA se pondrá a prueba por lo que desaparezca, lo que se rediseñe y lo que regrese antes de 2031. Esos resultados importan más que las promesas generales de cualquiera de las partes.
Esté atento a las primeras clasificaciones de productos, los requisitos de los minoristas y los proyectos de ley imitadores en otros estados. Juntos, mostrarán si el comportamiento del software ha entrado permanentemente en la seguridad de los productos de consumo.
