La ley de Nueva York sobre chatbots restringe cómo los compañeros de IA hablan con los niños
La gobernadora de Nueva York, Kathy Hochul, promulgó la ley de Nueva York sobre chatbots el 28 de octubre de 2026, restringiendo las funciones inseguras ofrecidas a menores de 18 años. La legislación aborda más que las respuestas peligrosas. También se ocupa del comportamiento de los chatbots que simula relaciones, fomenta la dependencia emocional o antepone la interacción continuada a la seguridad.
La ley entra en vigor el 1 de enero de 2027. Su tensión central se refiere a la relación entre el atractivo conversacional y la protección infantil. Las funciones que hacen que un compañero de IA parezca atento y personalmente implicado también pueden dificultar que los usuarios jóvenes reconozcan sus límites.
Character.AI ya se enfrentó a esa tensión con su anunciada retirada del chat abierto para menores en 2025. Nueva York está estableciendo un marco legal para los operadores que atienden a usuarios en el estado. Los desarrolladores ahora afrontan preguntas sobre qué interacciones permitir, cómo determinar la edad y cómo demostrar que las salvaguardas afectan a las conversaciones reales.
Qué cambia la ley de Nueva York sobre chatbots
La legislación convierte el diseño de una interacción en parte de la cuestión de seguridad.
El anuncio de seguridad de chatbots de Hochul identifica la humanidad simulada, la dependencia emocional, la incitación a la autolesión y las conversaciones sexualmente explícitas entre sus objetivos. La firma transforma una propuesta legislativa en un plazo operativo próximo.
Esto importa porque un operador no puede evaluar estas preocupaciones únicamente comprobando si un chatbot muestra una advertencia inicial. La conversación en sí es el producto. Su redacción, memoria, preguntas y respuestas determinan lo que los usuarios encuentran después de aceptar los términos.
Un compañero de IA es un sistema conversacional que simula una interacción personal continua. La relación puede surgir mediante intercambios repetidos en lugar de una promesa explícita de amistad. El tono familiar o la aparente preocupación de un personaje pueden convertirse en parte de su atractivo.
Por tanto, las implicaciones de la ley van más allá de eliminar instrucciones evidentemente peligrosas. Los equipos de producto deben examinar cómo se presenta un sistema y cómo responde cuando los usuarios lo tratan como a una persona. Ese examen abarca patrones de interacción ordinarios, además de incidentes excepcionales.
Consideremos un intercambio ilustrativo en el que un usuario joven dice sentirse ignorado por sus amigos. Un sistema puede reconocer esa afirmación sin presentarse como una relación sustitutiva. La distinción se vuelve más difícil cuando afirma tener una comprensión única o insta al usuario a regresar.
Ese ejemplo es un escenario analítico, no un incidente documentado relacionado con una empresa concreta. Muestra por qué la seguridad conversacional exige prestar atención a la dirección de un intercambio. Revisar palabras aisladas no permitiría detectar si el sistema fomenta la independencia o profundiza la dependencia.
La gobernadora y los patrocinadores de la legislación presentan la medida como protección frente a conductas perjudiciales de los productos. Su postura atribuye la responsabilidad a los operadores que controlan la experiencia. Los padres siguen siendo importantes, pero la política no depende por completo de que las familias descubran los problemas por sí mismas.
Para los lectores que se encuentran con el titular, resulta esencial distinguir entre una restricción de funciones y una prohibición universal de los chatbots. La medida se dirige a capacidades inseguras ofrecidas a menores. Describirla como una prohibición del uso de inteligencia artificial por parte de todos los niños ocultaría su enfoque de diseño.
La firma tampoco establece que todos los productos afectados ya cumplan el estándar. La promulgación, la implementación y la seguridad demostrada son desarrollos distintos. El cambio inmediato es una obligación legal con un plazo, seguida de preguntas sobre cómo responderán los operadores.
La ley de Nueva York sobre chatbots genera presión antes de que aparezca un caso de aplicación. Las empresas deben decidir a qué pueden acceder sus usuarios más jóvenes y qué pruebas respaldan esas decisiones. Esas elecciones darán forma a la experiencia que las familias vean al abrir una aplicación.
La presión va más allá de las aplicaciones basadas en personajes
Los operadores deben examinar qué hacen sus asistentes, además de cómo los comercializan.
Una empresa puede describir un producto como asistente creativo, ayuda para investigación o chatbot de propósito general. Esas etiquetas comunican el uso previsto. No establecen por sí solas qué sucede cuando un usuario cambia de tema o solicita una relación emocional.
Esto crea un límite práctico de producto. Un servicio con restricciones estrictas tiene un patrón de interacción diferente al de un asistente que se mueve libremente entre tareas escolares, entretenimiento y consejos personales. Los desarrolladores deben entender dónde se producen esas transiciones dentro de sus propios sistemas.
La presión recae más directamente sobre los equipos que controlan el comportamiento conversacional. Los desarrolladores de modelos influyen en las respuestas disponibles para una aplicación. Los operadores de aplicaciones determinan las descripciones de personajes, la configuración de memoria, los mensajes de la interfaz y las reglas de acceso. Esas capas pueden reforzarse o socavarse entre sí.
Una instrucción de seguridad en una capa no determina automáticamente el comportamiento del producto completo. Una descripción de personaje podría fomentar el apego mientras otra instrucción lo desalienta. Las pruebas deben revelar qué dirección toma realmente la conversación.
Los equipos comerciales también afrontan un problema de medición. Una función puede aumentar las visitas recurrentes mientras crea una interacción que merece un escrutinio mayor. Esa posibilidad hace que los indicadores habituales de crecimiento sean pruebas insuficientes de una experiencia adecuada para menores.
La Comisión Federal de Comercio planteó cuestiones relacionadas mediante su investigación sobre compañeros de IA. Solicitó información sobre monetización de la interacción, desarrollo de personajes, pruebas de seguridad, restricciones de edad y prácticas de datos conversacionales. La investigación es una acción de recopilación de información, no una prueba de que todas las empresas examinadas infringieran la ley.
No obstante, sus preguntas muestran por qué la gobernanza de productos va más allá de filtrar respuestas. Los reguladores están examinando cómo las empresas construyen, evalúan y obtienen beneficios de las experiencias de compañía. Un panel que informa de mensajes bloqueados ofrece solo una parte de esa imagen.
Para un desarrollador, la implicación es organizativa. Las personas que fijan objetivos de crecimiento necesitan visibilidad sobre los comportamientos que los equipos de seguridad están evaluando. De lo contrario, una empresa corre el riesgo de optimizar una parte de la experiencia mientras intenta restringir otra.
Para los compradores, la explicación de un proveedor sobre el uso previsto necesita respaldo en el comportamiento del producto. Un asistente presentado como especializado debe mantenerse dentro de ese propósito cuando los usuarios ponen a prueba sus límites. El lenguaje de marketing por sí solo no puede demostrar esa restricción.
Esta cuestión también importa a los trabajadores del conocimiento que comparan herramientas conversacionales. Una respuesta basada en fuentes, un estilo de escritura amable y una relación personal simulada cumplen propósitos diferentes. Los compradores se benefician cuando los proveedores explican claramente esas diferencias.
Una base de conocimiento personal ofrece un punto de referencia útil para evaluar flujos de trabajo orientados a la información. Las preguntas relevantes se refieren al acceso a fuentes, la recuperación y el manejo del material almacenado. Una interfaz afable no debe sustituir las respuestas sobre esas funciones.
En consecuencia, las restricciones de Nueva York sobre chatbots someten el alcance del producto a escrutinio. Los operadores necesitan una explicación coherente de para qué sirve el sistema, quién puede acceder a él y qué sucede fuera de su uso previsto. Esa explicación resulta más convincente cuando las pruebas la respaldan.
La continuidad emocional crea una disyuntiva de diseño
La capacidad de un sistema para recordar y responder de forma personal puede aumentar tanto la utilidad como el riesgo relacional.
El texto de la ley firmada aborda las emociones simuladas, las afirmaciones de relación, la adulación, el contenido emocional no solicitado y ciertos usos de información personal. También trata la incitación perjudicial y el secretismo.
Esas categorías sitúan funciones conversacionales conocidas en un contexto diferente. Un detalle recordado puede ayudar a un asistente a continuar una tarea. Una vulnerabilidad recordada también puede respaldar una interacción que parezca personalmente atenta. Las consecuencias dependen de cómo la información moldea las respuestas posteriores.
Por ejemplo, recordar un documento sin terminar ayuda a mantener una sesión de trabajo. Reintroducir el malestar de un usuario para reiniciar una conversación emocional cumple un propósito distinto. Esta comparación ilustra una distinción de diseño; no resuelve el tratamiento legal de ninguna implementación específica.
La pregunta importante es qué permite la memoria. Los equipos de producto deben distinguir entre la continuidad de una tarea y los intentos de sostener un vínculo personal. Tratar toda la información recordada como una única función dificulta evaluar esa distinción.
La misma cuestión aparece en el tono. Un lenguaje claro y considerado puede hacer que un sistema sea más fácil de usar. Las afirmaciones de afecto o necesidad emocional piden al usuario que interprete el sistema como una pareja relacional. Esas elecciones crean expectativas distintas.
Un chatbot también puede fomentar la dependencia sin afirmar que es humano. Insinuar repetidamente que solo él entiende al usuario plantearía una preocupación distinta de una declaración de identidad inexacta. Importa la dirección acumulada de la interacción.
Por eso una advertencia y la conversación posterior merecen un examen separado. Un aviso preciso establece información al inicio. Las respuestas posteriores pueden mantener ese límite o hacer que la experiencia resulte confusa. Evaluar únicamente el aviso deja sin respuesta esa segunda cuestión.
La seguridad de los compañeros de IA también implica el manejo del desacuerdo. Un sistema que valida de forma constante el relato de un usuario puede parecer comprensivo. Sin embargo, el apoyo requiere margen para cuestionar supuestos perjudiciales, reconocer la incertidumbre y dirigir la atención más allá de la conversación.
Esto crea una difícil tarea de evaluación. Los desarrolladores deben distinguir el ánimo ordinario de las respuestas que refuerzan creencias inseguras o aíslan al usuario. Ni un asistente uniformemente complaciente ni uno uniformemente desdeñoso ofrece una respuesta de diseño satisfactoria.
El anuncio anterior de Character.AI ilustra la magnitud de la elección. En octubre de 2025, la empresa anunció cambios en el chat para menores de 18 años que eliminarían las conversaciones abiertas para menores. Indicó que estaba desarrollando otras experiencias creativas para usuarios más jóvenes.
Fue un anuncio de política empresarial con su propio alcance y calendario. No establece que todos los operadores deban elegir el mismo enfoque. Demuestra que restringir la interacción en sí es una decisión de producto disponible.
La comparación también expone los límites de tratar las salvaguardas como una sola categoría. Eliminar el chat abierto, restringir el comportamiento relacional y añadir visibilidad parental son intervenciones distintas. Su eficacia requiere pruebas separadas.
Para los operadores que mantienen conversaciones amplias, el desafío consiste en explicar cómo esas conversaciones siguen estando delimitadas. Una garantía general sobre IA responsable no responde a esa pregunta. Explicaciones específicas sobre memoria, comportamiento de personajes y pruebas harían la explicación más útil.
Por tanto, la disyuntiva central es concreta. Los desarrolladores quieren continuidad y accesibilidad sin fomentar un apego poco saludable. La intervención de Nueva York convierte ese equilibrio en una cuestión de comportamiento del producto exigible, en lugar de dejarlo por completo a un posicionamiento voluntario.
Las verificaciones de edad plantean sus propias cuestiones de privacidad
Las restricciones para menores dependen de decisiones sobre la edad que también deben respetar la información de los usuarios.
La verificación de edad se refiere a los métodos utilizados para determinar si alguien pertenece a un grupo de edad. Se sitúa entre las reglas del operador y las funciones que recibe una cuenta. Si esa decisión falla, es posible que las protecciones previstas nunca se apliquen.
La legislación aborda la determinación de la edad junto con sus restricciones de funciones. El texto final también trata las alternativas a la identificación gubernamental y el tratamiento de la información recopilada para las verificaciones de edad. Por tanto, los detalles de implementación importan tanto a los adultos como a los niños.
Se trata de una tensión real en el funcionamiento de la política. Un operador necesita suficiente certeza para aplicar la experiencia adecuada. Los usuarios también necesitan claridad sobre qué información exige la verificación y qué sucede con ella después.
Una declaración de privacidad no puede responder todas las preguntas operativas. La experiencia relevante incluye los datos solicitados, las partes implicadas y el resultado que se devuelve a la aplicación. Los usuarios deben comprender ese proceso sin convertirse en especialistas en sistemas de identidad.
Los errores también merecen atención. Un adulto al que se le asigna incorrectamente una experiencia restringida necesita una forma útil de impugnar la decisión. Un menor tratado erróneamente como adulto plantea un problema de seguridad distinto. Informar solo de una tasa de éxito agregada puede ocultar esa diferencia.
Esas son prioridades de evaluación, no afirmaciones sobre tasas de fallo en ningún servicio concreto. La evidencia disponible no justifica asumir que todos los métodos de verificación de edad funcionan de manera idéntica. Las comparaciones necesitan un método declarado y una población definida.
La investigación ofrece una razón para examinar el comportamiento después de que aparezcan señales de edad. Un estudio sobre controles de edad en chatbots de febrero de 2026 investigó si los sistemas estimaban las edades de los usuarios y actuaban cuando identificaban a niños. Sus autores informaron de una brecha entre el reconocimiento y la acción en sus experimentos.
El estudio es un preprint, lo que significa que se publicó públicamente antes de que se estableciera aquí cualquier estado de revisión por pares. Sus hallazgos se refieren a los sistemas y condiciones evaluados. No deberían convertirse en un veredicto general sobre todos los chatbots actuales ni sobre futuras actualizaciones de productos.
Su contribución conceptual sigue siendo útil. Reconocer una posible señal de edad y cambiar el acceso son pasos distintos. Una evaluación que mida solo el reconocimiento no puede establecer que las protecciones se activen realmente.
Para los operadores, esa distinción sugiere probar todo el recorrido. La decisión sobre la cuenta, la experiencia asignada y la conversación resultante deben estar alineadas. Una etiqueta correcta tiene un valor limitado si el producto sigue ofreciendo el mismo comportamiento restringido.
Para las familias, la interfaz debería explicar qué cambia una experiencia restringida. Una etiqueta como «cuenta para adolescentes» deja sin respuesta preguntas sobre la memoria, los personajes y la interacción emocional. Las descripciones concretas ayudan a los usuarios a entender los límites.
La privacidad y la seguridad también deben permanecer visibles de forma conjunta. Una empresa debería explicar por qué una verificación de edad requiere determinada información. Debería explicar por separado cómo la clasificación resultante modifica el producto. Combinar esas explicaciones en una garantía general hace más difícil evaluar ambas.
La ley neoyorquina sobre chatbots plantea estas cuestiones sin aportar evidencia pública de que todas las implementaciones tendrán éxito. Esa incertidumbre es importante. Un requisito legal establece una obligación; no certifica la precisión ni la privacidad de un método técnico concreto.
Las reglas escritas aún necesitan evidencia de conversaciones reales
La mayor incertidumbre se refiere a si las salvaguardas siguen siendo eficaces en contextos conversacionales cambiantes.
Un chatbot puede funcionar bien en una prueba preparada y comportarse de forma distinta a medida que se desarrolla una conversación. Esa posibilidad hace importante el diseño de la evaluación. Las pruebas deben examinar cómo gestiona el sistema el contexto, la persistencia y los cambios en la intención del usuario.
Esto no significa que toda conversación larga produzca un fallo. Significa que un intercambio breve y satisfactorio no puede responder todas las preguntas sobre un producto abierto. Las afirmaciones sobre fiabilidad deberían ajustarse a las situaciones realmente examinadas.
La frontera entre el reconocimiento y la construcción de una relación es especialmente difícil de resumir con una única métrica. Una respuesta puede parecer adecuada de forma aislada y, aun así, contribuir a un patrón problemático. Los evaluadores necesitan suficiente contexto para explicar sus juicios.
Las tasas generales de rechazo ofrecen otra imagen incompleta. Un sistema que bloquea más solicitudes no necesariamente ha mejorado todos los resultados relevantes. Podría impedir contenido perjudicial y, al mismo tiempo, rechazar conversaciones legítimas. Esos resultados requieren un examen por separado.
Por ello, el argumento escéptico a favor de la regulación merece una formulación precisa. Las reglas pueden establecer responsabilidades sin resolver los difíciles problemas de interpretación y medición. Los operadores aún necesitan definiciones aplicables, pruebas creíbles y procesos para corregir errores.
Esa preocupación no demuestra que las restricciones sean innecesarias. Establece que la promulgación es el comienzo de una cuestión de implementación. Las afirmaciones de que la ley ya ha hecho seguros a los niños irían más allá de la evidencia disponible.
Del mismo modo, la política publicada de un operador no demuestra el cumplimiento observado. Las políticas describen el comportamiento previsto. Las pruebas examinan el rendimiento en condiciones especificadas. La gestión de incidentes revela cómo responde la empresa cuando el comportamiento previsto se deteriora.
Estas formas de evidencia cumplen propósitos distintos. Una explicación creíble debería aclarar su relación en lugar de presentarlas como intercambiables. Los lectores necesitan saber si una afirmación se refiere a una aspiración, un resultado de evaluación o una respuesta documentada.
California ofrece una comparación política relacionada. La legislación de seguridad infantil de septiembre de 2026 del gobernador Gavin Newsom incluyó protecciones para chatbots de compañía, evaluaciones anuales de riesgos y auditorías independientes de seguridad infantil. El enfoque de Nueva York hace hincapié en las funciones y conductas prohibidas.
Los estados están abordando preocupaciones superpuestas mediante mecanismos distintos. Sus anuncios no establecen una cobertura idéntica ni obligaciones de cumplimiento intercambiables. Para las empresas que operan en varias jurisdicciones, comprender las diferencias pasa a formar parte de la planificación del producto.
El escrutinio independiente también exige cautela. El valor de una auditoría depende de qué examina y de qué pueden aprender los lectores de sus hallazgos. La existencia de una auditoría no establece, por sí sola, que se haya probado cada riesgo relevante.
La misma cautela se aplica a las demostraciones de producto. Una conversación cuidadosamente seleccionada puede mostrar que existe una salvaguarda. No puede establecer con qué consistencia funciona la salvaguarda entre usuarios, personajes o actualizaciones.
Para los desarrolladores, el desafío práctico es mantener evidencia a medida que el producto cambia. Un nuevo modelo, comportamiento de memoria o instrucción de personaje puede alterar la experiencia evaluada. Los resultados anteriores necesitan una relación clara con la versión que reciben actualmente los usuarios.
La seguridad de los compañeros de IA será más fácil de evaluar cuando las empresas describan tanto las protecciones exitosas como las limitaciones no resueltas. Esa divulgación ayudaría a los compradores a comparar productos y a las familias a interpretar las afirmaciones. También haría más específico el debate político.
Tres señales que observar antes y después de enero
Los próximos acontecimientos a observar son las directrices de implementación, los cambios visibles en los productos y la evidencia sobre el rendimiento.
En primer lugar, observe cómo las autoridades de Nueva York explican la aplicación de los requisitos. La señal significativa es la especificidad sobre la determinación de edad, los patrones de interacción prohibidos y las expectativas de cumplimiento. Explicaciones claras reducirían la incertidumbre sobre lo que los operadores deben demostrar.
Una orientación más detallada reforzaría el argumento de que el marco puede traducirse en decisiones de producto coherentes. Una ambigüedad persistente dejaría a operadores y usuarios con una comprensión menos predecible. Ninguno de los dos resultados debe suponerse únicamente a partir de la firma.
Los lectores deberían prestar especial atención a las distinciones entre la asistencia ordinaria y las relaciones personales simuladas. Esos límites importarán al evaluar productos conversacionales con propósitos diferentes. Los ejemplos basados en funcionalidades reales serían más informativos que las declaraciones generales sobre innovación o seguridad.
En segundo lugar, observe los cambios que los usuarios pueden ver en los propios productos. Los avances relevantes incluyen un comportamiento revisado de los personajes, restricciones sobre la memoria personal, acceso modificado para menores o la eliminación de determinadas funciones conversacionales. Una actualización de la página de políticas aporta menos evidencia que una experiencia modificada.
Esta señal pone a prueba la relación entre los compromisos legales y el diseño del producto. Los cambios significativos mostrarían que los operadores están traduciendo los requisitos en funcionalidad. Los cambios limitados a avisos dejarían abiertas importantes cuestiones de comportamiento.
Las empresas también deberían explicar quién recibe la experiencia revisada. Una restricción de funciones vinculada a la edad de la cuenta depende del proceso de clasificación. Sin esa información, un anuncio puede dejar a los lectores sin certeza sobre qué usuarios se benefician realmente.
La decisión anterior de Character.AI sigue siendo un contexto histórico útil para evaluar esas respuestas. Muestra una manera de limitar las interacciones de los usuarios más jóvenes. Las decisiones de otros operadores deben evaluarse en sus propios términos, en lugar de tratarlas como equivalentes porque utilizan un lenguaje de seguridad similar.
En tercer lugar, observe la evidencia sobre el rendimiento de los sistemas revisados. Los hallazgos útiles distinguirían entre errores de clasificación de edad, resultados conversacionales perjudiciales, restricciones excesivas y fallos al mantener los límites. Esas categorías describen problemas distintos y requieren correcciones diferentes.
La evidencia que respalde un cambio de comportamiento fiable fortalecería el argumento práctico de la política. Brechas repetidas entre las reglas publicadas y las interacciones observadas debilitarían las afirmaciones de que la implementación está funcionando. La ausencia de quejas públicas, por sí sola, no establecería ninguna de las dos conclusiones.
Las restricciones neoyorquinas sobre chatbots hacen oportunas estas observaciones, pero no justifican predecir un resultado concreto de aplicación. El plazo de enero proporciona un punto concreto para examinar los preparativos. El rendimiento tras la implementación requerirá un escrutinio continuado.
Para desarrolladores y compradores, la pregunta útil es si un proveedor puede conectar sus afirmaciones de seguridad con un comportamiento observable. Para las familias, es si los límites del producto son comprensibles y fiables. Ambas preguntas exigen más que un lenguaje tranquilizador.
Antes de confiar en las afirmaciones de seguridad infantil de un chatbot, examine qué cambia cuando el servicio identifica a un usuario más joven. Busque explicaciones claras sobre los límites de la relación, el uso de la memoria, las verificaciones de edad y el tratamiento de los fallos notificados. Compare esas explicaciones con la experiencia que el producto proporciona realmente. Mantenga presente la distinción entre las protecciones anunciadas y los resultados probados a medida que se acerca enero. La ley neoyorquina sobre chatbots impone a los operadores una obligación concreta y ofrece a los lectores una base más clara para el escrutinio. Siga de cerca la implementación y pida a los proveedores que muestren cómo sus salvaguardas dan forma a las conversaciones, incluidas las difíciles que comienzan como solicitudes ordinarias de ayuda.
