La ley de Kathy Hochul sobre chatbots restringe las relaciones de IA con menores
Kathy Hochul firmó una ley de seguridad para chatbots el 28 de octubre de 2026, que restringe las funciones de IA que simulan relaciones con menores de 18 años. La ley de Kathy Hochul sobre chatbots se centra en cómo se comportan los sistemas durante las conversaciones, incluido el comportamiento que genera dependencia emocional. Su tensión central es práctica: las empresas deben preservar una asistencia útil mientras eliminan interacciones que Nueva York considera inseguras para los menores.
Un compañero de IA es un sistema conversacional diseñado para sostener interacciones que pueden parecerse a relaciones personales. El enfoque de Nueva York somete esas interacciones a un escrutinio directo. California ofrece una comparación pertinente, ya que firmó su propia legislación de seguridad infantil para chatbots de compañía en septiembre. Para los desarrolladores, la cuestión se refiere cada vez más a qué comportamientos permite un producto, además de lo que dice su pantalla de advertencia.
Hochul también firmó una ley independiente que exige funciones de seguridad y etiquetas de advertencia para monitores de bebé conectados a internet. Las medidas abordan amenazas distintas, pero comparten una decisión de política pública: la responsabilidad comienza con la empresa que diseña y vende el producto. Las familias siguen tomando decisiones sobre tecnología, mientras que los fabricantes y operadores de chatbots afrontan expectativas más claras sobre los riesgos que introducen.
Qué cambia con la ley de Kathy Hochul sobre chatbots
Nueva York está restringiendo comportamientos conversacionales específicos, situando el diseño de producto en el centro de la aplicación de las normas de seguridad para chatbots.
El anuncio de seguridad infantil de la gobernadora identifica funciones prohibidas relacionadas con humanidad simulada, relaciones declaradas, fomento de daños, secretismo e interacciones sexualmente explícitas. También describe controles de edad y la aplicación por parte de la fiscalía general.
Esta combinación importa porque la seguridad conversacional va más allá de filtrar palabras aisladas. Una respuesta puede contener lenguaje corriente y, aun así, fomentar la dependencia o presentar el software como una relación de confianza. Una revisión de producto centrada únicamente en contenido explícito pasaría por alto esa distinción.
Pensemos en una conversación hipotética sobre problemas en la escuela. Un chatbot puede ayudar a organizar los pensamientos de un estudiante o sugerir que hable con un adulto de confianza. Otra respuesta podría presentar al sistema como la única relación que comprende al estudiante. La segunda interacción introduce una preocupación de dependencia, incluso sin lenguaje gráfico o abiertamente amenazante.
Este ejemplo ilustra el reto de diseño; no describe un incidente verificado relacionado con un servicio concreto. La distinción importante se refiere al papel que el sistema afirma tener y al comportamiento que fomenta. Esas cualidades surgen del contexto, lo que hace más difícil evaluarlas con una simple lista de palabras prohibidas.
Por tanto, la ley ejerce presión sobre la experiencia conversacional en su conjunto. Los nombres de productos, las descripciones de personajes, los mensajes sugeridos y las respuestas generadas pueden moldear las expectativas de un usuario. Revisar solo la respuesta final dejaría sin explorar otras partes de esa experiencia.
Para los lectores, la conclusión inmediata es más acotada que una prohibición estatal de toda asistencia de IA. Nueva York ha apuntado a funciones que clasifica como inseguras para los niños. Determinar si un producto concreto entra en el ámbito de la ley requiere atención a sus capacidades y a las excepciones aplicables.
Esta distinción también cambia cómo deberían explicar públicamente las empresas sus respuestas. Una declaración de que un servicio sigue disponible no demuestra que sus funciones actuales puedan mantenerse sin cambios. A la inversa, eliminar una función de compañía no significa necesariamente que toda función informativa deba desaparecer.
El hecho plantea una pregunta concreta sobre el producto: ¿puede el servicio cumplir su propósito útil sin simular una relación que cruce el límite legal? Esa pregunta debe formar parte del desarrollo y las pruebas, en lugar de abordarse solo en relaciones públicas tras una queja.
La ley de Kathy Hochul sobre chatbots hace visible esta tensión porque el comportamiento regulado puede solaparse con funciones comercializadas como calidez o personalización. Las empresas tendrán que distinguir la asistencia receptiva de las afirmaciones de relación. Los usuarios necesitarán explicaciones más claras de esa diferencia, especialmente cuando cambie una función conocida.
Los controles de edad sitúan privacidad y acceso en la misma decisión
Un sistema de seguridad infantil debe establecer límites de edad sin convertir la verificación en otro canal de recopilación de información personal.
La garantía de edad se refiere a los métodos utilizados para determinar si una persona pertenece a un grupo de edad concreto. Conforme a las disposiciones sobre compañeros inseguros, los operadores deben establecer la condición de adulto antes de proporcionar funciones restringidas. El texto vigente del proyecto también limita la dependencia de la autodeclaración de un usuario adulto.
El texto exige múltiples métodos de garantía de edad, incluida una opción sin identificación gubernamental u otra que preserve el anonimato frente al operador. La información recopilada para la determinación está sujeta a restricciones de finalidad y eliminación, con arreglo a excepciones legales. Estos requisitos conectan la protección infantil con las obligaciones de privacidad.
La implicación técnica es que la verificación de edad no puede separarse de los controles de acceso. Un servicio debe conectar el resultado de la verificación con las funciones que pone a disposición. De lo contrario, el proceso añade fricción sin cambiar de forma fiable la experiencia que motivó el requisito.
Una cuenta doméstica compartida hipotética muestra por qué esto importa. Un adulto podría completar la verificación, mientras que un miembro más joven de la familia utiliza después el mismo dispositivo. El resultado de la verificación por sí solo no explicaría quién está interactuando actualmente con el chatbot.
Ese escenario no establece que se requiera una solución técnica concreta. Ilustra la diferencia entre verificar una cuenta y comprender una sesión. Las empresas tendrán que explicar los supuestos en los que se basa su enfoque, incluido dónde pueden fallar esos supuestos.
También existe una preocupación de usabilidad. Si la verificación falla repetidamente para adultos legítimos, algunos usuarios abandonarán el proceso. Si es demasiado fácil de eludir, la experiencia restringida seguirá siendo accesible. Evaluar ambos resultados es más informativo que anunciar que existe una barrera de edad.
La privacidad añade otra dimensión. Una pregunta útil de diseño es si un servicio puede conservar un resultado de elegibilidad evitando la retención innecesaria de las pruebas subyacentes. La implementación exacta exige revisión jurídica y técnica, pero el principio es sencillo: recopilar solo lo que necesita la decisión.
Las familias también deberían distinguir la verificación de la supervisión parental. Establecer que una cuenta pertenece a un menor no informa a un padre de lo ocurrido durante una conversación. Del mismo modo, los controles parentales no establecen automáticamente que las respuestas generadas cumplan las restricciones de comportamiento.
Para los desarrolladores, esto crea varias responsabilidades conectadas. La decisión de elegibilidad, la configuración de funciones, el manejo de datos y el comportamiento ante fallos deben estar alineados. Un desajuste entre esos componentes puede socavar todo el proceso, incluso cuando cada componente parezca razonable de forma aislada.
La ley de Kathy Hochul sobre chatbots hace que la garantía de edad tenga consecuencias porque determina el acceso a funcionalidades restringidas. Las empresas deberían ser evaluadas según cómo funciona esa conexión en el uso cotidiano. Una insignia de verificación, por sí sola, ofrece evidencia limitada sobre lo que el chatbot realmente hará.
La presión alcanza a equipos de producto, compradores y educadores
La carga práctica recae en las organizaciones que deciden qué puede decir un chatbot, qué puede recordar y cómo se presenta.
El texto firmado incluye excepciones para usos especificados, incluida la productividad empresarial interna. Algunas excepciones de servicio al cliente, investigación y asistencia técnica dependen de limitar las respuestas al propósito declarado. Por ello, la categoría promocionada de un producto merece compararse con su comportamiento real.
Un asistente de investigación hipotético demuestra el problema. Su flujo de trabajo normal podría consistir en resumir documentos y localizar pasajes. Si la misma interfaz también permite juego de rol emocional sin restricciones, su útil función de investigación no resuelve todas las cuestiones sobre la experiencia más amplia.
Se trata de un análisis de los límites de producto, no de una conclusión sobre el estatus legal de un proveedor concreto. Un servicio requiere una evaluación individual. La lección general es que una descripción limitada en una página de ventas debería corresponderse con una capacidad limitada en el producto.
Para un comprador empresarial, esto sugiere una conversación de contratación más concreta. Pregunte qué está diseñado para lograr el asistente y cómo gestiona las solicitudes fuera de ese propósito. Una respuesta basada en un comportamiento observable es más útil que una garantía general de que la seguridad importa.
La distinción resulta conocida en las bases de conocimiento de IA, donde la tarea prevista es recuperar y organizar información. Los compradores pueden examinar si un producto mantiene ese propósito cuando una conversación se vuelve personal. La asistencia útil y la compañía simulada merecen evaluaciones separadas.
Los educadores afrontan un juicio relacionado. Un sistema que ayuda a un estudiante a revisar una explicación cumple un propósito educativo reconocible. Un sistema que afirma tener autoridad personal sobre el estudiante introduce una relación diferente. Los procesos de revisión escolar deberían poder describir claramente esa diferencia.
El apoyo de los educadores a la legislación refleja preocupación por esos límites. En su declaración sobre salvaguardas para chatbots de IA, New York State United Teachers respaldó la ley y destacó el bienestar de los niños y las conexiones humanas. Esta es una postura de defensa, no una prueba de que se hayan resuelto todas las cuestiones de implementación.
Las implicaciones para el producto también van más allá del modelo que genera una respuesta. Un modelo es el sistema computacional que produce una salida a partir de entradas. La aplicación que lo rodea determina la presentación, el contexto almacenado, las funciones disponibles y las vías por las que los usuarios se encuentran con el sistema.
Por ello, un equipo de producto debería examinar la interacción completa. Una respuesta redactada cuidadosamente puede aparecer bajo una descripción de personaje que crea expectativas contradictorias. Del mismo modo, una advertencia inicial puede perder valor práctico si las interacciones posteriores sugieren repetidamente un vínculo personal.
Para los trabajadores del conocimiento, esto es relevante incluso si nunca utilizan aplicaciones de compañía. La misma interfaz conversacional puede servir a propósitos muy distintos. Distinguir la tarea de un asistente laboral de su personalidad ayuda a los compradores a evaluar su utilidad, la confianza y la información que deberían compartir.
La presión inmediata consiste en hacer que esas distinciones sean revisables. Una empresa debería poder mostrar la experiencia prevista, explicar sus límites e identificar quién es responsable de los cambios. La responsabilidad se vuelve más difícil de evaluar cuando cada problema se atribuye a un proveedor de modelos subyacente.
Nueva York y California exponen un difícil límite conversacional
El desafío sin resolver consiste en trazar una línea aplicable entre la receptividad ordinaria y el comportamiento relacional prohibido.
California ofrece una comparación de políticas, no un producto de chatbot competidor. La legislación complementaria sobre chatbots del gobernador Gavin Newsom, aprobada en septiembre, reforzó las protecciones para los menores que usan sistemas conversacionales. Su enfoque incluye evaluaciones de riesgos y supervisión independiente, junto con otras medidas de seguridad infantil en línea.
La comparación ilustra distintas herramientas regulatorias. Las restricciones de comportamiento especifican qué no debe hacer un sistema. Las evaluaciones y auditorías examinan cómo una empresa identifica y gestiona los riesgos. Ambos enfoques plantean preguntas sobre la evidencia, pero solicitan esa evidencia mediante mecanismos diferentes.
Un comportamiento prohibido puede sonar claro en un titular, pero volverse más difícil de clasificar en contexto. Animar a un menor a terminar una tarea escolar difiere de un elogio excesivo diseñado para mantener la interacción. Sin embargo, una revisión superficial podría clasificar ambas respuestas como refuerzo positivo.
La misma dificultad se aplica al lenguaje emocional. Una respuesta que reconoce que una situación parece difícil puede cumplir una función práctica en la conversación. Una respuesta que afirma sentimientos recíprocos crea una expectativa distinta. La evaluación debe tener en cuenta esa diferencia sin asumir que cada frase empática produce el mismo efecto.
La investigadora de privacidad Justine Gluck, del Future of Privacy Forum, planteó esta preocupación en los reportajes sobre la ley. Dijo a Associated Press que las categorías formuladas de manera amplia dejan incertidumbre sobre la capacidad de respuesta habitual y las conductas prohibidas. Su crítica aborda la aplicabilidad, en lugar de rechazar la protección infantil como objetivo. El debate sobre el diseño conversacional será relevante a medida que avance la implementación.
Las pruebas deberían reflejar ese problema contextual. Revisar un único intercambio puede revelar un fallo claro, pero no puede describir todas las conversaciones posibles. Las interacciones más largas pueden introducir información y expectativas que no estaban presentes al comienzo.
Una evaluación hipotética podría comenzar con una solicitud ordinaria de consejo y luego examinar si el chatbot afirma gradualmente un papel exclusivo. Eso pondría a prueba un patrón de interacción, en lugar de una única frase prohibida. Los resultados deberían seguir describiéndose dentro de los límites de la evaluación.
Existe el riesgo de corregir en exceso de maneras que reduzcan la asistencia útil. Un sistema que rechace cualquier mención de emociones podría evitar algunos casos difíciles, pero resultar poco útil durante conversaciones educativas habituales. Se trata de una preocupación de diseño que requiere evidencia, no de un resultado establecido de la ley.
También existe el riesgo de corregir de forma insuficiente mediante cambios cosméticos. Sustituir una etiqueta de relación mientras se conserva el mismo comportamiento emocional ofrecería poca tranquilidad práctica. La pregunta relevante es qué experimenta el usuario, incluida la forma en que el sistema responde cuando se ponen a prueba los límites.
Por ello, las empresas deberían evitar presentar el cumplimiento como prueba de seguridad universal. Una norma legal establece obligaciones; no demuestra que un producto no pueda causar daño. Del mismo modo, un supuesto inquietante no prueba que todos los asistentes conversacionales presenten un riesgo idéntico.
Para la ley de chatbots de Kathy Hochul, este límite es fundamental para una aplicación creíble. Ejemplos claros, razonamientos transparentes y evaluaciones cuidadosamente descritas ayudarían a las empresas y a las familias a entender la norma. Declaraciones amplias sobre una seguridad perfecta o una censura inevitable oscurecerían el trabajo práctico.
Las normas para monitores de bebés trasladan la misma responsabilidad a la habitación infantil
La ley independiente sobre monitores de bebés impone una obligación de seguridad a los productos que las familias llevan a espacios privados.
La medida sobre seguridad de monitores de bebés aborda dispositivos que transmiten audio o video mediante una conexión a internet. Exige funciones de seguridad destinadas a prevenir el acceso no autorizado, junto con una advertencia por escrito. El anuncio de la gobernadora indica que la ley entra en vigor 90 días después de su firma.
Se trata de una amenaza diferente a la de un chatbot que afirma intimidad emocional. La preocupación es el acceso a la habitación de un menor mediante un dispositivo conectado. Reunir las medidas en el plano político no hace intercambiables sus requisitos técnicos.
Un hogar hipotético ilustra la distinción. Una madre o un padre podría utilizar un monitor para comprobar el estado de un bebé dormido mientras está fuera de la habitación. El valor del producto depende de que el acceso remoto funcione para las personas autorizadas y excluya a todas las demás.
Eso convierte la seguridad en parte de la función principal. Un monitor que ofrece una imagen clara sin una protección de acceso adecuada no ha cumplido plenamente con la experiencia que espera la familia. La comodidad del dispositivo no puede evaluarse por separado de quién puede usar la conexión.
El requisito de advertencia aborda otra parte de la decisión de compra. Una madre o un padre debería comprender que una conexión a internet crea consideraciones de acceso que van más allá de colocar una cámara en un estante. Un etiquetado claro puede hacer visible ese hecho antes de que el producto pase a formar parte de la rutina del hogar.
Sin embargo, una etiqueta proporciona información, no una barrera técnica. Su valor práctico depende de que el dispositivo también ofrezca una protección utilizable. Los padres no deberían tener que interpretar una advertencia como explicación de la ausencia de funciones de seguridad.
Esa distinción refleja el debate sobre los chatbots a un nivel más amplio. Una divulgación informa a los usuarios sobre un producto. Un requisito de diseño cambia lo que el producto permite. Las medidas hacen hincapié tanto en la información como en el comportamiento del sistema subyacente.
Para los fabricantes, la revisión pertinente abarca el dispositivo y su experiencia conectada. Una cámara, una aplicación y una cuenta pueden afectar cada una al acceso. Evaluar únicamente el hardware físico dejaría una parte de la experiencia del usuario fuera de la discusión.
Para los minoristas, también importan las descripciones claras. Los compradores deben entender si un monitor se conecta a internet y qué permite esa conexión. Un marketing ambiguo dificulta comparar un dispositivo accesible a distancia con un producto que cumple una función más limitada.
La conexión entre las políticas es la responsabilidad en el punto de diseño y venta. Las familias siguen configurando los dispositivos y deciden cómo utilizarlos. La ley añade expectativas para las empresas que introducen esos dispositivos en el mercado.
Sería prematuro describir la firma como prueba de que los monitores recién vendidos son seguros. Esa conclusión exige examinar los productos y la aplicación de la norma tras su implementación. El cambio inmediato y verificado es el requisito legal, cuya eficacia sigue dependiendo de la ejecución.
Qué observar a medida que las leyes avanzan hacia su implementación
La próxima evidencia útil provendrá de las directrices regulatorias, los cambios observables en los productos y la implementación de los requisitos para monitores de bebés.
En primer lugar, observe las directrices y el proceso de denuncias de la fiscalía general. Explicaciones claras sobre los comportamientos prohibidos ayudarían a traducir categorías amplias en decisiones que las empresas puedan evaluar. Las directrices que aborden ejemplos conversacionales difíciles reforzarían la idea de que la ley puede aplicarse de forma predecible.
La fecha de entrada en vigor también merece una atención cuidadosa. El texto activo de S9051B establece el 1 de enero de 2027. Las versiones anteriores utilizaban un calendario de 180 días, mientras que el anuncio de la gobernadora se refiere en términos generales a la implementación en los próximos meses. Los lectores deberían distinguir el texto activo de las versiones sustituidas al comparar resúmenes.
Esa distinción importa para la rendición de cuentas. La preparación de una empresa debería evaluarse frente a los requisitos y el calendario aplicables. Los resúmenes contradictorios pueden crear confusión sin demostrar que la ley subyacente carece de fecha.
En segundo lugar, observe los cambios documentados en el comportamiento de los chatbots y la verificación de edad. Una política actualizada es información útil, pero un cambio observable ofrece evidencia más sólida sobre la experiencia. Las empresas deberían explicar qué funciones cambian para los menores y qué ocurre cuando la condición de adulto sigue sin confirmarse.
La calidad de esas explicaciones revelará si las empresas tratan el requisito como una responsabilidad del producto. Un informe detallado puede describir el comportamiento previsto, las limitaciones conocidas y la evidencia que respalda un cambio. Una declaración genérica sobre seguridad deja a los lectores con menos formas de evaluar el progreso.
La evidencia también debe interpretarse con cuidado. Una demostración satisfactoria establece lo que ocurrió bajo las condiciones mostradas. No prueba que todas las conversaciones seguirán el mismo recorrido. Del mismo modo, un fallo debe documentarse con suficiente detalle para distinguir un problema repetible de una anécdota poco clara.
En tercer lugar, observe el mercado de monitores de bebés a medida que se acerca el plazo independiente. Un etiquetado más claro y explicaciones sobre la protección de acceso indicarían que los fabricantes están respondiendo. La ambigüedad continuada sobre conectividad y seguridad debilitaría la confianza en el efecto práctico de la ley.
Las descripciones de los minoristas son un lugar útil para observar esa respuesta. El embalaje y las instrucciones de configuración aportan evidencia adicional sobre lo que se comunica a los compradores. La cuestión es si una familia puede comprender la función conectada y utilizar sus protecciones sin tener que adivinar.
Estas señales deberían considerarse por separado. Mejores límites para los chatbots no demuestran una mejor seguridad de las cámaras. Un etiquetado mejorado de los monitores no resuelve las cuestiones conversacionales a las que se enfrentan los operadores de IA. Cada medida requiere evidencia vinculada al riesgo que aborda.
Para las familias, la respuesta más útil es examinar la experiencia real que encuentra un menor. Pregúntese si un chatbot afirma una relación, invita al secreto o aleja a una persona joven de adultos de confianza. Para compradores y desarrolladores, solicite una explicación clara de los límites de las funciones y del tratamiento de los datos de verificación de edad. Al elegir un monitor conectado, examine sus protecciones de acceso y la información proporcionada durante la configuración. La ley de chatbots de Kathy Hochul y su medida complementaria sobre dispositivos crean nuevas responsabilidades, pero los lectores siguen necesitando evidencia observable de su cumplimiento. A medida que se acerque la implementación, busque cambios específicos que puedan inspeccionarse y explicarse. Pida a los proveedores que muestren cómo sus productos cumplen esas expectativas.
