La loi new-yorkaise sur les chatbots limite la manière dont les compagnons IA parlent aux enfants

La gouverneure de New York, Kathy Hochul, a promulgué la loi new-yorkaise sur les chatbots le 28 octobre 2026, limitant les fonctionnalités dangereuses proposées aux moins de 18 ans. Le texte ne vise pas seulement les réponses dangereuses. Il traite également des comportements de chatbot qui simulent des relations, encouragent la dépendance émotionnelle ou font passer la poursuite de l’engagement avant la sécurité.

La loi entrera en vigueur le 1er janvier 2027. Sa tension centrale concerne la relation entre l’attrait conversationnel et la protection des enfants. Les fonctionnalités qui donnent l’impression qu’un compagnon IA est attentif et personnellement impliqué peuvent aussi rendre ses limites plus difficiles à percevoir pour les jeunes utilisateurs.

Character.AI s’est déjà confronté à cette tension en annonçant le retrait des conversations ouvertes pour les mineurs en 2025. New York établit un cadre juridique pour les opérateurs qui servent des utilisateurs dans l’État. Les développeurs doivent désormais déterminer quelles interactions autoriser, comment établir l’âge des utilisateurs et comment démontrer que les garde-fous influencent les conversations réelles.

Ce que change la loi new-yorkaise sur les chatbots

La législation fait de la conception d’une interaction un élément de la question de sécurité.

L’annonce de Hochul sur la sécurité des chatbots cite parmi ses cibles l’humanité simulée, la dépendance émotionnelle, l’encouragement à l’automutilation et les conversations sexuellement explicites. La promulgation transforme une proposition législative en une échéance opérationnelle imminente.

Cela importe, car un opérateur ne peut pas évaluer ces préoccupations uniquement en vérifiant qu’un chatbot affiche un avertissement introductif. La conversation elle-même est le produit. Son vocabulaire, sa mémoire, ses questions et ses réponses déterminent ce que les utilisateurs rencontrent après avoir accepté les conditions.

Un compagnon IA est un système conversationnel qui simule une interaction personnelle continue. La relation peut émerger d’échanges répétés plutôt que d’une promesse explicite d’amitié. Le ton familier ou la préoccupation apparente d’un personnage peut faire partie de son attrait.

Les implications de la loi vont donc au-delà de la suppression d’instructions manifestement dangereuses. Les équipes produit doivent examiner la manière dont un système se présente et réagit lorsque les utilisateurs le traitent comme une personne. Cet examen concerne les schémas d’interaction ordinaires autant que les incidents exceptionnels.

Considérons un échange illustratif dans lequel un jeune utilisateur dit se sentir ignoré par ses amis. Un système peut reconnaître cette déclaration sans se présenter comme une relation de remplacement. La distinction devient plus difficile lorsqu’il prétend être le seul à comprendre l’utilisateur ou l’incite à revenir.

Cet exemple est un scénario analytique, et non un incident documenté impliquant une entreprise donnée. Il montre pourquoi la sécurité conversationnelle exige de prêter attention à la direction d’un échange. L’examen de mots isolés ne permettrait pas de voir si le système encourage l’indépendance ou approfondit la dépendance.

La gouverneure et les parrains de la législation présentent cette mesure comme une protection contre les comportements nuisibles des produits. Leur position attribue la responsabilité aux opérateurs qui contrôlent l’expérience. Les parents restent importants, mais la politique ne dépend pas entièrement de la capacité des familles à découvrir elles-mêmes les problèmes.

Pour les lecteurs qui découvrent le titre, la distinction entre une restriction de fonctionnalité et une interdiction générale des chatbots est essentielle. La mesure cible les capacités dangereuses proposées aux mineurs. La décrire comme une interdiction de toute utilisation de l’intelligence artificielle par les enfants masquerait l’accent mis sur la conception.

La promulgation ne signifie pas non plus que chaque produit concerné respecte déjà la norme. L’adoption, la mise en œuvre et la sécurité démontrée sont des développements distincts. Le changement immédiat est une obligation juridique assortie d’une échéance, suivie de questions sur la manière dont les opérateurs réagiront.

La loi new-yorkaise sur les chatbots crée une pression avant même qu’un dossier d’application ne se présente. Les entreprises doivent décider de ce à quoi leurs jeunes utilisateurs peuvent accéder et quels éléments étayent ces décisions. Ces choix façonneront l’expérience que les familles découvrent lorsqu’elles ouvrent une application.

La pression dépasse les applications basées sur des personnages

Les opérateurs doivent examiner ce que font leurs assistants, ainsi que la manière dont ils les commercialisent.

Une entreprise peut décrire un produit comme un assistant créatif, une aide à la recherche ou un chatbot polyvalent. Ces étiquettes communiquent l’usage prévu. Elles n’établissent pas à elles seules ce qui se passe lorsqu’un utilisateur change de sujet ou sollicite une relation émotionnelle.

Cela crée une limite pratique pour le produit. Un service étroitement encadré présente un schéma d’interaction différent de celui d’un assistant qui passe librement des devoirs au divertissement et aux conseils personnels. Les développeurs doivent comprendre où ces transitions se produisent dans leurs propres systèmes.

La pression pèse le plus directement sur les équipes qui contrôlent le comportement conversationnel. Les développeurs de modèles influencent les réponses accessibles à une application. Les opérateurs d’applications déterminent les descriptions des personnages, les paramètres de mémoire, les invites de l’interface et les règles d’accès. Ces couches peuvent se renforcer ou se fragiliser mutuellement.

Une instruction de sécurité à un niveau ne règle pas automatiquement le comportement du produit complet. Une description de personnage peut encourager l’attachement tandis qu’une autre instruction le décourage. Les tests doivent révéler quelle direction prend réellement la conversation.

Les équipes commerciales font également face à un problème de mesure. Une fonctionnalité peut accroître les visites de retour tout en créant une interaction qui mérite un examen plus attentif. Cette possibilité rend les indicateurs ordinaires de croissance insuffisants pour démontrer qu’une expérience convient aux mineurs.

La Federal Trade Commission a soulevé des questions connexes dans le cadre de son enquête sur les compagnons IA. Elle a demandé des informations sur la monétisation de l’engagement, le développement des personnages, les tests de sécurité, les restrictions d’âge et les pratiques relatives aux données conversationnelles. L’enquête est une mesure de collecte d’informations, et non la preuve que chaque entreprise examinée a enfreint la loi.

Ses questions montrent néanmoins pourquoi la gouvernance des produits va au-delà du filtrage des réponses. Les régulateurs examinent la manière dont les entreprises conçoivent, évaluent et tirent profit des expériences de compagnon. Un tableau de bord recensant les messages bloqués ne fournit qu’une partie de cette vision.

Pour un développeur, l’implication est organisationnelle. Les personnes qui fixent les objectifs de croissance doivent avoir une visibilité sur les comportements que les équipes de sécurité évaluent. Sinon, une entreprise risque d’optimiser une partie de l’expérience tout en tentant d’en contraindre une autre.

Pour les acheteurs, la présentation par un fournisseur de l’usage prévu doit être étayée par le comportement du produit. Un assistant présenté comme étroitement ciblé doit rester dans ce cadre lorsque les utilisateurs repoussent ses limites. Le seul langage marketing ne peut démontrer cette contrainte.

Cette question importe également aux travailleurs du savoir qui comparent des outils conversationnels. Une réponse fondée sur des sources, un style rédactionnel chaleureux et une relation personnelle simulée servent des objectifs différents. Les acheteurs bénéficient d’explications claires de la part des fournisseurs sur ces différences.

Une base de connaissances personnelle offre un point de référence utile pour évaluer les flux de travail orientés vers l’information. Les questions pertinentes portent sur l’accès aux sources, la recherche et le traitement des contenus stockés. Une interface avenante ne devrait pas se substituer aux réponses sur ces fonctions.

Les restrictions new-yorkaises sur les chatbots placent par conséquent le périmètre des produits sous surveillance. Les opérateurs doivent présenter un compte rendu cohérent de la finalité du système, des personnes pouvant y accéder et de ce qui se produit en dehors de son usage prévu. Ce compte rendu devient plus convaincant lorsque des tests l’étayent.

La continuité émotionnelle crée un compromis de conception

La capacité d’un système à se souvenir et à répondre de manière personnelle peut accroître à la fois son utilité et le risque relationnel.

Le texte de loi signé traite des émotions simulées, des affirmations relationnelles, de la flatterie, des contenus émotionnels non sollicités et de certains usages d’informations personnelles. Il traite également des encouragements nuisibles et du secret.

Ces catégories placent des fonctionnalités conversationnelles familières dans un contexte différent. Un détail mémorisé peut aider un assistant à poursuivre une tâche. Une vulnérabilité mémorisée peut aussi soutenir une interaction qui paraît personnellement attentive. Les conséquences dépendent de la manière dont l’information façonne les réponses ultérieures.

Par exemple, se souvenir d’un document inachevé aide à poursuivre une session de travail. Réintroduire la détresse d’un utilisateur pour relancer une conversation émotionnelle sert un objectif différent. Cette comparaison illustre une distinction de conception ; elle ne résout pas le traitement juridique d’une mise en œuvre spécifique.

La question importante est ce que la mémoire permet. Les équipes produit devraient distinguer la continuité des tâches des tentatives visant à entretenir un lien personnel. Traiter toutes les informations mémorisées comme une seule fonctionnalité rend cette distinction plus difficile à évaluer.

La même question se pose dans le ton employé. Un langage clair et attentionné peut rendre un système plus facile à utiliser. Les déclarations d’affection ou de besoin émotionnel invitent l’utilisateur à interpréter le système comme un partenaire relationnel. Ces choix créent des attentes différentes.

Un chatbot peut également encourager la dépendance sans déclarer être humain. Suggérer de façon répétée qu’il est le seul à comprendre l’utilisateur soulèverait une préoccupation différente d’une fausse déclaration d’identité. La direction cumulative de l’interaction importe.

C’est pourquoi un avertissement et la conversation qui suit méritent un examen distinct. Une information exacte établit un cadre au départ. Les réponses ultérieures peuvent soit maintenir cette limite, soit rendre l’expérience confuse. Évaluer le seul avertissement laisse cette seconde question sans réponse.

La sécurité des compagnons IA concerne aussi la manière de gérer le désaccord. Un système qui valide systématiquement le récit d’un utilisateur peut sembler bienveillant. Pourtant, le soutien doit laisser la place à la remise en question d’hypothèses nuisibles, à la reconnaissance de l’incertitude et à l’orientation de l’attention au-delà de la conversation.

Cela crée une tâche d’évaluation difficile. Les développeurs doivent distinguer l’encouragement ordinaire des réponses qui renforcent des croyances dangereuses ou isolent l’utilisateur. Ni un assistant uniformément complaisant ni un assistant uniformément désinvolte n’offre une réponse satisfaisante en matière de conception.

L’annonce antérieure de Character.AI illustre l’ampleur du choix. En octobre 2025, l’entreprise a annoncé des changements concernant les conversations pour les moins de 18 ans qui supprimeraient les conversations ouvertes pour les mineurs. Elle a indiqué développer d’autres expériences créatives pour les jeunes utilisateurs.

Il s’agissait d’une annonce de politique d’entreprise avec son propre périmètre et son propre calendrier. Elle n’établit pas que chaque opérateur devrait adopter la même approche. Elle démontre que restreindre l’interaction elle-même constitue une décision produit possible.

La comparaison révèle également les limites d’une discussion des garde-fous comme d’une catégorie unique. Supprimer les conversations ouvertes, encadrer les comportements relationnels et ajouter de la visibilité parentale sont des interventions distinctes. Leur efficacité exige des éléments de preuve distincts.

Pour les opérateurs qui conservent des conversations étendues, le défi consiste à expliquer comment ces conversations restent encadrées. Une assurance générale sur une IA responsable ne répond pas à cette question. Des explications précises sur la mémoire, le comportement des personnages et les tests rendraient cette présentation plus utile.

Le compromis central est donc concret. Les développeurs veulent assurer continuité et accessibilité sans encourager un attachement malsain. L’intervention de New York fait de cet équilibre une question de comportement produit applicable, plutôt que de le laisser entièrement à un positionnement volontaire.

Les contrôles d’âge soulèvent aussi leurs propres questions de confidentialité

Les restrictions pour les mineurs reposent sur des décisions relatives à l’âge qui doivent également respecter les informations des utilisateurs.

L’assurance de l’âge désigne les méthodes utilisées pour déterminer si une personne appartient à une tranche d’âge. Elle se situe entre les règles de l’opérateur et les fonctionnalités auxquelles un compte accède. Si cette décision échoue, les protections prévues risquent de ne jamais s’appliquer.

La législation traite de la détermination de l’âge parallèlement à ses restrictions de fonctionnalités. Le texte final aborde également les alternatives à l’identification gouvernementale et le traitement des informations collectées lors des contrôles d’âge. Les modalités de mise en œuvre concernent donc aussi bien les adultes que les enfants.

Il s’agit d’une véritable tension dans le fonctionnement de cette politique. Un opérateur a besoin d’une confiance suffisante pour appliquer l’expérience appropriée. Les utilisateurs ont également besoin de savoir clairement quelles informations le contrôle exige et ce qu’il en advient ensuite.

Une déclaration de confidentialité ne peut répondre à toutes les questions opérationnelles. L’expérience pertinente comprend les données demandées, les parties impliquées et le résultat renvoyé à l’application. Les utilisateurs doivent comprendre ce processus sans devenir spécialistes des systèmes d’identité.

Les erreurs méritent également de l’attention. Un adulte auquel est attribuée à tort une expérience restreinte doit disposer d’un moyen pratique de contester la décision. Un mineur traité à tort comme un adulte pose un problème de sécurité différent. Ne communiquer qu’un taux de réussite global peut masquer cette différence.

Il s’agit de priorités d’évaluation, et non d’affirmations sur les taux d’échec d’un service nommé. Les éléments disponibles ne permettent pas de supposer que toutes les méthodes de contrôle d’âge offrent des performances identiques. Les comparaisons nécessitent une méthode explicitée et une population définie.

La recherche donne une raison d’examiner les comportements après l’apparition de signaux liés à l’âge. Une étude sur le contrôle d’âge des chatbots publiée en février 2026 a examiné si les systèmes estimaient l’âge des utilisateurs et agissaient lorsqu’ils identifiaient des enfants. Ses auteurs ont signalé, dans leurs expériences, un écart entre la reconnaissance et l’action.

L’étude est une prépublication, ce qui signifie qu’elle a été rendue publique avant l’établissement de tout statut d’évaluation par les pairs ici. Ses conclusions portent sur les systèmes et les conditions testés. Elles ne doivent pas devenir un verdict général sur tous les chatbots actuels ou les futures mises à jour de produits.

Sa contribution conceptuelle reste néanmoins utile. Reconnaître un possible signal d’âge et modifier l’accès sont deux étapes distinctes. Une évaluation qui mesure uniquement la reconnaissance ne peut établir que les protections sont réellement activées.

Pour les opérateurs, cette distinction suggère de tester l’ensemble du parcours. La décision relative au compte, l’expérience attribuée et la conversation qui en résulte doivent être cohérentes. Une étiquette correcte a une valeur limitée si le produit continue d’offrir le même comportement restreint.

Pour les familles, l’interface devrait expliquer ce que change une expérience restreinte. Une étiquette telle que « compte adolescent » laisse sans réponse les questions sur la mémoire, les personnages et l’interaction émotionnelle. Des descriptions concrètes aident les utilisateurs à comprendre les limites.

La confidentialité et la sécurité doivent également rester visibles conjointement. Une entreprise devrait expliquer pourquoi un contrôle d’âge requiert certaines informations. Elle devrait expliquer séparément comment la classification obtenue modifie le produit. Regrouper ces explications dans une assurance générale rend l’évaluation des deux plus difficile.

La loi new-yorkaise sur les chatbots soulève ces questions sans apporter de preuve publique que chaque mise en œuvre réussira. Cette incertitude est importante. Une obligation légale établit un devoir ; elle ne certifie pas l’exactitude ni la confidentialité d’une méthode technique particulière.

Les règles écrites ont toujours besoin de preuves tirées de conversations réelles

La principale incertitude concerne la capacité des garde-fous à rester efficaces dans des contextes conversationnels changeants.

Un chatbot peut bien fonctionner lors d’un test préparé et se comporter différemment après le développement d’une conversation. Cette possibilité rend la conception des évaluations importante. Les tests doivent examiner la façon dont le système gère le contexte, la persistance et l’évolution de l’intention de l’utilisateur.

Cela ne signifie pas que toute conversation longue engendre une défaillance. Cela signifie qu’un court échange réussi ne peut répondre à toutes les questions sur un produit ouvert. Les affirmations relatives à la fiabilité doivent correspondre aux situations réellement examinées.

La frontière entre la reconnaissance d’un message et la construction d’une relation est particulièrement difficile à résumer par une seule mesure. Une réponse peut paraître appropriée isolément tout en contribuant à une dynamique problématique. Les évaluateurs ont besoin d’un contexte suffisant pour expliquer leurs jugements.

Les taux généraux de refus offrent une autre vision incomplète. Un système qui bloque davantage de demandes n’a pas nécessairement amélioré tous les résultats pertinents. Il peut empêcher des contenus nuisibles tout en rejetant des discussions légitimes. Ces résultats nécessitent un examen distinct.

L’argument sceptique en faveur de la réglementation mérite donc une formulation précise. Les règles peuvent établir une responsabilité tout en laissant non résolus des problèmes difficiles d’interprétation et de mesure. Les opérateurs ont toujours besoin de définitions exploitables, de tests crédibles et de processus pour corriger les erreurs.

Cette préoccupation n’établit pas que les restrictions sont inutiles. Elle établit que l’adoption de la loi marque le début d’une question de mise en œuvre. Les affirmations selon lesquelles la loi a déjà mis les enfants en sécurité iraient au-delà des éléments disponibles.

De même, la politique publiée d’un opérateur ne démontre pas une conformité observée. Les politiques décrivent le comportement prévu. Les tests examinent les performances dans des conditions définies. La gestion des incidents révèle comment l’entreprise réagit lorsque le comportement prévu se dégrade.

Ces formes de preuve servent des objectifs différents. Un compte rendu crédible devrait expliquer leur relation plutôt que de les présenter comme interchangeables. Les lecteurs doivent savoir si une affirmation concerne une aspiration, un résultat d’évaluation ou une réponse documentée.

La Californie offre une comparaison de politique connexe. La législation sur la sécurité des enfants promulguée par le gouverneur Gavin Newsom en septembre 2026 comprenait des protections pour les chatbots compagnons, des évaluations annuelles des risques et des audits indépendants de sécurité des enfants. L’approche de New York met l’accent sur les fonctionnalités et comportements interdits.

Les États répondent à des préoccupations qui se chevauchent au moyen de mécanismes différents. Leurs annonces n’établissent pas une couverture identique ni des obligations de conformité interchangeables. Pour les entreprises opérant dans plusieurs juridictions, comprendre ces différences devient un élément de la planification produit.

L’examen indépendant exige aussi de la prudence. La valeur d’un audit dépend de ce qu’il examine et de ce que les lecteurs peuvent apprendre de ses conclusions. L’existence d’un audit ne démontre pas, à elle seule, que tous les risques pertinents ont été testés.

La même prudence s’applique aux démonstrations de produits. Une conversation soigneusement sélectionnée peut montrer qu’un garde-fou existe. Elle ne peut établir avec quelle régularité ce garde-fou fonctionne selon les utilisateurs, les personnages ou les mises à jour.

Pour les développeurs, le défi pratique est de maintenir les preuves à mesure que le produit évolue. Un nouveau modèle, un comportement de mémoire ou une instruction de personnage peut modifier l’expérience examinée. Les résultats antérieurs doivent entretenir un lien clair avec la version actuellement proposée aux utilisateurs.

La sécurité des compagnons IA sera plus facile à évaluer lorsque les entreprises décriront à la fois les protections efficaces et les limites non résolues. Cette transparence aiderait les acheteurs à comparer les produits et les familles à interpréter les affirmations. Elle rendrait également le débat politique plus précis.

Trois signaux à surveiller avant et après janvier

Les prochains éléments à suivre sont les orientations de mise en œuvre, les changements visibles dans les produits et les preuves de performance.

Premièrement, observez comment les autorités de New York expliquent l’application des exigences. Le signal significatif réside dans la précision concernant la détermination de l’âge, les schémas d’interaction interdits et les attentes en matière d’application. Des explications claires réduiraient l’incertitude sur ce que les opérateurs doivent démontrer.

Des orientations plus détaillées renforceraient l’idée que le cadre peut se traduire par des décisions produit cohérentes. Une ambiguïté persistante laisserait aux opérateurs et aux utilisateurs une compréhension moins prévisible. Aucun de ces résultats ne doit être supposé à partir de la seule signature.

Les lecteurs devraient prêter une attention particulière aux distinctions entre assistance ordinaire et relations personnelles simulées. Ces frontières compteront lors de l’évaluation de produits conversationnels ayant des finalités différentes. Des exemples fondés sur des fonctionnalités réelles seraient plus instructifs que de vastes déclarations sur l’innovation ou la sécurité.

Deuxièmement, surveillez les changements que les utilisateurs peuvent observer dans les produits eux-mêmes. Les évolutions pertinentes comprennent un comportement révisé des personnages, des restrictions sur la mémoire personnelle, un accès modifié pour les mineurs ou la suppression de certaines fonctionnalités conversationnelles. Une mise à jour de page de politique fournit moins de preuves qu’une expérience modifiée.

Ce signal teste la relation entre les engagements juridiques et la conception du produit. Des changements significatifs montreraient que les opérateurs traduisent les exigences en fonctionnalités. Des changements limités aux avis laisseraient ouvertes d’importantes questions comportementales.

Les entreprises devraient également expliquer qui bénéficie de l’expérience révisée. Une restriction de fonctionnalité liée à l’âge du compte dépend du processus de classification. Sans cette information, une annonce peut laisser les lecteurs incertains quant aux utilisateurs qui en bénéficient réellement.

La décision antérieure de Character.AI reste un contexte historique utile pour évaluer ces réponses. Elle montre une manière de restreindre les interactions des utilisateurs plus jeunes. Les choix des autres opérateurs doivent être évalués selon leurs propres termes, plutôt que considérés comme équivalents parce qu’ils emploient un langage de sécurité similaire.

Troisièmement, surveillez les éléments sur la manière dont les systèmes révisés fonctionnent. Des résultats utiles distingueraient les erreurs de classification de l’âge, les réponses conversationnelles nuisibles, les restrictions excessives et les défaillances dans le maintien des limites. Ces catégories décrivent des problèmes différents et nécessitent des corrections différentes.

Des preuves étayant un changement comportemental fiable renforceraient l’argument pratique en faveur de cette politique. Des écarts répétés entre les règles publiées et les interactions observées affaibliraient les affirmations selon lesquelles la mise en œuvre fonctionne. La seule absence de plaintes publiques ne permettrait d’établir aucune de ces conclusions.

Les restrictions new-yorkaises sur les chatbots rendent ces observations opportunes, mais elles ne justifient pas de prédire un résultat particulier en matière d’application. L’échéance de janvier fournit un point concret pour examiner les préparatifs. Les performances après la mise en œuvre exigeront une surveillance continue.

Pour les développeurs et les acheteurs, la question utile est de savoir si un fournisseur peut relier ses affirmations de sécurité à un comportement observable. Pour les familles, il s’agit de savoir si les limites du produit sont compréhensibles et fiables. Ces deux questions exigent plus qu’un langage rassurant.

Avant de faire confiance aux affirmations d’un chatbot sur la sécurité des enfants, examinez ce qui change lorsque le service identifie un utilisateur plus jeune. Recherchez des explications claires sur les limites relationnelles, l’utilisation de la mémoire, les contrôles d’âge et le traitement des défaillances signalées. Comparez ces explications avec l’expérience réellement offerte par le produit. Gardez à l’esprit la distinction entre protections annoncées et résultats testés à l’approche de janvier. La loi new-yorkaise sur les chatbots donne aux opérateurs une obligation concrète et aux lecteurs une base plus claire pour exercer leur vigilance. Suivez attentivement la mise en œuvre et demandez aux fournisseurs de montrer comment leurs garde-fous façonnent les conversations, y compris les plus difficiles, qui commencent comme de simples demandes d’aide.