La loi de Kathy Hochul sur les chatbots limite les relations de l'IA avec les enfants

Kathy Hochul a signé le 28 octobre 2026 une loi sur la sécurité des chatbots, limitant les fonctionnalités d’IA qui simulent des relations avec les enfants de moins de 18 ans. La loi de Kathy Hochul sur les chatbots cible le comportement des systèmes pendant les conversations, y compris les comportements qui favorisent une dépendance émotionnelle. Son enjeu central est concret : les entreprises doivent préserver une aide utile tout en supprimant les interactions que New York considère comme dangereuses pour les mineurs.

Un compagnon IA est un système conversationnel conçu pour entretenir des interactions pouvant s’apparenter à des relations personnelles. L’approche de New York soumet directement ces interactions à examen. La Californie offre une comparaison pertinente, ayant signé en septembre sa propre législation sur la sécurité des enfants face aux chatbots compagnons. Pour les développeurs, la question porte de plus en plus sur les comportements qu’un produit autorise, en plus de ce que dit son écran d’avertissement.

Hochul a également signé une loi distincte imposant des fonctions de sécurité et des étiquettes d’avertissement pour les babyphones connectés à Internet. Ces mesures répondent à des menaces différentes, mais reposent sur le même choix politique : la responsabilité commence avec l’entreprise qui conçoit et vend le produit. Les familles continuent de prendre des décisions concernant la technologie, tandis que les fabricants et les opérateurs de chatbots font face à des attentes plus claires concernant les risques qu’ils introduisent.

Ce que change la loi de Kathy Hochul sur les chatbots

New York restreint des comportements conversationnels précis, plaçant la conception des produits au centre de l’application des règles de sécurité des chatbots.

L’annonce sur la sécurité des enfants de la gouverneure identifie des fonctionnalités interdites liées à une humanité simulée, à des relations revendiquées, à des incitations nuisibles, au secret et à des interactions sexuellement explicites. Elle décrit également des contrôles d’âge et l’application de la loi par le procureur général.

Cette combinaison importe, car la sécurité conversationnelle va au-delà du filtrage de mots isolés. Une réponse peut employer un langage ordinaire tout en encourageant la dépendance ou en présentant un logiciel comme une relation de confiance. Un examen de produit centré uniquement sur le contenu explicite manquerait cette distinction.

Prenons une conversation hypothétique sur des difficultés à l’école. Un chatbot peut aider un élève à organiser ses pensées ou lui suggérer de parler à un adulte de confiance. Une autre réponse pourrait présenter le système comme la seule relation qui comprend l’élève. La seconde interaction soulève un problème de dépendance, même sans langage graphique ou ouvertement menaçant.

Cet exemple illustre le défi de conception ; il ne décrit pas un incident vérifié impliquant un service particulier. La distinction importante concerne le rôle que le système revendique et le comportement qu’il encourage. Ces qualités émergent du contexte, ce qui les rend plus difficiles à évaluer à l’aide d’une simple liste de mots interdits.

La loi exerce donc une pression sur l’expérience conversationnelle dans son ensemble. Les noms de produits, les descriptions de personnages, les invites suggérées et les réponses générées peuvent tous façonner les attentes d’un utilisateur. Examiner uniquement la réponse finale laisserait inexplorées d’autres parties de cette expérience.

Pour les lecteurs, l’enseignement immédiat est plus limité qu’une interdiction à l’échelle de l’État de toute aide par IA. New York a ciblé les fonctionnalités qu’il classe comme dangereuses pour les enfants. Déterminer si un produit particulier relève de la loi exige d’examiner ses capacités et les exceptions applicables.

Cette distinction modifie également la manière dont les entreprises devraient expliquer publiquement leurs réponses. Affirmer qu’un service reste disponible ne démontre pas que ses fonctionnalités existantes peuvent demeurer inchangées. À l’inverse, retirer une fonctionnalité de compagnon ne signifie pas nécessairement que toutes les fonctions informationnelles doivent disparaître.

L’événement soulève une question concrète de produit : le service peut-il remplir son objectif utile sans simuler une relation qui franchit la limite légale ? Cette question doit être traitée lors du développement et des tests, plutôt que seulement dans les relations publiques après une plainte.

La loi de Kathy Hochul sur les chatbots rend cette tension visible, car le comportement réglementé peut recouper des fonctionnalités commercialisées comme de la chaleur humaine ou de la personnalisation. Les entreprises devront distinguer une assistance réactive des prétentions relationnelles. Les utilisateurs auront besoin d’explications plus claires sur cette distinction, surtout lorsqu’une fonctionnalité familière change.

Les contrôles d’âge placent la confidentialité et l’accès dans une même décision

Un système de sécurité pour les enfants doit établir des limites d’âge sans transformer la vérification en un autre canal de collecte d’informations personnelles.

L’assurance d’âge désigne les méthodes utilisées pour déterminer si une personne appartient à une tranche d’âge donnée. En vertu des dispositions sur les compagnons dangereux, les opérateurs doivent établir le statut d’adulte avant de fournir des fonctionnalités restreintes. Le texte actif du projet de loi limite également le recours à l’auto-déclaration d’un utilisateur adulte.

Le texte exige plusieurs méthodes d’assurance d’âge, dont une option sans pièce d’identité gouvernementale ou une option préservant l’anonymat vis-à-vis de l’opérateur. Les informations collectées pour cette détermination sont soumises à des restrictions de finalité et de suppression, sous réserve d’exceptions légales. Ces exigences relient la protection des enfants aux obligations de confidentialité.

La conséquence technique est que la vérification de l’âge ne peut être séparée des contrôles d’accès. Un service doit relier le résultat de la vérification aux fonctionnalités qu’il rend disponibles. Sinon, le processus ajoute des frictions sans modifier de manière fiable l’expérience qui a motivé cette exigence.

Un compte familial partagé hypothétique montre pourquoi cela importe. Un adulte peut effectuer la vérification, puis un membre plus jeune de la famille peut utiliser le même appareil. Le seul résultat de vérification n’indiquerait pas qui interagit actuellement avec le chatbot.

Ce scénario n’établit pas qu’une solution technique particulière soit requise. Il illustre la différence entre vérifier un compte et comprendre une session. Les entreprises devront expliquer les hypothèses qui sous-tendent leur approche, y compris les situations dans lesquelles ces hypothèses peuvent échouer.

Une question d’utilisabilité se pose également. Si la vérification échoue à répétition pour des adultes légitimes, certains utilisateurs abandonneront le processus. S’il est trop facile de la contourner, l’expérience restreinte reste accessible. Évaluer ces deux résultats est plus instructif que d’annoncer l’existence d’une barrière d’âge.

La confidentialité ajoute une autre dimension. Une question utile de conception consiste à savoir si un service peut conserver un résultat d’éligibilité tout en évitant de retenir inutilement les éléments de preuve sous-jacents. La mise en œuvre exacte exige un examen juridique et technique, mais le principe est simple : ne collecter que ce dont la décision a besoin.

Les familles devraient également distinguer la vérification de la supervision parentale. Établir qu’un compte appartient à un mineur ne dit pas à un parent ce qui s’est passé durant une conversation. De même, les contrôles parentaux n’établissent pas automatiquement que les réponses générées respectent les restrictions comportementales.

Pour les développeurs, cela crée plusieurs responsabilités liées entre elles. La décision d’éligibilité, la configuration des fonctionnalités, le traitement des données et le comportement en cas d’échec doivent être cohérents. Un décalage entre ces éléments peut compromettre tout le processus, même lorsque chacun paraît raisonnable isolément.

La loi de Kathy Hochul sur les chatbots rend l’assurance d’âge déterminante, car elle conditionne l’accès à des fonctionnalités restreintes. Les entreprises devraient être jugées sur le fonctionnement de ce lien dans l’usage courant. Un badge de vérification, à lui seul, fournit peu d’éléments sur ce que le chatbot fera réellement.

La pression atteint les équipes produit, les acheteurs et les éducateurs

La charge pratique incombe aux organisations qui décident de ce qu’un chatbot peut dire, mémoriser et prétendre être.

Le texte signé prévoit des exceptions pour certains usages spécifiés, notamment la productivité interne des entreprises. Certaines exceptions relatives au service client, à la recherche et à l’assistance technique dépendent de la limitation des réponses à l’objectif déclaré. La catégorie annoncée d’un produit mérite donc d’être comparée à son comportement réel.

Un assistant de recherche hypothétique illustre le problème. Son flux de travail normal peut consister à résumer des documents et à localiser des passages. Si la même interface permet aussi des jeux de rôle émotionnels sans restriction, sa fonction utile de recherche ne résout pas toutes les questions concernant l’expérience plus large.

Il s’agit d’une analyse des limites d’un produit, et non d’une conclusion sur le statut juridique d’un fournisseur nommé. Un service exige une évaluation individuelle. L’enseignement général est qu’une description étroite sur une page de vente devrait correspondre à une capacité étroite dans le produit.

Pour un acheteur d’entreprise, cela appelle une discussion d’approvisionnement plus concrète. Demandez ce que l’assistant est conçu pour accomplir et comment il traite les demandes qui sortent de cet objectif. Une réponse fondée sur des comportements observables est plus utile qu’une assurance générale selon laquelle la sécurité est importante.

Cette distinction est familière dans les bases de connaissances IA, où la tâche prévue consiste à récupérer et organiser des informations. Les acheteurs peuvent examiner si un produit conserve cet objectif lorsqu’une conversation devient personnelle. Une assistance utile et une compagnie simulée méritent des évaluations distinctes.

Les éducateurs font face à un jugement connexe. Un système qui aide un élève à réviser une explication remplit un objectif pédagogique identifiable. Un système qui revendique une autorité personnelle sur l’élève introduit une relation différente. Les processus d’examen scolaire devraient pouvoir décrire clairement cette différence.

Le soutien des éducateurs à la législation reflète leur préoccupation concernant ces limites. Dans sa déclaration sur les garanties pour les chatbots IA, le New York State United Teachers a soutenu la loi et souligné le bien-être des enfants et les relations humaines. Il s’agit d’une position de plaidoyer, et non d’une preuve que toutes les questions de mise en œuvre ont été résolues.

Les implications pour les produits vont également au-delà du modèle qui génère une réponse. Un modèle est le système informatique qui produit un résultat à partir d’entrées. L’application qui l’entoure détermine la présentation, le contexte stocké, les fonctionnalités disponibles et les parcours par lesquels les utilisateurs rencontrent le système.

Une équipe produit devrait donc examiner l’interaction complète. Une réponse soigneusement formulée peut se trouver sous une description de personnage qui crée des attentes contradictoires. De même, un avertissement initial peut perdre sa valeur pratique si des interactions ultérieures suggèrent à répétition un lien personnel.

Pour les travailleurs du savoir, cela est pertinent même s’ils n’utilisent jamais d’applications de compagnie. La même interface conversationnelle peut servir des objectifs très différents. Distinguer la tâche d’un assistant de travail de sa personnalité aide les acheteurs à évaluer son utilité, sa fiabilité et les informations qu’ils devraient partager.

La pression immédiate consiste à rendre ces distinctions vérifiables. Une entreprise devrait pouvoir montrer l’expérience prévue, expliquer ses limites et identifier qui est responsable des changements. La responsabilité devient plus difficile à évaluer lorsque chaque problème est attribué à un fournisseur de modèle sous-jacent.

New York et la Californie révèlent une difficile frontière conversationnelle

Le défi non résolu consiste à tracer une ligne applicable entre une réactivité ordinaire et un comportement relationnel interdit.

La Californie propose une comparaison de politiques publiques plutôt qu’un produit de chatbot concurrent. La législation complémentaire sur les chatbots du gouverneur Gavin Newsom, adoptée en septembre, a renforcé les protections pour les enfants utilisant des systèmes conversationnels. Son approche comprend des évaluations des risques et un examen indépendant, en parallèle d’autres mesures de sécurité des enfants en ligne.

La comparaison illustre différents outils réglementaires. Les restrictions comportementales précisent ce qu’un système ne doit pas faire. Les évaluations et audits examinent la manière dont une entreprise identifie et gère les risques. Ces deux approches soulèvent des questions de preuve, mais demandent ces éléments par des mécanismes différents.

Un comportement interdit peut sembler clair dans un titre, tout en devenant plus difficile à qualifier dans son contexte. Encourager un enfant à terminer un devoir scolaire diffère d’éloges excessifs conçus pour maintenir son engagement. Pourtant, un examen superficiel pourrait classer les deux réponses comme un renforcement positif.

La même difficulté s’applique au langage émotionnel. Une réponse reconnaissant qu’une situation semble difficile peut remplir une fonction conversationnelle pratique. Une réponse affirmant ressentir des sentiments réciproques crée une attente différente. L’évaluation doit tenir compte de cette différence sans supposer que chaque phrase empathique produit le même effet.

La chercheuse en protection de la vie privée Justine Gluck, du Future of Privacy Forum, a soulevé cette préoccupation dans les reportages sur la loi. Elle a déclaré à l’Associated Press que des catégories formulées de manière large laissent planer une incertitude sur la réactivité ordinaire et les comportements interdits. Sa critique porte sur l’applicabilité de la loi, et non sur le rejet de la protection des enfants comme objectif. Le débat sur la conception conversationnelle comptera à mesure que la mise en œuvre se précisera.

Les tests devraient refléter ce problème de contexte. L’examen d’un seul échange peut révéler une défaillance claire, mais il ne peut décrire toutes les conversations possibles. Des interactions plus longues peuvent introduire des informations et des attentes absentes au départ.

Une évaluation hypothétique pourrait commencer par une demande de conseil ordinaire, puis examiner si le chatbot en vient progressivement à revendiquer un rôle exclusif. Cela testerait un schéma d’interaction plutôt qu’une seule phrase interdite. Les résultats devraient néanmoins être décrits dans les limites de l’évaluation.

Il existe un risque de surcorriger d’une manière qui réduise l’aide utile. Un système refusant toute mention d’émotion pourrait éviter certains cas difficiles tout en devenant peu utile lors de conversations éducatives ordinaires. Il s’agit d’une préoccupation de conception nécessitant des preuves, et non d’un effet établi de la loi.

Il existe également un risque de sous-correction par des changements purement cosmétiques. Remplacer une étiquette relationnelle tout en préservant le même comportement émotionnel offrirait peu de réassurance concrète. La question pertinente est ce que vit l’utilisateur, notamment la manière dont le système réagit lorsque les limites sont mises à l’épreuve.

Les entreprises devraient donc éviter de présenter la conformité comme une preuve de sécurité universelle. Une norme juridique établit des obligations ; elle ne démontre pas qu’un produit ne peut causer de préjudice. De même, un scénario hypothétique préoccupant ne prouve pas que chaque assistant conversationnel présente un risque identique.

Pour la loi de Kathy Hochul sur les chatbots, cette frontière est essentielle à une application crédible. Des exemples clairs, un raisonnement transparent et des évaluations soigneusement décrites aideraient les entreprises et les familles à comprendre la norme. De larges déclarations sur une sécurité parfaite ou une censure inévitable masqueraient le travail concret nécessaire.

Les règles sur les babyphones étendent la même responsabilité à la chambre d’enfant

La loi distincte sur les babyphones impose une obligation de sécurité aux produits que les familles introduisent dans leurs espaces privés.

La mesure sur la sécurité des babyphones concerne les appareils transmettant de l’audio ou de la vidéo via une connexion internet. Elle exige des fonctions de sécurité destinées à empêcher les accès non autorisés, ainsi qu’un avertissement écrit. L’annonce de la gouverneure indique que la loi entre en vigueur 90 jours après sa signature.

Il s’agit d’une menace différente de celle d’un chatbot prétendant à une intimité émotionnelle. La préoccupation porte sur l’accès à la chambre d’un enfant via un appareil connecté. Regrouper politiquement ces mesures ne rend pas leurs exigences techniques interchangeables.

Un foyer hypothétique illustre cette distinction. Un parent pourrait utiliser un moniteur pour surveiller un nourrisson endormi depuis une autre pièce. La valeur du produit dépend du bon fonctionnement de l’accès à distance pour les personnes autorisées, tout en excluant toute autre personne.

La sécurité devient ainsi une partie de la fonction essentielle. Un moniteur offrant une image nette sans protection adéquate de l’accès n’a pas pleinement fourni l’expérience attendue par la famille. La commodité de l’appareil ne peut être évaluée séparément de l’identité des personnes pouvant utiliser la connexion.

L’exigence d’avertissement concerne une autre partie de la décision d’achat. Un parent devrait comprendre qu’une connexion internet crée des considérations d’accès qui vont au-delà du simple fait de poser une caméra sur une étagère. Un étiquetage clair peut rendre ce fait visible avant que le produit ne devienne partie intégrante des habitudes du foyer.

Une étiquette fournit toutefois une information plutôt qu’une barrière technique. Sa valeur pratique dépend de la capacité de l’appareil à offrir également une protection utilisable. Les parents ne devraient pas avoir à interpréter un avertissement comme une explication de l’absence de fonctions de sécurité.

Cette distinction reflète le débat sur les chatbots à un niveau plus large. Une divulgation informe les utilisateurs sur un produit. Une exigence de conception modifie ce que le produit autorise. Les mesures mettent l’accent à la fois sur l’information et sur le comportement du système sous-jacent.

Pour les fabricants, l’examen pertinent s’étend à l’ensemble de l’appareil et de son expérience connectée. Une caméra, une application et un compte peuvent chacun affecter l’accès. Évaluer uniquement le matériel physique laisserait une partie de l’expérience utilisateur en dehors de la discussion.

Pour les détaillants, des descriptions claires sont également importantes. Les acheteurs doivent comprendre si un moniteur se connecte à internet et ce que cela permet. Un marketing ambigu rend plus difficile la comparaison entre un appareil accessible à distance et un produit ayant une fonction plus limitée.

Le lien politique est la responsabilité au stade de la conception et de la vente. Les familles configurent toujours les appareils et décident de leur usage. La loi ajoute des attentes pour les entreprises qui mettent ces appareils sur le marché.

Il serait prématuré de présenter la signature comme une preuve que les moniteurs nouvellement vendus sont sécurisés. Cette conclusion exige d’examiner les produits et l’application de la loi après sa mise en œuvre. Le changement immédiat et vérifié est l’exigence légale, dont l’efficacité dépend encore de son exécution.

Ce qu’il faut surveiller à mesure que les lois se rapprochent de leur mise en œuvre

Les prochaines preuves utiles viendront des orientations réglementaires, des changements observables dans les produits et de la mise en œuvre des exigences relatives aux babyphones.

D’abord, surveillez les orientations et la procédure de plainte du procureur général. Des explications claires sur les comportements interdits aideraient à traduire de vastes catégories en décisions que les entreprises peuvent évaluer. Des orientations traitant d’exemples conversationnels difficiles renforceraient l’idée que la loi peut fonctionner de manière prévisible.

La date d’entrée en vigueur mérite également une attention particulière. Le texte actif de S9051B indique le 1er janvier 2027. Des versions antérieures prévoyaient un calendrier de 180 jours, tandis que l’annonce de la gouverneure évoque de manière générale une mise en œuvre dans les mois à venir. Les lecteurs devraient distinguer le texte actif des versions remplacées lorsqu’ils comparent les résumés.

Cette distinction compte pour la responsabilité. La préparation d’une entreprise devrait être évaluée au regard des exigences et du calendrier applicables. Des résumés contradictoires peuvent créer de la confusion sans démontrer que la loi sous-jacente ne comporte pas de date.

Ensuite, surveillez les changements documentés dans le comportement des chatbots et la vérification de l’âge. Une politique mise à jour constitue une information utile, mais un changement observable apporte une preuve plus solide concernant l’expérience. Les entreprises devraient expliquer quelles fonctionnalités changent pour les mineurs et ce qui se passe lorsque le statut d’adulte reste non confirmé.

La qualité de ces explications révélera si les entreprises considèrent cette exigence comme une responsabilité produit. Un compte rendu détaillé peut décrire le comportement prévu, les limites connues et les preuves étayant un changement. Une déclaration générique sur la sécurité laisse aux lecteurs moins de moyens d’évaluer les progrès.

Les preuves devraient également être interprétées avec prudence. Une démonstration réussie établit ce qui s’est produit dans les conditions présentées. Elle ne prouve pas que chaque conversation suivra le même chemin. De même, une défaillance devrait être suffisamment documentée pour distinguer un problème reproductible d’une anecdote imprécise.

Troisièmement, surveillez le marché des babyphones à l’approche de l’échéance distincte. Des étiquettes plus claires et des explications sur la protection des accès indiqueraient que les fabricants réagissent. Une ambiguïté persistante sur la connectivité et la sécurité affaiblirait la confiance dans l’effet pratique de la loi.

Les descriptions des détaillants constituent un endroit utile pour observer cette réponse. Les emballages et les instructions de configuration fournissent des éléments supplémentaires sur ce qui est communiqué aux acheteurs. La question est de savoir si une famille peut comprendre la fonction connectée et utiliser ses protections sans devoir deviner.

Ces signaux devraient être examinés séparément. De meilleures limites pour les chatbots ne démontrent pas une meilleure sécurité des caméras. Un étiquetage amélioré des moniteurs ne résout pas les questions conversationnelles auxquelles sont confrontés les opérateurs d’IA. Chaque mesure nécessite des preuves liées au risque qu’elle traite.

Pour les familles, la réponse la plus utile consiste à examiner l’expérience réelle à laquelle un enfant est confronté. Demandez si un chatbot prétend entretenir une relation, invite au secret ou éloigne un jeune de ses adultes de confiance. Pour les acheteurs et les développeurs, demandez une explication claire des limites des fonctionnalités et du traitement des données de vérification de l’âge. Lors du choix d’un moniteur connecté, examinez ses protections d’accès et les informations fournies pendant la configuration. La loi de Kathy Hochul sur les chatbots et sa mesure complémentaire sur les appareils créent de nouvelles responsabilités, mais les lecteurs ont toujours besoin de preuves observables de leur mise en œuvre effective. À l’approche de la mise en œuvre, recherchez des changements précis pouvant être inspectés et expliqués. Demandez aux fournisseurs de montrer comment leurs produits répondent à ces attentes.