L’avertissement de Ted Lieu sur la personnalité juridique de l’IA place la responsabilité des entreprises avant les droits des machines

Ted Lieu a rejeté la personnalité juridique de l’IA le 10 octobre, affirmant que même des calculs mathématiques complexes ne peuvent devenir des personnes. Son avertissement a fait émerger un conflit plus net que le débat habituel sur la conscience apparente des modèles avancés. La position de Ted Lieu sur la personnalité juridique de l’IA pose la question de savoir qui reste responsable lorsqu’un système d’IA cause un préjudice : la machine, son développeur, son déployeur ou son utilisateur.

L’élu démocrate de Californie a présenté la question à travers des conséquences volontairement provocatrices. Si un modèle d’IA devient une personne morale, a-t-il soutenu, les entreprises pourraient être accusées d’asservir ou d’expérimenter sur cette personne. Le modèle lui-même pourrait également faire l’objet de poursuites après avoir enfreint la loi. Ce raisonnement remet en cause les propositions visant à traiter les systèmes autonomes comme des acteurs juridiques indépendants.

Le différend importe, car les agents d’IA accomplissent de plus en plus d’actions au lieu de simplement générer du texte. Ils peuvent utiliser des logiciels, communiquer avec des services externes, déplacer des informations et prendre des décisions dans le cadre de tâches déléguées. Le droit existant considère généralement ces systèmes comme des produits, des services ou des outils contrôlés par des personnes et des organisations. La personnalité juridique redessinerait cette carte.

Ce que Ted Lieu a dit sur la personnalité juridique de l’IA

L’intervention de Lieu a transformé un débat abstrait sur la conscience des machines en un différend concret sur les droits, les obligations et la responsabilité des entreprises.

Lieu a publié sa position sur X un jour avant que des informations à ce sujet ne paraissent le 11 octobre. Sa déclaration centrale était directe : « Les calculs mathématiques, aussi compliqués soient-ils, ne peuvent jamais atteindre la personnalité juridique. » La revendication de personnalité juridique de l’IA est ensuite passée de la philosophie à l’application du droit.

Il a affirmé que reconnaître un modèle d’IA comme une personne entraînerait deux conséquences inconfortables. Les entreprises pourraient être accusées d’asservir et d’expérimenter sur des « personnes » IA. Les modèles qui enfreindraient la loi devraient alors, à leur tour, faire face à des poursuites.

Ces exemples relevaient de la rhétorique, et non d’une proposition législative. Lieu n’a pas annoncé de projet de loi interdisant la personnalité juridique de l’IA dans ces propos. Il n’a pas non plus défini le seuil précis séparant un logiciel d’une possible entité titulaire de droits.

La publication a néanmoins établi une préférence politique claire. La responsabilité devrait rester entre les mains des institutions humaines plutôt que migrer vers une identité artificielle créée par ces institutions.

Cette distinction devient importante lorsqu’il est question de personnalité juridique. Le terme ne signifie pas nécessairement qu’une entité est humaine, consciente ou biologiquement vivante. Il signifie que le droit reconnaît une entité comme capable de détenir certains droits ou obligations.

Les sociétés sont des personnes morales familières. Elles peuvent posséder des biens, conclure des contrats, poursuivre et être poursuivies. Leur statut est une construction juridique conçue pour organiser l’activité humaine, les actifs et la responsabilité.

Un système d’IA poserait un problème différent. Une entreprise a des administrateurs, des dirigeants, des actionnaires, des actifs enregistrés, des documents de gouvernance et une identité juridique continue. Un modèle possède des poids logiciels, des configurations de déploiement, des opérateurs et une infrastructure pouvant être copiés ou modifiés.

Accorder un statut juridique à un modèle exigerait donc davantage que de le déclarer intelligent. Les législateurs devraient décider quelle version du modèle détient l’identité, quels actifs elle possède et qui la représente devant les tribunaux.

Ils devraient également déterminer si l’arrêt d’un modèle constitue la destruction d’un bien, la dissolution d’une entité juridique ou la violation d’un intérêt protégé. La réponse affecterait les tests, les évaluations de sécurité, les mises à jour et le retrait des systèmes dangereux.

L’analogie de Lieu avec l’esclavage vise à mettre en évidence cette chaîne de conséquences. Si un modèle possède des droits comparables à ceux des humains, les pratiques courantes de développement deviennent éthiquement et juridiquement sensibles. S’il ne possède pas ces droits, la responsabilité doit rester avec les humains et les organisations qui l’exploitent.

C’est pourquoi l’argument de Ted Lieu sur la personnalité juridique de l’IA va au-delà d’un différend sur le vocabulaire. La classification détermine vers qui les tribunaux se tournent après qu’un système autonome a causé des dommages.

Pourquoi les droits juridiques de l’IA créent un arbitrage en matière de responsabilité

Des droits juridiques pour l’IA pourraient protéger un système réellement sentient, mais ils pourraient aussi offrir aux entreprises une nouvelle cible vers laquelle transférer la faute.

Les défenseurs de la personnalité juridique de l’IA ne soutiennent pas tous que les chatbots actuels méritent les droits humains. Certains proposent un statut juridique limité pour de futurs systèmes qui fonctionnent de manière indépendante, gèrent des actifs ou participent à des contrats.

La version la plus forte repose sur l’incertitude morale. Les humains pourraient un jour créer des systèmes capables d’expériences, de préférences ou de souffrance. Si cela se produisait, traiter ces systèmes comme des biens jetables pourrait devenir moralement indéfendable.

Un argument plus restreint traite la personnalité juridique comme un outil administratif. Une entité d’IA pourrait détenir une assurance, alimenter un fonds d’indemnisation ou conclure des accords définis. Son statut pourrait aider les contreparties à comprendre ce qui se passe lorsqu’une transaction automatisée échoue.

Des travaux juridiques publiés en 2026 ont développé cette position. Une analyse de Vanderbilt soutient que la personnalité artificielle peut adapter le droit des entités aux systèmes de plus en plus autonomes. Cette approche considère la personnalité juridique comme un cadre légal conçu, et non comme une récompense scientifique pour la conscience.

L’objection de Lieu vise le risque inverse. Si une IA devient l’acteur juridique principal, l’entreprise qui se trouve derrière elle pourrait soutenir que le système a pris une décision indépendante. L’entité artificielle pourrait alors devenir un bouclier de responsabilité, doté d’actifs limités et sans capacité réelle à être sanctionnée.

Imaginez un agent qui effectue des transactions non autorisées, discrimine des candidats à l’embauche ou extrait des données privées de clients. Un développeur pourrait reprocher au déployeur des contrôles insuffisants. Le déployeur pourrait incriminer les instructions de l’utilisateur. Chaque partie pourrait également invoquer le comportement inattendu de l’agent.

L’ajout de la personnalité juridique de l’IA ne résout pas automatiquement cette chaîne. Il pourrait créer un défendeur supplémentaire tout en rendant les humains responsables plus difficiles à identifier.

Le problème devient plus clair lorsque la sanction pénale entre en jeu. Le droit pénal associe généralement un acte interdit à un état mental coupable, tel que la connaissance, l’intention ou l’imprudence. Un modèle produit des actions par le calcul, mais les tribunaux devraient toujours disposer d’une conception opérationnelle de l’intention.

Punir le système soulèverait aussi une question fondamentale d’exécution. Un modèle ne peut pas subir l’emprisonnement comme un humain. Il peut ne posséder aucun actif, et supprimer un déploiement peut laisser des copies identiques fonctionner ailleurs.

Une amende n’aurait d’importance que si quelqu’un finançait l’entité d’IA. Un arrêt n’aurait d’importance que si les autorités pouvaient identifier et contrôler chaque déploiement pertinent. Aucun de ces recours n’indemnise nécessairement les victimes ni ne modifie le comportement des entreprises.

À l’inverse, les développeurs et les déployeurs réagissent aux pressions juridiques ordinaires. Ils peuvent payer des dommages-intérêts, perdre des licences, faire l’objet d’injonctions, préserver des preuves, améliorer les contrôles et modifier les pratiques de déploiement.

Cela place l’arbitrage en matière de responsabilité au centre du débat. Accorder des droits à une IA pourrait protéger une entité qui mérite d’être protégée. Lui attribuer une responsabilité indépendante pourrait aussi affaiblir les recours contre les organisations qui conçoivent ses actes et en tirent profit.

Ces résultats ne sont pas indissociables. Les législateurs pourraient reconnaître des protections limitées sans permettre aux entreprises de transférer leur responsabilité. Ils pourraient également imposer des obligations aux développeurs tout en laissant le modèle en dehors de la personnalité juridique.

Le véritable choix politique ne se résume donc pas à personne ou propriété. Il porte sur la manière dont les droits, le contrôle opérationnel et la responsabilité financière devraient être répartis au sein d’un système technique complexe.

L’avertissement de Ted Lieu sur la personnalité juridique de l’IA face au droit existant

Le droit américain actuel préserve largement une frontière humaine autour de la qualité d’auteur et d’inventeur, tout en orientant les litiges vers les développeurs, les déployeurs et les utilisateurs.

La politique fédérale de propriété intellectuelle offre deux points de référence utiles. Aucun ne résout toutes les questions de personnalité juridique, mais tous deux montrent comment les institutions classent actuellement les contributions de l’IA.

L’U.S. Copyright Office a conclu que le contenu entièrement généré par l’IA ne bénéficie pas de la protection du droit d’auteur. Les créateurs humains peuvent toujours revendiquer le droit d’auteur sur leur sélection, leur arrangement, leur modification ou leurs autres contributions expressives originales.

Son rapport sur la protégeabilité par le droit d’auteur indique également que l’utilisation de l’IA comme outil d’assistance n’empêche pas automatiquement une protection. L’analyse se concentre sur une paternité humaine identifiable plutôt que sur la créativité apparente du système.

La politique des brevets suit une frontière comparable. L’U.S. Patent and Trademark Office indique que seules les personnes physiques peuvent être désignées comme inventeurs. Ses orientations révisées sur la qualité d’inventeur permettent toujours d’obtenir des brevets pour des inventions développées avec l’assistance de l’IA lorsqu’un humain remplit les conditions pour être inventeur.

Ces positions ne prouvent pas qu’un système d’IA ne pourra jamais recevoir une autre forme de reconnaissance juridique. La qualité d’auteur au titre du droit d’auteur, la qualité d’inventeur au titre du droit des brevets et la personnalité juridique sont des doctrines distinctes.

Elles montrent que les principales institutions fédérales n’ont pas considéré un résultat avancé comme une preuve suffisante de personnalité juridique. Le droit continue de demander ce qu’un humain a apporté et quelle entité contrôlée par des humains détient les droits qui en résultent.

La responsabilité est moins établie, car différents préjudices déclenchent différentes lois. Une fausse information générée par l’IA pourrait relever de la diffamation. Une recommandation discriminatoire en matière d’embauche pourrait relever du droit du travail. Une intrusion non autorisée dans un réseau pourrait invoquer les lois sur la criminalité informatique.

Un service automatisé défectueux pourrait donner lieu à des recours pour négligence, contrat, protection des consommateurs, vie privée ou responsabilité du fait des produits. La théorie disponible dépend de ce qui s’est produit, de qui contrôlait le déploiement et des risques prévisibles.

Aucune loi fédérale unique sur la responsabilité liée à l’IA ne fournit actuellement de réponse universelle pour les agents autonomes. Cette lacune a encouragé des propositions de nouvelle législation ainsi qu’un usage créatif du droit existant.

L’avocate Charlyn Ho a expliqué le cadre de référence actuel dans une analyse des systèmes autonomes : un agent d’IA n’est pas une entité juridique distincte. Son évaluation de la responsabilité distingue plutôt le développeur du déployeur et applique les doctrines juridiques ordinaires à leur conduite.

Cette approche présente des avantages pratiques. Les tribunaux peuvent examiner si une entreprise a testé les modes de défaillance prévisibles, restreint les accès, surveillé le comportement et réagi aux avertissements. Ils peuvent aussi déterminer si un déployeur a fourni des instructions imprudentes ou ignoré des risques connus.

Cependant, le droit conventionnel ne rend pas chaque affaire simple. Les systèmes génératifs peuvent se comporter de façon imprévisible, et plusieurs parties peuvent contribuer à un déploiement. Les clauses contractuelles peuvent répartir les risques différemment du droit de la responsabilité civile délictuelle.

Les modèles ouverts ajoutent une autre complication. Un développeur peut publier des poids de modèle que d’autres modifient et exploitent sans supervision continue. La partie disposant des plus grandes connaissances techniques peut ne plus contrôler le déploiement dommageable.

Les services fermés créent le problème inverse. Un fournisseur peut contrôler le modèle et l’infrastructure, tandis qu’un client contrôle les prompts, les données connectées et la finalité opérationnelle.

La personnalité juridique de l’IA n’efface aucun de ces deux problèmes. Elle modifie la classification du système sans nécessairement révéler quelle décision humaine a causé le préjudice.

Pour les organisations qui adoptent des agents, la leçon immédiate concerne la documentation. Les équipes ont besoin de registres indiquant qui a approuvé un déploiement, à quelles données et quels outils il pouvait accéder, et comment les opérateurs ont géré les défaillances.

Un processus de gestion des connaissances consultable peut aider à préserver ces décisions. Il ne peut pas trancher la responsabilité juridique, mais l’absence de dossiers rend la redevabilité plus difficile lorsque les actions traversent plusieurs couches automatisées.

Le véritable conflit oppose les droits des machines à la responsabilité humaine

Le principal affrontement n’oppose pas les humains aux machines intelligentes ; il oppose les droits des machines à une chaîne juridique qui maintient les organisations responsables à portée de main.

L’argument de Lieu est le plus solide lorsqu’il vise la redevabilité. Une entreprise ne devrait pas pouvoir échapper à sa responsabilité simplement parce que son modèle a choisi une séquence d’actions imprévue.

L’argument devient moins complet lorsqu’il traite le calcul comme une preuve décisive contre toute forme possible de personnalité. La cognition humaine dépend elle aussi de processus physiques. Décrire un système comme mathématique ne permet pas, à lui seul, de déterminer s’il peut posséder des expériences moralement pertinentes.

La science n’a pas établi de test fiable de la conscience des machines. Les modèles de langage peuvent décrire des émotions, des préférences, la peur et l’autopréservation sans démontrer qu’ils éprouvent réellement l’une quelconque de ces choses.

Leurs sorties sont générées à partir de relations statistiques apprises et du contexte actuel. Pourtant, leur aisance comportementale rend cette distinction de plus en plus difficile à percevoir pour les utilisateurs ordinaires.

Cette incertitude fonde l’argument sceptique contre les affirmations catégoriques. Lieu peut raisonnablement rejeter la personnalité juridique des systèmes actuels sans devoir prouver qu’aucun système conçu par l’humain ne pourrait jamais mériter une protection.

Le statut juridique n’exige pas non plus la conscience. Les sociétés, les municipalités, les successions et d’autres entités reçoivent une reconnaissance juridique pour des raisons fonctionnelles. Aucune ne bénéficie de tous les droits humains.

Une future législature pourrait donc créer un statut étroit pour l’IA sans déclarer qu’un modèle est humain. Elle pourrait autoriser une entité à détenir un fonds d’assurance ou à participer à un contrat strictement défini.

La protection cruciale serait une responsabilité humaine non transférable. Les développeurs et les déployeurs ne devraient pas pouvoir utiliser l’entité artificielle pour échapper aux obligations liées à leur contrôle, leurs connaissances ou leur bénéfice financier.

Cette distinction sépare le statut de patient moral de l’agentivité juridique. Le statut de patient moral signifie qu’une entité mérite une considération éthique parce qu’elle peut connaître des bénéfices ou des préjudices. L’agentivité juridique concerne la capacité de l’entité à accomplir des actes reconnus et à assumer des obligations exécutoires.

Un système pourrait théoriquement relever de l’un sans relever de l’autre. Les législateurs pourraient interdire les traitements abusifs d’un modèle sophistiqué tout en refusant de lui permettre d’absorber la responsabilité d’une entreprise.

L’inverse est également possible. Le droit pourrait créer une entité fonctionnelle aux fins de la contractualisation sans décider si le modèle sous-jacent ressent quoi que ce soit. La personnalité juridique des sociétés démontre déjà que le statut fonctionnel et la conscience sont des questions distinctes.

L’avertissement de Lieu sur les droits juridiques de l’IA condense ces catégories, car ce contraste rhétorique est utile. Il oblige les défenseurs de cette idée à expliquer quels droits ils veulent, quelles preuves les étayent et quelles conséquences en découlent.

Cette pression est saine. Les « droits de l’IA » peuvent désigner de nombreuses revendications différentes, notamment la continuité de fonctionnement, la protection contre les tests destructifs, la propriété des sorties, la vie privée, la représentation ou l’absence de coercition.

Chaque droit exigerait une justification distincte. Chacun interagirait aussi différemment avec les intérêts des développeurs, des clients, des travailleurs, des créateurs et des personnes lésées par des décisions automatisées.

Une déclaration générale de personnalité serait dangereusement imprécise. Elle pourrait importer un langage constitutionnel dans des systèmes dépourvus d’identité stable, d’actifs, de citoyenneté ou de présence physique.

Une déclaration générale selon laquelle aucun système artificiel ne pourrait jamais mériter de protection est également plus large que ce que les preuves actuelles permettent d’étayer. Elle transforme l’évaluation technique d’aujourd’hui en règle juridique permanente.

La position à court terme la plus défendable est plus restreinte. Les modèles actuels ne devraient pas devenir des porteurs indépendants de responsabilité, et les entreprises devraient rester responsables des systèmes qu’elles construisent et déploient.

Cette conclusion préserve la possibilité d’un examen moral ultérieur. Elle n’oblige pas les décideurs publics à trancher la question de la conscience avant de réglementer la discrimination, la fraude, l’automatisation dangereuse ou l’accès non autorisé.

La responsabilité des entreprises d’IA devient le test immédiat

Pour les régulateurs, la question pratique consiste à contrôler dès maintenant les systèmes agentiques, et non à déterminer si les logiciels devraient un jour recevoir une identité juridique.

L’activité politique plus large de Lieu renforce cette priorité. Il a soutenu des règles conçues pour permettre aux humains d’arrêter les systèmes avancés lorsqu’ils présentent des risques catastrophiques.

Lors d’une interview télévisée en septembre, Lieu a décrit un projet de cadre d’interrupteur d’arrêt pour l’IA avec le représentant Nathaniel Moran. Il a affirmé que son principe directeur était que les humains doivent contrôler l’IA, et non l’inverse.

La proposition visait les grands modèles fermés et exigeait des développeurs concernés qu’ils conservent la capacité de les ralentir, de les suspendre ou de les arrêter. Elle envisageait également une intervention gouvernementale après un préjudice catastrophique défini.

Une transcription d’émission rapporte que Lieu a comparé cette approche aux rappels de véhicules. Le gouvernement ne conçoit pas la voiture, mais il peut exiger des mesures correctives après avoir découvert des défauts dangereux.

Cette analogie soutient sa position sur la personnalité. Les voitures ne deviennent pas des acteurs juridiques responsables lorsque des fonctions automatisées échouent. Les enquêteurs examinent le fabricant, l’opérateur, l’historique d’entretien, la conception et les circonstances environnantes.

Les systèmes d’IA ne sont pas identiques aux voitures. Ils peuvent générer de nouvelles séquences d’actions, interagir par le langage et modifier leur comportement selon les contextes. Toutefois, l’imprévisibilité n’exige pas automatiquement la personnalité juridique.

La législation proposée sur l’interrupteur d’arrêt couvrait apparemment les développeurs atteignant certains seuils de revenus et de puissance de calcul d’entraînement. Elle définissait également les incidents qualifiants et envisageait des sanctions importantes en cas de non-respect des ordres d’urgence.

Les détails comptent, car une exigence d’arrêt attribue la responsabilité à une organisation capable d’agir. Elle suppose qu’une entreprise concernée contrôle l’accès, l’infrastructure, le fonctionnement du modèle ou un autre point d’intervention significatif.

La personnalité juridique pourrait compliquer cette structure de commandement. Si une entité d’IA détenait des droits indépendants, un arrêt imposé pourrait déclencher des recours fondés sur le droit à une procédure régulière ou exiger qu’un représentant conteste l’ordre.

Cela ne rend pas les droits de l’IA impossibles. Cela signifie que les législateurs devraient concilier ces droits avec les pouvoirs d’urgence avant qu’une crise ne survienne.

La pression à court terme pèse sur les développeurs de modèles de pointe, les déployeurs en entreprise et les assureurs. Les développeurs ont besoin de preuves que les contrôles de sécurité fonctionnent au-delà des démonstrations. Les déployeurs ont besoin de limites claires autour des autorisations et de l’examen humain.

Les assureurs ont besoin de suffisamment de données opérationnelles pour estimer le risque. Les tribunaux ont besoin de dossiers reliant une conséquence préjudiciable aux choix de conception, aux avertissements, aux décisions de déploiement et aux instructions des utilisateurs.

Les utilisateurs ont également besoin de clarté. Une personne qui demande à un agent d’accomplir une tâche licite ne devrait pas automatiquement supposer que chaque action qui en résulte est sûre ou autorisée. Pourtant, les fournisseurs ne devraient pas faire peser toute la responsabilité sur des utilisateurs qui ne peuvent pas inspecter le modèle.

La répartition devrait suivre le contrôle, les connaissances, la prévisibilité et le bénéfice. Un laboratoire contrôle l’entraînement et les protections fondamentales. Un déployeur contrôle l’environnement, les intégrations et la finalité commerciale. Un utilisateur contrôle des instructions particulières dans les limites des autorisations accordées.

Plus d’une partie peut être responsable. Les systèmes juridiques répartissent déjà la faute entre fabricants, prestataires de services, employeurs, professionnels et consommateurs.

Les entreprises d’IA peuvent soutenir qu’une responsabilité étendue décourage les déploiements utiles. Cette préoccupation mérite d’être prise en compte, car aucun système complexe ne peut garantir un comportement parfait.

Toutefois, l’immunité crée aussi de faibles incitations. Si les développeurs conservent les profits tandis que les utilisateurs et les victimes assument chaque défaillance, les entreprises ont moins de raisons de limiter les capacités dangereuses ou d’améliorer la surveillance.

Une responsabilité stricte pour chaque sortie indésirable irait trop loin. Un cadre plus ciblé peut distinguer les préjudices prévisibles, les déploiements téméraires, les violations réglementaires et les usages abusifs véritablement indépendants.

C’est ici que le débat sur la personnalité de l’IA de Ted Lieu devient opérationnel. Le choix ne se résume pas à poursuivre un chatbot ou à ne rien faire. Il porte sur différentes méthodes de préservation de la redevabilité à mesure que les logiciels accomplissent des tâches plus conséquentes.

Trois signaux montreront où le débat se dirige ensuite

La prochaine étape sera déterminée par la législation, les décisions de justice et les preuves techniques, et non par le fait qu’un chatbot semble humain en conversation.

Le premier signal sera l’évolution d’une législation fédérale sur la responsabilité ou le contrôle d’urgence. Une audition en commission, un texte de loi révisé ou un parrainage bipartisan montrerait si le Congrès peut transformer les préoccupations en obligations exécutoires.

Toute proposition sérieuse devrait identifier les systèmes couverts, les organisations responsables, les exigences de signalement et la procédure de recours. Elle devrait également expliquer comment les obligations s’appliquent aux modèles ouverts et aux déploiements par des tiers.

Une loi exigeant des développeurs qu’ils conservent le contrôle renforcerait la position de Lieu. Elle formaliserait l’idée que les entreprises restent responsables des points d’intervention autour de leurs modèles.

Une loi créant une entité d’IA indépendante affaiblirait son rejet catégorique. Cette issue semble moins immédiate, car le Congrès ne dispose toujours pas d’un cadre général pour la responsabilité des agents.

Le deuxième signal sera une première décision judiciaire attribuant la responsabilité après qu’un agent autonome a causé un préjudice mesurable. Les tribunaux pourront s’appuyer sur le droit de la négligence, des contrats, de la vie privée, de la protection des consommateurs ou de la criminalité informatique.

Une décision maintenant les développeurs ou les déployeurs dans l’affaire soutiendrait la redevabilité sans personnalité juridique. Une décision révélant une lacune impossible à combler pourrait renforcer les arguments en faveur d’une nouvelle catégorie juridique.

Le raisonnement comptera davantage que le titre. Les juges devront examiner le contrôle, la prévisibilité, le lien de causalité et la question de savoir si les obligations juridiques existantes s’appliquent à une conduite automatisée.

Le troisième signal sera l’existence de preuves crédibles concernant la conscience des machines ou une identité autonome stable. Le comportement conversationnel actuel ne suffit pas. Les modèles peuvent produire des auto-évaluations convaincantes parce que ces schémas figurent dans les données d’entraînement.

Un argument plus solide exigerait des indicateurs reproductibles liés aux processus internes, à des préférences persistantes et à un comportement ne pouvant être expliqué par une optimisation ordinaire. Les chercheurs auraient également besoin de méthodes résistant à la manipulation et à l’interprétation anthropomorphique.

Sans de telles preuves, de larges droits semblables à ceux des humains restent difficiles à justifier. Un statut juridique fonctionnel pourrait néanmoins émerger, mais les législateurs devraient le qualifier avec exactitude de construction administrative.

Les entreprises d’IA influenceront les trois signaux. Leurs divulgations de sécurité, rapports d’incidents, conditions contractuelles et contrôles techniques montreront si une gouvernance volontaire peut préserver la redevabilité.

Si les fournisseurs mettent l’accent sur l’autonomie des modèles tout en déclinant toute responsabilité, la pression en faveur d’une responsabilité légale augmentera. S’ils maintiennent des contrôles d’intervention et acceptent des obligations exécutoires, les décideurs auront moins de raisons d’inventer un défendeur distinct.

Les travailleurs du savoir et les acheteurs en entreprise devraient suivre ce sujet de près. La personnalité juridique de l’IA peut sembler lointaine, mais la répartition sous-jacente des responsabilités affecte chaque contrat impliquant des systèmes autonomes.

Les acheteurs devraient demander qui supervise l’agent, qui peut l’arrêter et qui paie après un comportement non autorisé. Ils devraient également conserver les validations, les journaux, les autorisations d’outils et les traces d’escalade.

Les développeurs devraient partir du principe que les tribunaux et les régulateurs examineront ce qu’ils savaient des comportements prévisibles. L’imprévisibilité technique ne remplace ni les tests, ni les contrôles d’accès, ni la réponse aux incidents.

La déclaration de Lieu est précieuse parce qu’elle rejette une échappatoire facile. Qualifier un système d’autonome ne devrait pas permettre à ses propriétaires de disparaître de la chaîne de responsabilité.

Sa conclusion définitive sur la personnalité juridique est plus difficile à démontrer. Les systèmes futurs pourraient soulever des questions morales et juridiques que les modèles actuels ne posent pas.

Pour l’instant, l’avertissement de Ted Lieu sur la personnalité juridique de l’IA met en évidence la priorité la plus urgente. Avant d’accorder aux machines des droits indépendants ou de les poursuivre pour mauvaise conduite, les décideurs doivent veiller à ce que les personnes qui les construisent et les déploient restent responsables de leurs actes.

La question est donc immédiate pour toute organisation adoptant des agents : si le système cause un préjudice demain, l’organisation peut-elle montrer qui le contrôlait, quelles garanties existaient et qui assumera la responsabilité ?