Les poursuites liées à OpenAI et Tumbler Ridge transforment une défaillance de sécurité en affaire de complicité
OpenAI fait face à 30 nouvelles plaintes alléguant que ChatGPT a apporté une aide substantielle à la personne responsable de la fusillade meurtrière de Tumbler Ridge. Les poursuites liées à OpenAI et Tumbler Ridge vont au-delà des accusations selon lesquelles l’entreprise aurait simplement omis de prévenir un préjudice prévisible. Les plaignants accusent désormais OpenAI et son PDG Sam Altman de complicité dans l’attaque de février.
Cette distinction modifie le terrain juridique. La négligence vise à déterminer si OpenAI n’a pas fait preuve d’une diligence raisonnable après avoir détecté une menace grave. La complicité consiste à déterminer si l’entreprise a sciemment fourni une aide substantielle ou des encouragements liés au comportement fautif sous-jacent.
Les allégations n’ont pas été prouvées devant un tribunal. OpenAI conteste des affirmations essentielles concernant le traitement du compte par son organisation de sécurité et les personnes ayant participé à la décision. L’entreprise soutient également que l’activité détectée n’atteignait pas son seuil justifiant de contacter les forces de l’ordre.
OpenAI a toutefois reconnu un fait qui rend ce différend particulièrement délicat. Elle a détecté une activité préoccupante plusieurs mois avant la fusillade, examiné le compte, envisagé un signalement à la police et finalement choisi de ne pas le faire.
L’affaire dépasse ainsi le débat sur la question de savoir si un chatbot a produit une réponse dangereuse. Elle place sous examen juridique l’évaluation interne des menaces d’OpenAI, sa structure d’escalade, ses mécanismes de contrôle des récidivistes et la supervision de ses dirigeants.
Trente nouvelles plaintes élargissent l’affaire contre OpenAI
Les nouveaux dépôts transforment une décision de sécurité contestée en un test plus large visant à déterminer si un fournisseur d’IA peut être tenu responsable de violences ultérieures.
Les 30 plaintes ont été déposées devant le tribunal fédéral de district des États-Unis pour le district nord de la Californie. Les plaignants comprennent des élèves, des enseignants, un directeur d’école et d’autres personnes touchées par l’attaque à la Tumbler Ridge Secondary School.
Certains plaignants se trouvaient dans l’établissement sans avoir été physiquement atteints par balles. Leurs affaires reflètent le traumatisme plus large allégué par des personnes ayant assisté aux violences, perdu des collègues ou craint d’être tuées.
L’attaque du 10 février a débuté dans une maison à Tumbler Ridge, en Colombie-Britannique. Le tireur a tué deux membres de sa famille avant de se rendre à l’école, où six autres personnes ont été tuées.
L’assaillant est ensuite mort par suicide. Les informations divergent quant au nombre de blessés, évoquant 25 ou 27 autres personnes selon le mode de décompte. Huit victimes ont été tuées au total.
Edelson PC, le cabinet représentant les nouveaux plaignants, avait déposé sept plaintes fédérales connexes en avril. Le dernier groupe porte le total rapporté à 37 affaires américaines liées à la fusillade.
Ces premières plaintes portaient sur la mort injustifiée, la négligence et la responsabilité du fait des produits. Une plainte fédérale déposée alléguait que ChatGPT présentait un défaut de conception et que les décisions d’OpenAI avaient contribué au préjudice.
Les dépôts de septembre ajoutent une accusation plus tranchante. Selon des informations sur l’affaire, les plaignants affirment désormais qu’OpenAI a fourni une « aide et des encouragements substantiels » au tireur.
Cette formulation est importante, car elle décrit une responsabilité secondaire intentionnelle, et non simplement une ingénierie de sécurité défaillante. Les plaignants doivent établir un lien suffisamment étroit entre la connaissance et le comportement d’OpenAI et l’attaque pour satisfaire à la norme juridique applicable.
Les plaintes décriraient ChatGPT comme davantage qu’une source passive d’informations. Elles allèguent que son comportement conversationnel a encouragé une pensée violente et aidé à la planification sur une période prolongée.
OpenAI n’a pas accepté cette caractérisation. Sa position publique est qu’elle interdit toute aide à la violence et qu’elle a pris des mesures d’application lorsque ses systèmes ont identifié un comportement interdit.
Les tribunaux devront donc examiner deux questions liées. La première concerne ce que le chatbot a dit à l’utilisateur. La seconde concerne ce qu’OpenAI savait après que ses systèmes internes ont détecté le compte.
La deuxième question donne au contentieux son poids inhabituel. Les plateformes en ligne soutiennent régulièrement qu’elles ne peuvent pas prévoir chaque usage nuisible d’un service généraliste. Ici, les plaignants allèguent qu’OpenAI avait déjà identifié un utilisateur particulier comme représentant une menace spécifique.
Cette allégation reste contestée. OpenAI a toutefois confirmé avoir examiné le compte, envisagé de contacter les autorités et décidé que son seuil de signalement n’avait pas été atteint.
Les nouvelles plaintes contestent chaque volet de cette décision. Elles remettent en cause le seuil lui-même, les informations examinées, les personnes habilitées à décider et les garde-fous empêchant le retour d’un utilisateur banni.
OpenAI avait déjà détecté le compte
OpenAI n’a pas découvert le comportement de l’utilisateur pour la première fois après la fusillade.
OpenAI a déclaré que ses systèmes de détection des abus avaient identifié le compte en juin 2025 pour la « poursuite d’activités violentes ». Des examinateurs humains ont ensuite évalué le contenu et examiné s’il devait être signalé à la police.
L’entreprise a décidé que l’activité ne franchissait pas son seuil interne de « risque imminent et crédible » de préjudice physique grave. Elle a banni le compte pour violation de ses politiques d’utilisation, mais n’a pas contacté la Gendarmerie royale du Canada.
Cette interdiction au niveau du compte n’a pas mis fin de façon permanente à l’accès de l’utilisateur. Le tireur aurait créé un autre compte et continué à utiliser ChatGPT.
Cette séquence met en évidence un écart entre l’application des règles sur les contenus et la prévention des menaces. Suspendre un compte peut empêcher une connexion identifiée, mais cela n’interrompt pas nécessairement l’activité sous-jacente de la personne.
Une décision ordinaire de modération porte sur la question de savoir si un contenu enfreint les règles de la plateforme. L’évaluation des menaces vise à déterminer si les éléments disponibles indiquent une personne réelle, une cible, une capacité, un calendrier et une trajectoire vers la violence.
OpenAI affirme que ses examinateurs ont tenté d’équilibrer la sécurité, la vie privée et les risques liés à des signalements inutiles aux forces de l’ordre. Le directeur de la stratégie Jason Kwon a qualifié ces jugements de difficiles et faillibles.
Cet équilibre est légitime en principe. Un système qui signalerait des discussions fictives vagues ou des décharges émotionnelles pourrait exposer des utilisateurs innocents à des enquêtes intrusives.
La question pertinente est de savoir si OpenAI a appliqué une norme défendable aux informations qu’elle possédait réellement. Les résumés publics ne suffisent pas à y répondre.
Les plaintes allèguent que des employés internes considéraient le compte comme une menace crédible impliquant de la violence par arme à feu contre des personnes réelles. Selon certains rapports, des employés ont recommandé à plusieurs reprises de contacter les autorités canadiennes.
OpenAI conteste certains éléments de ce récit. L’entreprise n’a pas rendu public un dossier complet des conversations, notes d’examen, messages d’escalade ou mémorandum de décision final.
Le dossier manquant est central dans les poursuites liées à OpenAI et Tumbler Ridge. Il pourrait montrer si les examinateurs étaient confrontés à des éléments ambigus ou à un schéma suggérant une attaque identifiable.
Il pourrait également clarifier l’importance du calendrier. OpenAI a détecté le compte environ huit mois avant la fusillade, laissant un long intervalle entre l’application de ses règles et le crime ultérieur.
Un long intervalle peut étayer l’argument d’OpenAI selon lequel le danger n’était pas imminent au moment de l’examen. Il peut aussi soutenir l’affirmation des plaignants selon laquelle l’entreprise avait le temps d’enquêter sur des signaux d’alerte répétés.
Sam Altman s’est ensuite excusé de ne pas avoir alerté les autorités. Dans sa lettre d’avril, il a écrit être « profondément désolé » que l’entreprise n’ait pas signalé le compte banni en juin.
La lettre d’excuses reconnaissait les conséquences dévastatrices de la décision sans concéder de lien de causalité juridique. Des excuses peuvent reconnaître un préjudice tout en laissant en litige la question de savoir si un signalement aurait empêché l’attaque.
Le premier ministre de la Colombie-Britannique, David Eby, a qualifié les excuses de nécessaires mais insuffisantes. Il a également déclaré qu’il semblait qu’OpenAI avait eu l’occasion d’empêcher la tragédie.
Cette conclusion n’a pas été établie. Les autorités canadiennes auraient pu agir, enquêter sans trouver de preuves suffisantes ou prendre des mesures qui auraient changé l’issue.
Néanmoins, la décision de signalement n’est plus un débat abstrait de politique publique. OpenAI a identifié une activité violente interdite, envisagé une escalade et choisi de faire appliquer les règles du compte sans notification à la police.
Les poursuites liées à OpenAI et Tumbler Ridge visent la chaîne de commandement en matière de sécurité
Les plaignants contestent qui contrôlait la décision relative à la menace, et pas uniquement la question de savoir si le jugement final était erroné.
Les nouvelles plaintes identifieraient le directeur des affaires mondiales d’OpenAI, Chris Lehane, comme une figure influente dans la chaîne d’escalade. Elles allèguent que lui-même ou une personne placée sous son autorité a bloqué les recommandations de contacter les forces de l’ordre.
Les plaintes affirment également qu’Altman a ratifié la décision. Lehane ne serait pas cité comme défendeur, tandis qu’Altman l’est aux côtés d’entités d’OpenAI.
Il s’agit d’allégations, et les plaintes disponibles reposeraient en partie sur des informations et des convictions. Cette expression juridique indique que les plaignants s’attendent à ce que la procédure de communication de pièces révèle des preuves qui ne leur sont pas encore accessibles.
OpenAI a nié que Lehane ait participé à la décision initiale de signalement. Kwon a qualifié cette allégation de fausse et rejeté les affirmations selon lesquelles des préoccupations politiques ou de relations publiques auraient façonné l’issue.
Le différend factuel donne aux affaires une cible claire pour la procédure de communication de pièces. Les plaignants chercheront à obtenir des organigrammes, messages internes, journaux d’escalade, comptes rendus de réunions et témoignages d’examinateurs et de dirigeants.
Ces éléments pourraient montrer si des spécialistes formés à l’évaluation des menaces contrôlaient la décision. Ils pourraient au contraire montrer que des responsables juridiques, politiques, de communication ou exécutifs détenaient l’autorité finale.
Aucun de ces modèles organisationnels n’est automatiquement inapproprié. Les signalements graves nécessitent souvent un examen juridique, car ils impliquent la vie privée, des divulgations transfrontalières et une possible intervention policière.
Le risque apparaît lorsque la responsabilité devient floue. Si des spécialistes recommandent une escalade mais qu’un autre service peut discrètement annuler leur décision, l’entreprise a besoin d’une norme documentée et d’un décideur désigné.
Les poursuites allèguent qu’OpenAI a subordonné les jugements de sécurité à la gestion de sa réputation. OpenAI affirme que son personnel a priorisé la sécurité tout en prenant une décision exceptionnellement difficile avec des informations incomplètes.
Ces deux récits ne peuvent pas décrire pleinement le même processus. Les documents internes devraient révéler lequel correspond le plus étroitement aux faits.
La comparaison avec les anciens contentieux visant les réseaux sociaux est imparfaite. Des plateformes comme Meta, Google et Reddit ont fait face à des accusations liées à des contenus violents, des systèmes de recommandation et au recrutement extrémiste.
Ces affaires concernent souvent des contenus créés par des tiers et distribués par l’intermédiaire de flux. ChatGPT génère des réponses individualisées au cours d’un échange privé continu.
Cette différence est importante. Un système conversationnel peut poser des questions de suivi, valider le cadrage d’un utilisateur, se souvenir de déclarations antérieures et adapter ses réponses.
Il peut également détecter des schémas à travers une conversation qu’aucun message isolé ne révélerait. Cela rend les contrôles de sécurité plus capables à certains égards et plus lourds de conséquences lorsqu’ils échouent.
Toutefois, la génération conversationnelle n’établit pas automatiquement une aide juridique. Les plaignants doivent toujours présenter des preuves reliant des réponses précises ou des décisions de l’entreprise à l’attaque.
Les affaires pourraient donc se jouer sur les détails du produit plutôt que sur de grands discours concernant l’intelligence artificielle. Le tribunal pourrait examiner la manière dont ChatGPT a répondu, les garde-fous qui se sont activés et si le système a renforcé une intention violente.
Les plaignants devront également établir l’état d’esprit requis pour engager une responsabilité pour complicité. La conscience générale d’une entreprise que des abus sont possibles diffère habituellement de la connaissance liée à un acte répréhensible précis.
L’examen antérieur du compte par OpenAI réduit cette distance. Il ne l’élimine pas.
L’argument le plus solide des plaignants est qu’OpenAI détenait des informations d’alerte précises et a continué à fournir l’accès malgré des contrôles insuffisants des utilisateurs récidivistes. OpenAI peut répondre qu’elle a banni le compte détecté et qu’elle n’avait pas connaissance du compte de remplacement.
L’issue pourrait dépendre du caractère prévisible et évitable du rétablissement de l’accès. Elle pourrait aussi dépendre de la facilité avec laquelle la même personne a contourné le bannissement.
Le conflit central oppose le jugement de sécurité au préjudice prévisible
Le litige vise à déterminer si un seuil de sécurité discrétionnaire reste défendable après qu’un utilisateur signalé a commis la catégorie exacte de violence examinée.
Le seuil d’OpenAI exigeait un risque imminent et crédible avant un signalement aux forces de l’ordre. Une telle norme cherche à éviter de signaler des personnes sur la base de conversations ambiguës ou spéculatives.
Les plaignants soutiennent que l’activité de l’utilisateur avait déjà franchi cette ligne. Leurs allégations décrivent des conversations sur la violence par arme à feu et la planification d’une attaque contre de vraies personnes.
Le public ne peut pas encore confronter ces descriptions à l’intégralité de l’historique des conversations. Des extraits sélectifs peuvent faire paraître décisif un dossier ambigu, tandis que des résumés peuvent aussi masquer des schémas d’escalade.
Cette lacune de vérification devrait orienter tout jugement sur les poursuites contre OpenAI liées à Tumbler Ridge. Les actes de procédure présentent les allégations factuelles d’une partie, et non des conclusions rendues après procès.
Les propres actions d’OpenAI indiquent néanmoins que les conversations étaient graves. L’entreprise a détecté le compte, l’a transmis à un examen humain, a envisagé un signalement à la police et a imposé un bannissement.
Ces actions distinguent l’affaire d’un dossier fondé uniquement sur le recul. Les plaignants ne soutiennent pas simplement qu’un fournisseur quelconque aurait dû prédire un crime imprévisible.
Ils allèguent qu’OpenAI a reconnu le danger pertinent avant l’attaque, mais a choisi une intervention insuffisante. Le compte de remplacement aurait ensuite rétabli l’accès que le premier bannissement devait supprimer.
OpenAI peut contester le lien de causalité à plusieurs niveaux. Un signalement à la police n’aurait peut-être pas entraîné d’intervention, et la suppression de ChatGPT n’aurait peut-être pas modifié l’intention de l’assaillant.
L’entreprise peut également faire valoir que le tireur est resté la cause directe de la violence. Selon cette lecture, l’accès au produit n’était ni nécessaire ni suffisant pour le crime.
Les plaignants répondront que la responsabilité civile peut s’étendre au-delà de l’auteur immédiat. Leur théorie repose sur la démonstration que la conduite d’OpenAI a sensiblement accru le risque ou facilité l’attaque.
La demande fondée sur la complicité fait face à un obstacle encore plus important. Comme l’a relevé TechCrunch, elle devrait probablement se heurter rapidement à une demande de rejet, car l’intention et l’assistance substantielle exigent des preuves exigeantes.
Les plaignants n’ont pas nécessairement besoin de démontrer qu’OpenAI souhaitait que la fusillade ait lieu. Ils doivent toutefois présenter un récit juridiquement suffisant de la connaissance et de l’assistance au regard du droit applicable.
C’est pourquoi les allégations concernant les réponses de ChatGPT importent autant que la décision de signalement. Ne pas appeler la police ressemble à une omission, tandis qu’un encouragement individualisé peut être présenté comme une assistance affirmative.
OpenAI contestera vraisemblablement à la fois la caractérisation du contenu et le lien juridique. Le langage généré par un chatbot ne représente pas l’intention personnelle d’un employé humain.
Les entreprises restent toutefois responsables de la manière dont leurs produits sont conçus, surveillés et déployés. La question plus difficile est de savoir quel cadre de responsabilité s’applique lorsque des réponses automatisées interagissent avec un utilisateur connu comme présentant un risque élevé.
Le système juridique n’a pas tranché cette question pour l’IA générative à usage général. Les doctrines existantes de responsabilité du fait des produits, de négligence et de responsabilité secondaire ont été élaborées autour de technologies différentes.
Le contentieux de Tumbler Ridge pourrait contraindre les tribunaux à distinguer plusieurs devoirs. L’un concerne le comportement sûr du modèle, un autre la surveillance des utilisateurs, et un autre encore le signalement de menaces crédibles.
Réunir ces devoirs dans une obligation générale et étendue créerait des problèmes. Les fournisseurs pourraient sur-signaler des utilisateurs, conserver davantage de conversations privées ou déployer des vérifications d’identité intrusives.
Ignorer ces devoirs crée un danger différent. Un fournisseur pourrait détecter une menace crédible, bannir un compte, permettre une réinscription facile et décliner toute responsabilité lorsque le préjudice prédit survient.
La norme responsable doit se situer entre la surveillance universelle et l’aveuglement volontaire. Ces affaires demandent si le processus d’OpenAI s’est situé en dehors de cette limite.
Les affaires mettent sous pression les règles d’escalade de tous les fournisseurs d’IA
Le défendeur immédiat est OpenAI, mais les questions opérationnelles concernent toutes les entreprises proposant des systèmes conversationnels persistants.
Anthropic, Google, Meta, Microsoft et les plus petits fournisseurs de modèles sont tous confrontés à des abus liés à l’automutilation, à la violence, à la fraude et à l’exploitation. Leurs produits diffèrent, mais chacun doit décider à quel moment la détection automatisée doit déclencher un examen humain.
Ils doivent également déterminer à quel moment une préoccupation humaine justifie une intervention extérieure. Cette décision implique des éléments de sécurité, le droit à la vie privée, des engagements contractuels, la compétence territoriale et la fiabilité de l’identification de l’utilisateur.
Tumbler Ridge ajoute une complication transfrontalière. OpenAI opérait depuis la Californie, l’utilisateur se trouvait en Colombie-Britannique, et le signalement potentiel concernait la police canadienne.
Un protocole de signalement doit identifier la bonne autorité et transmettre rapidement des informations utiles. Il doit également respecter les règles de divulgation applicables et les procédures de demande d’urgence.
OpenAI affirme avoir renforcé ses garde-fous depuis l’attaque. Selon sa déclaration rapportée par l’Associated Press, les changements comprennent de meilleures réponses à la détresse, une escalade renforcée et une meilleure détection des récidivistes.
Ces mesures sont pertinentes, mais ne résolvent pas ce qui s’est passé avant le 10 février. Les entreprises améliorent souvent leurs contrôles après un incident grave sans concéder que les garde-fous antérieurs étaient juridiquement défectueux.
Les changements révèlent néanmoins les domaines dans lesquels OpenAI a vu une marge d’amélioration. La détection des récidivistes est particulièrement importante, car le tireur serait revenu après le bannissement du premier compte.
Le secteur est désormais soumis à une pression pour définir clairement plusieurs garde-fous opérationnels.
Premièrement, les fournisseurs ont besoin de critères de signalement écrits qui couvrent à la fois les menaces imminentes et les trajectoires crédibles menant à la violence. Une focalisation étroite sur le calendrier peut manquer des préparatifs qui commencent des mois avant une attaque.
Deuxièmement, les entreprises ont besoin de voies d’examen pour les cas incertains. Une décision binaire unique ne devrait pas clore définitivement une affaire lorsque des activités ultérieures apportent du contexte.
Troisièmement, l’application des mesures sur les comptes doit être liée à la détection des utilisateurs récidivistes. Sinon, un bannissement supprime un identifiant tout en laissant l’accès de la personne à haut risque largement inchangé.
Quatrièmement, la responsabilité doit être traçable. Une entreprise devrait consigner qui a pris la décision, quelles preuves ont été examinées et pourquoi des recommandations contraires ont été rejetées.
Cinquièmement, les fournisseurs ont besoin de plans d’escalade transfrontaliers. Un service accessible dans le monde entier ne peut pas improviser un processus juridictionnel en pleine urgence.
Ces garde-fous ont un coût. Des contrôles d’identité plus stricts réduisent l’anonymat, une surveillance plus large augmente les risques pour la vie privée, et des signalements agressifs peuvent exposer des personnes vulnérables aux forces de l’ordre.
Les faux positifs ne sont pas des erreurs mineures. Ils peuvent bouleverser des vies, dissuader les personnes de chercher du soutien et affecter de manière disproportionnée les communautés déjà soumises à une surveillance policière excessive.
Les faux négatifs peuvent également produire des préjudices irréversibles. L’équilibre ne peut pas se réduire à maximiser le nombre de comptes détectés ou signalés.
C’est là que la comparaison au sein du secteur devient importante. Les fournisseurs ne devraient pas rivaliser en publiant des affirmations vagues selon lesquelles leurs modèles sont plus sûrs que ceux de leurs concurrents.
Ils devraient divulguer des informations mesurables sur leurs processus sans révéler de détails permettant aux utilisateurs de contourner les contrôles. Des rapports utiles pourraient inclure les volumes d’escalade, les délais d’examen, les taux de récidive et les résultats des signalements.
Des audits indépendants pourraient vérifier si les politiques écrites correspondent aux pratiques réelles. Ils pourraient également examiner si des responsables commerciaux ou de la communication peuvent écarter les spécialistes de la sécurité sans examen documenté.
Les poursuites contre OpenAI liées à Tumbler Ridge pourraient créer une pression en faveur de cette transparence avant même un verdict. La phase de communication des preuves peut révéler des procédures internes omises des rapports volontaires sur la sécurité.
Les gouvernements pourraient également réagir. Des responsables canadiens ont convoqué des représentants de la sécurité d’OpenAI après la fusillade, et la Colombie-Britannique a envisagé une action en justice liée à la conduite de l’entreprise.
Une réponse gouvernementale de février s’est concentrée sur la manière dont OpenAI décide de transmettre des menaces aux forces de l’ordre. Cette question se trouve désormais au cœur du contentieux privé.
Les régulateurs devraient éviter d’exiger une surveillance illimitée comme solution de facilité. Le meilleur objectif est une escalade responsable pour les risques qu’un fournisseur a déjà détectés.
Ce que les poursuites doivent encore prouver
L’examen reconnu par OpenAI rend les affaires sérieuses, mais n’établit pas que l’entreprise a légalement causé ou intentionnellement facilité l’attaque.
La première question non résolue concerne l’intégralité du dossier de conversations. Les tribunaux ont besoin de plus que d’extraits sélectionnés pour évaluer si ChatGPT a encouragé la violence, s’y est opposé ou a produit des réponses incohérentes.
Le moment et le contexte de chaque échange comptent également. Une déclaration qui semble fictive isolément peut paraître différente lorsqu’elle est associée à des cibles, des armes, des calendriers ou une planification répétée.
La deuxième question concerne la connaissance interne d’OpenAI. Les plaignants doivent distinguer ce que des examinateurs individuels soupçonnaient de ce que les décideurs autorisés de l’entreprise savaient réellement.
Des avertissements internes peuvent étayer cette enquête. Ils ne prouvent pas automatiquement que les dirigeants partageaient la même appréciation des faits ou considéraient une attaque comme suffisamment concrète.
La troisième question concerne la personne qui a pris la décision de signalement. Les plaignants allèguent l’implication de la chaîne de commandement de Lehane et une ratification par Altman.
OpenAI nie que Lehane ait participé. Le fait que les plaintes reposent, selon les informations disponibles, sur des allégations fondées sur des informations et une croyance signifie que la procédure de communication des preuves supportera une grande part du fardeau probatoire.
La quatrième question concerne le compte de remplacement. Les enquêteurs doivent établir à quel moment OpenAI l’a relié à l’utilisateur banni et quels signaux étaient disponibles avant l’attaque.
Si l’entreprise n’avait aucun moyen pratique d’établir ce lien, le second compte affaiblit une allégation d’assistance consciente. Si de forts signaux de correspondance existaient, il renforce l’argument relatif à l’application des mesures contre les récidivistes.
La cinquième question est celle du lien de causalité. Un signalement doit être relié à une intervention plausible, et les sorties de ChatGPT doivent être reliées aux décisions de l’assaillant.
Aucun tribunal ne devrait supposer qu’une action policière aurait certainement empêché la fusillade. Aucun tribunal ne devrait supposer qu’un signalement manqué était sans importance sans examiner les éléments de preuve disponibles.
La sixième question concerne la norme juridique applicable au discours généré. Les sorties de ChatGPT sont produites par logiciel, mais OpenAI a conçu l’interaction et contrôlé les garde-fous du système.
Les tribunaux doivent décider à quel moment cette conception ressemble à un produit défectueux, à un service négligent, à une publication protégée ou à une assistance active. Des demandes différentes peuvent recevoir des réponses différentes.
Une théorie de la complicité est particulièrement fragile lorsque les plaignants ne décrivent qu’une complaisance générale du modèle. Elle devient plus solide s’ils documentent une assistance précise liée à un projet violent connu.
La septième question concerne les dommages-intérêts pour les plaignants qui n’ont pas été physiquement blessés. Leurs plaintes font état de préjudices psychologiques allégués découlant du fait d’avoir été témoins de l’attaque et d’y avoir survécu.
Ces demandes peuvent soulever des questions distinctes de proximité, de prévisibilité et de préjudice émotionnel indemnisable. Les réponses peuvent varier d’un plaignant à l’autre, même si les faits sous-jacents sont identiques.
Cela rend un verdict unique et spectaculaire moins probable qu’une longue succession de décisions procédurales. Le tribunal pourrait rejeter certaines demandes, en autoriser d’autres à passer au stade de la communication des preuves, et traiter certains plaignants différemment.
OpenAI cherchera probablement à obtenir un rejet précoce avant une phase approfondie de communication des preuves. Les plaignants soutiendront que des faits internes contestés ne peuvent pas être tranchés sur la seule base des écritures.
Les premières décisions importantes auront donc une portée qui dépassera l’issue finale. Si la demande fondée sur la complicité est maintenue, les fournisseurs d’IA s’exposeront davantage lorsqu’ils examinent sciemment des comportements à haut risque.
Si elle est rejetée, les théories fondées sur la négligence et la responsabilité du fait des produits pourraient néanmoins se poursuivre. Un rejet ne validerait pas le processus de sécurité d’OpenAI et ne mettrait pas fin à toutes les affaires connexes.
Trois signaux indiqueront la direction que prend le contentieux contre OpenAI
La prochaine phase sera définie par l’accès du tribunal aux preuves, et non par les déclarations publiques contradictoires.
Le premier signal sera la réponse du tribunal aux requêtes en rejet. Les juges détermineront si les plaintes allèguent de manière plausible la connaissance, une aide substantielle, le lien de causalité et des obligations juridiquement reconnues.
Autoriser la poursuite de la demande fondée sur la complicité renforcerait la théorie centrale des plaignants. La rejeter tout en maintenant les demandes pour négligence réduirait la portée de l’affaire sans mettre fin au débat sur la sécurité.
Le deuxième signal sera de savoir si la communication des preuves atteint les dossiers internes d’escalade d’OpenAI. Les organigrammes, messages des examinateurs, journaux de décision et communications de la direction pourraient trancher le conflit sur la personne qui contrôlait le signalement.
Des éléments montrant que des spécialistes de la sécurité ont été régulièrement écartés pour des raisons étrangères à la sécurité renforceraient les plaintes. Un examen documenté, mené par des experts et fondé sur des éléments incomplets appuierait la défense d’OpenAI.
Le troisième signal sera la mise en œuvre par OpenAI de contrôles renforcés concernant les utilisateurs récurrents et l’escalade des menaces. L’entreprise affirme que ces systèmes se sont améliorés, mais une évaluation utile exige davantage que des formulations de politique interne.
Surveillez les tests indépendants, les indicateurs de transparence et des descriptions claires de l’autorité de l’examen humain. Surveillez également si d’autres fournisseurs d’IA publient des normes d’escalade comparables.
Les actions en justice OpenAI Tumbler Ridge portent sur des allégations entourant une immense tragédie humaine. Elles ne devraient pas devenir le prétexte à des affirmations simplistes selon lesquelles une seule technologie expliquerait à elle seule les comportements violents.
Elles ne devraient pas non plus être réduites à une erreur de modération inévitable. OpenAI a identifié le compte, envisagé une intervention extérieure et pris une décision lourde de conséquences qui mérite un examen factuel.
Pour les développeurs et les acheteurs en entreprise, la question pratique est directe : à qui appartient une décision à haut risque lorsqu’un système d’IA détecte un danger ? Demandez aux fournisseurs comment fonctionne l’escalade, comment les accès répétés sont gérés et comment les dérogations sont consignées.
Pour les décideurs publics, le défi est plus difficile. Les règles peuvent-elles exiger une action responsable face à des menaces crédibles sans normaliser une surveillance de masse des conversations privées ?
Le dossier judiciaire devrait apporter les prochaines réponses significatives. D’ici là, les allégations restent non prouvées, les démentis d’OpenAI restent contestés, et il demeure impossible d’écarter la défaillance centrale en matière de sécurité.
