OpenAI Project Lily place une révision humaine derrière les conversations apparemment privées de ChatGPT

OpenAI Project Lily emploierait des centaines de sous-traitants pour examiner de véritables conversations ChatGPT, malgré l’impression d’intimité créée par une interface de chatbot en tête-à-tête. Ces réviseurs contribuent à évaluer les réponses du modèle, mais certaines conversations contiendraient des informations personnelles que le filtrage automatisé n’a pas supprimées.

L’existence du programme a été détaillée dans une enquête du 14 septembre fondée sur des guides internes, des discussions sur le lieu de travail, des supports d’évaluation et de véritables requêtes. Selon l’enquête originale, les réviseurs peuvent recevoir des conversations complètes plutôt que des questions isolées et dépourvues de contexte.

Le conflit central ne porte pas sur la participation d’humains à l’intelligence artificielle. Les retours humains façonnent les principaux modèles de langage depuis des années. La question plus précise est de savoir si les informations communiquées aux consommateurs les préparent suffisamment à ce qu’un sous-traitant lise un échange qui paraît confidentiel.

Google indique déjà que des prestataires de services formés examinent un sous-ensemble des conversations Gemini. Anthropic a également confirmé qu’il recourt à une révision humaine pour les conversations éligibles, selon le reportage sur Project Lily. Cette pratique semble dépasser le cadre d’une seule entreprise, mais OpenAI fait désormais face à des questions directes concernant l’information des utilisateurs, la minimisation des données et la capacité de son filtre de confidentialité à offrir une protection suffisante.

Ce que les réviseurs d’OpenAI Project Lily verraient

Project Lily transforme certaines conversations de consommateurs en tâches d’évaluation structurées destinées à des réviseurs humains.

Le flux de travail décrit commencerait par une véritable requête ChatGPT. Un sous-traitant lit la demande de l’utilisateur, résume l’intention apparente et évalue plusieurs réponses générées par le modèle. Les réviseurs recevraient quatre réponses candidates et les noteraient sur une échelle de un à sept.

Ce processus va bien au-delà du choix d’une icône pouce levé. Les réviseurs doivent identifier les forces et les faiblesses d’une réponse, expliquer leur raisonnement et déterminer si elle correspond au comportement privilégié par OpenAI.

Les instructions d’évaluation porteraient à la fois sur le fond et sur le ton. Les réviseurs examinent l’exactitude, la pertinence, le format approprié et le respect de la demande de l’utilisateur. Ils pénalisent également les habitudes susceptibles de donner à un texte généré une impression mécanique ou manipulatrice.

Ces habitudes incluraient notamment des symboles de coche inutiles, une mise en forme encombrée et des conclusions conçues principalement pour prolonger l’engagement. Les réviseurs sont aussi invités à signaler les affirmations d’expérience humaine, par exemple lorsqu’un chatbot se présente comme une personne ayant une histoire personnelle.

Un autre point visé est la flagornerie, c’est-à-dire la tendance d’un modèle à acquiescer excessivement à l’utilisateur ou à renforcer son cadrage. Un assistant flagorneur peut sembler bienveillant tout en omettant de remettre en cause une prémisse irrationnelle, erronée ou dangereuse.

Le jugement humain compte ici, car ces défauts dépendent fortement du contexte. Une métrique automatisée rigide ne peut pas toujours distinguer une empathie utile d’une validation irresponsable. Elle peine également à déterminer à quel moment une réponse amicale devient obséquieuse ou trompeuse.

Cela explique pourquoi les développeurs de modèles ont toujours besoin de personnes après avoir investi massivement dans l’infrastructure informatique et l’évaluation automatisée. Une réponse peut être grammaticalement correcte et factuellement plausible tout en paraissant évasive, condescendante ou inquiétamment complaisante.

Toutefois, le contexte même qui aide les réviseurs à juger une réponse augmente aussi les enjeux en matière de confidentialité. Une requête isolée peut révéler peu de choses. Un échange complet peut exposer des relations, des préoccupations de santé, des conflits professionnels, des difficultés financières ou d’autres éléments identifiants.

Certaines tâches de révision afficheraient un résumé de la mémoire utilisateur au-dessus de la conversation. La mémoire de ChatGPT peut conserver des détails utiles issus d’interactions antérieures afin que les réponses suivantes paraissent plus personnalisées. Ce résumé peut aussi fournir des indices supplémentaires sur la profession, le lieu de résidence, les centres d’intérêt ou la situation d’une personne.

Les réviseurs ne recevraient pas les noms d’utilisateur ChatGPT. OpenAI affirme également que les conversations passent par un système appelé Privacy Filter avant de leur parvenir. Ce modèle automatisé est censé identifier et supprimer les informations personnelles.

Pourtant, supprimer un nom de compte ne rend pas nécessairement anonyme une conversation détaillée. Un métier distinctif, un historique médical inhabituel, une communauté nommée et un événement familial précis peuvent, ensemble, identifier une personne. Chaque fragment peut sembler inoffensif lorsqu’il est examiné séparément.

Le processus de révision humaine de ChatGPT décrit dépend donc de deux protections imparfaites. La première est la rédaction automatisée. La seconde est le contrôle organisationnel des sous-traitants, qui ont néanmoins besoin d’un contexte suffisant pour effectuer des évaluations utiles.

Une couverture secondaire décrit la participation de centaines de sous-traitants au projet. Des rapports associent également ce travail à Mercor et Crossing Hurdles, bien qu’OpenAI n’ait pas publié de compte rendu opérationnel complet.

L’enquête ne permet pas d’établir combien de conversations au total entrent dans Project Lily, comment elles sont échantillonnées ni combien de temps les réviseurs peuvent y accéder. Elle n’identifie pas non plus les versions précises des modèles qui reçoivent les retours ainsi produits.

Ces lacunes importent. « Des humains lisent les conversations ChatGPT » suggère une surveillance universelle, ce que les éléments disponibles ne confirment pas. « Des échantillons anonymisés améliorent les modèles » peut sembler rassurant, mais cela minimise la visibilité rapportée des conversations entières et du contexte mémorisé.

La conclusion défendable se situe entre ces affirmations. Certaines conversations seraient intégrées à un pipeline d’évaluation humaine, et OpenAI applique des protections de confidentialité avant l’examen. Ces protections ne garantissent pas que chaque détail sensible disparaît.

Pourquoi la révision humaine de ChatGPT crée un problème de consentement

La principale préoccupation en matière de confidentialité réside dans l’écart entre les contrôles formels des données et les attentes créées par un produit conversationnel.

La plupart des gens comprennent que des publications publiques peuvent être lues par des inconnus. Un chatbot crée un cadre psychologique différent. Il propose une zone de texte vide, des réponses immédiates et aucun public humain visible.

Cette interface encourage les révélations. Les utilisateurs recourent à ChatGPT pour réviser des e-mails confidentiels, interpréter un langage médical, parler de relations, déboguer du code propriétaire et réfléchir à des problèmes professionnels. D’autres le traitent comme un journal ou un confident émotionnel.

Un utilisateur peut donc comprendre que ses données contribuent à améliorer un service sans imaginer qu’un sous-traitant puisse examiner son texte. L’entraînement des modèles paraît informatique. L’évaluation humaine paraît interpersonnelle.

OpenAI indique bien que le contenu des consommateurs peut contribuer à améliorer ses modèles. Son explication publiée précise que l’entreprise conserve certaines données d’interaction tout en prenant des mesures pour réduire les informations personnelles avant l’entraînement. Elle distingue également les produits destinés aux consommateurs de ses offres pour les entreprises dans sa politique d’amélioration des modèles.

Project Lily modifie la manière dont les lecteurs interprètent ces informations. « Améliorer nos modèles » inclurait, selon les informations rapportées, des personnes lisant, résumant, critiquant et notant certaines conversations. Ce mécanisme mérite une attention plus claire, car il influe sur la signification d’un consentement éclairé.

OpenAI a déclaré au média enquêteur que des détails sensibles peuvent traverser son filtre. Les systèmes de rédaction automatisée rencontrent des difficultés linguistiques complexes, surtout lorsque des informations identifiantes apparaissent indirectement.

Un filtre peut reconnaître une adresse e-mail plus facilement qu’une profession rare associée à une petite ville. Il peut supprimer un numéro de téléphone conventionnel tout en manquant un identifiant rédigé dans un format inhabituel. Les références ambiguës sont encore plus difficiles à traiter.

Le contexte crée également un compromis technique fondamental. Une rédaction plus forte protège la confidentialité, mais peut dégrader le contenu dont les réviseurs ont besoin. Une rédaction plus faible préserve la valeur de l’évaluation, mais accroît l’exposition.

Supposons qu’un utilisateur demande à ChatGPT de rédiger une réponse à son responsable après un conflit professionnel. Supprimer les noms peut préserver la tâche de base. Supprimer le secteur, le rôle, l’allégation et les échanges précédents pourrait rendre la réponse impossible à évaluer correctement.

La même tension s’applique aux conversations sur la santé et les relations. Les réviseurs ont besoin de contexte pour juger si une réponse est suffisamment prudente ou dangereusement validante. Ce contexte peut contenir les éléments les plus sensibles de l’échange.

La mémoire intensifie le problème, car les informations peuvent s’accumuler au fil des sessions. Un détail unique peut ne pas identifier quelqu’un, tandis qu’un résumé structuré de détails récurrents réduit les possibilités.

C’est pourquoi la confidentialité ne peut pas dépendre entièrement des informations personnelles identifiables conventionnelles. Une désidentification efficace doit prendre en compte les combinaisons, les inférences et la possibilité d’établir des liens. Une conversation sans nom peut rester profondément personnelle.

Le rapport cite également un sous-traitant qui doutait que les utilisateurs imaginent qu’une personne analyse leurs échanges. Cette observation ne constitue pas une mesure scientifique de la sensibilisation des utilisateurs. Elle illustre néanmoins le problème de conception du produit.

OpenAI peut invoquer un paramètre valide et une politique de confidentialité exacte. Les utilisateurs peuvent malgré tout développer une attente sensiblement différente à partir de l’interface. Ces deux affirmations peuvent être vraies.

La question est particulièrement importante pour les utilisateurs vulnérables. Une personne demandant à un chatbot de garder un secret peut interpréter sa réponse conversationnelle comme une promesse de confidentialité. Le modèle ne peut pas modifier les pratiques de données backend d’OpenAI par sa réponse.

Les chatbots ne sont ni des thérapeutes, ni des avocats, ni des médecins, ni des conseillers professionnels soumis au secret. Pourtant, leurs interfaces imitent de plus en plus une conversation patiente et personnalisée. Cette ressemblance augmente le coût d’explications de confidentialité insuffisantes ou mal mises en évidence.

La Federal Trade Commission a averti les fournisseurs d’IA qu’ils doivent respecter leurs engagements en matière de confidentialité. Ses orientations sur la confidentialité de l’IA mettent particulièrement en avant les informations sensibles soumises aux services de modèles et l’importance d’une information claire.

Le rapport sur Project Lily n’établit pas qu’OpenAI a enfreint une loi. Il crée toutefois un test permettant de déterminer si les informations actuelles sont suffisamment claires au sujet de l’accès humain et de la révision par des sous-traitants.

Une politique enfouie peut décrire précisément le traitement des données sans corriger l’attente créée par le produit. La pression exercée sur OpenAI dépasse donc le nom d’un seul projet divulgué.

L’entreprise doit concilier deux messages. ChatGPT devient plus personnel et plus attentif au contexte, tandis que les conversations peuvent également devenir du matériel d’entraînement examiné par des personnes.

De meilleures réponses dépendent du contexte, et le contexte augmente le risque

Project Lily met en lumière un compromis difficile : le contenu le plus utile pour améliorer ChatGPT peut aussi être le plus difficile à anonymiser.

Les développeurs de modèles ont besoin d’exemples qui ressemblent à une utilisation réelle. Les requêtes synthétiques peuvent couvrir des scénarios connus, mais elles reproduisent rarement le désordre, l’ambiguïté et la texture émotionnelle de millions de conversations authentiques.

Les utilisateurs réels changent de direction, omettent du contexte, se contredisent et mélangent plusieurs tâches. Ils réagissent aussi aux formulations précédentes du modèle. L’examen d’un échange complet aide les évaluateurs à comprendre si ChatGPT a créé de la confusion ou renforcé une mauvaise prémisse.

Ces retours peuvent résoudre des problèmes que les scores des benchmarks ne détectent pas. Un modèle peut répondre correctement à un test factuel tout en frustrant les utilisateurs par des avertissements répétitifs. Un autre peut sembler compatissant tout en validant une croyance nuisible.

Les évaluateurs humains peuvent identifier ces distinctions. Leurs notes peuvent soutenir le post-entraînement, le processus utilisé pour façonner le comportement d’un modèle préentraîné après qu’il a appris de larges schémas linguistiques.

Les instructions de Project Lily porteraient en partie sur l’objectif de rendre ChatGPT moins complaisant et moins enclin à se présenter comme un humain. Ces objectifs concernent directement la sécurité et la confiance des utilisateurs, et pas seulement le style rédactionnel.

Supprimer tout indice personnel avant l’évaluation peut affaiblir cette analyse. Un évaluateur qui juge des conseils sensibles doit savoir ce que l’utilisateur a révélé et comment la conversation a évolué.

Cela crée un renversement inconfortable. Le contexte personnel améliore la capacité de l’évaluateur à identifier des comportements dangereux, mais ce même contexte rend l’exposition humaine plus lourde de conséquences.

La tension s’accentue à mesure que les assistants IA acquièrent une mémoire. Un système de mémoire peut aider ChatGPT à éviter les questions répétées et à adapter ses réponses ultérieures. Il transforme aussi des révélations éparses en un profil persistant.

Ce profil peut contenir des préférences ordinaires ainsi que des informations extrêmement sensibles. Même lorsqu’aucun identifiant direct n’apparaît, leur combinaison peut révéler la localisation approximative d’un utilisateur, sa profession, sa structure familiale ou ses difficultés en cours.

Il ne s’agit pas d’affirmer que la mémoire ou l’évaluation humaine doivent disparaître. Il s’agit de considérer les données contextuelles comme sensibles par conception.

Le pipeline d’amélioration des modèles le plus sûr réduirait au minimum ce que chaque évaluateur voit, séparerait l’identité du contenu, restreindrait les accès, enregistrerait chaque interaction et imposerait de courtes périodes de conservation. Il vérifierait également que la rédaction fonctionne de manière cohérente dans toutes les langues et avec des identifiants inhabituels.

OpenAI n’a pas fourni publiquement suffisamment de détails sur Project Lily pour évaluer ces contrôles. Le rapport indique que les noms d’utilisateur sont masqués et qu’un filtre de confidentialité traite les conversations. Il ne fournit ni audit de sécurité indépendant ni taux d’échec mesuré.

L’absence de ces détails ne doit pas être transformée en preuve d’échec. Elle doit être considérée comme une lacune de vérification non résolue.

Les accords avec des sous-traitants méritent une attention particulière, car ils élargissent le nombre d’organisations et de travailleurs impliqués. Chaque point d’accès supplémentaire soulève des questions opérationnelles sur la formation, la supervision, la sécurité des appareils, la copie, la conservation et la réponse aux incidents.

Un sous-traitant peut respecter des règles strictes tout en voyant les informations sensibles nécessaires à la tâche. Le risque pour la vie privée ne suppose pas une faute. L’accès autorisé lui-même peut être contraire aux attentes d’un utilisateur.

Cette distinction disparaît souvent dans les débats grand public sur la confidentialité. La sécurité demande si des personnes non autorisées ont obtenu les données. La confidentialité demande aussi si l’utilisation autorisée était proportionnée, compréhensible et cohérente avec le contexte de collecte.

OpenAI Project Lily semble conçu pour améliorer la qualité des modèles grâce à un travail d’évaluation légitime. La controverse porte sur la question de savoir si le pipeline de données correspond à l’intimité de l’expérience produit.

Pour les particuliers, il s’agit également d’un problème de gestion des connaissances. Les brouillons, notes de recherche et détails professionnels peuvent en révéler davantage une fois combinés que lorsqu’ils sont conservés séparément. Une base de connaissances IA privée nécessite des limites explicites quant aux destinations de ses documents sources.

Les utilisateurs ne doivent pas supposer que supprimer les noms rend une requête sûre. Du code propriétaire peut révéler une entreprise. Un extrait de contrat peut identifier les parties grâce aux dates et aux obligations. Un récit médical peut exposer une personne par des circonstances rares.

La meilleure règle consiste à minimiser les données avant leur soumission. Fournissez uniquement les détails nécessaires à la tâche, remplacez les identifiants localement et évitez de coller des secrets dans des outils grand public sans contrôles appropriés.

Cette approche n’excuse pas les divulgations ambiguës des plateformes. Elle reconnaît qu’aucun filtre de confidentialité automatisé ne remplace entièrement une conception prudente du produit et le discernement des utilisateurs.

Les contrôles de confidentialité d’OpenAI sont importants, mais ils ont des limites

Les utilisateurs peuvent empêcher que de nouvelles conversations grand public soient utilisées pour améliorer le modèle, même si ce choix n’élimine pas toute forme d’évaluation ou de conservation.

Les contrôles de confidentialité actuels de ChatGPT d’OpenAI offrent une option de retrait directe. Les utilisateurs connectés peuvent ouvrir les Paramètres, choisir Contrôles des données et désactiver « Améliorer le modèle pour tout le monde ».

Selon le guide officiel des contrôles des données, les conversations restent visibles dans l’historique des chats après la désactivation de ce paramètre. Les nouvelles conversations ne sont pas utilisées pour entraîner ChatGPT.

Le paramètre s’applique sur tous les appareils pour un même compte. OpenAI indique également que les demandes de retrait précédemment soumises via l’assistance ou son formulaire de confidentialité restent respectées.

Cette distinction entre les nouvelles données et les données existantes est importante. Désactiver l’amélioration du modèle modifie la manière dont les conversations futures sont traitées. Les utilisateurs ne doivent pas supposer que ce bouton supprime rétroactivement les éléments déjà traités ou intégrés à un flux d’entraînement.

Le Chat temporaire offre une autre limite. OpenAI indique qu’une conversation temporaire non enregistrée n’apparaît pas dans l’historique, ne crée pas de nouveaux souvenirs et n’est pas utilisée pour améliorer le modèle.

L’entreprise peut conserver une copie pendant une durée pouvant aller jusqu’à 30 jours à des fins de sécurité. OpenAI indique également que les conversations temporaires peuvent être examinées afin de surveiller les abus.

Cela signifie que temporaire ne veut pas dire invisible, supprimé instantanément ou exempt de tout mécanisme d’accès humain. Cela signifie que la conversation relève d’une politique plus restrictive en matière d’amélioration du produit et de mémoire.

Une conversation temporaire peut également utiliser les souvenirs existants lorsque la personnalisation reste activée. Les utilisateurs peuvent choisir une session temporaire non personnalisée lorsqu’ils ne souhaitent pas que les souvenirs antérieurs ou les instructions personnalisées soient appliqués.

Si un utilisateur enregistre un Chat temporaire, celui-ci devient une conversation ordinaire. Il suit alors les préférences du compte en matière d’amélioration du modèle et de personnalisation.

Ces détails rendent les contrôles de confidentialité de ChatGPT utiles, mais faciles à mal comprendre. Trois notions distinctes sont concernées :

• L’amélioration du modèle détermine si le contenu éligible contribue à l’entraînement et à l’évaluation.

• La mémoire détermine si des informations peuvent personnaliser les conversations ultérieures.

• La surveillance de la sécurité autorise une conservation ou une évaluation limitée pour détecter les abus.

Modifier l’une ne désactive pas nécessairement les autres. Un utilisateur qui désactive la mémoire n’a pas automatiquement désactivé l’amélioration du modèle. Un utilisateur qui choisit le Chat temporaire n’obtient pas une garantie absolue contre l’examen à des fins de sécurité.

Les produits professionnels suivent un réglage par défaut différent. OpenAI indique qu’il n’entraîne pas ses modèles sur les entrées ou sorties de ChatGPT Business, Enterprise, Edu, ses offres pour le secteur de la santé, ses produits destinés aux enseignants ou sa plateforme API, sauf si une organisation choisit explicitement d’y consentir.

Cette distinction compte pour les entreprises qui décident si leur personnel peut placer des documents internes dans un système IA. Un compte grand public et un espace de travail professionnel approuvé ne comportent pas les mêmes engagements en matière de données.

Même les protections professionnelles n’éliminent pas le besoin de gouvernance. Les organisations doivent toujours contrôler les accès, les applications connectées, la conservation et le traitement des informations clients par les employés.

Les utilisateurs individuels devraient également distinguer commodité et confidentialité. Un chatbot peut aider à réécrire un message sensible sans recevoir les noms d’origine, l’employeur, les adresses ou les numéros de compte.

Les développeurs peuvent utiliser des valeurs fictives lors du débogage. Les chercheurs peuvent résumer un cas avant de demander un retour sur sa structure. Les employés peuvent suivre les outils professionnels approuvés et éviter de transférer des informations restreintes vers des comptes personnels.

Pour les travaux privés récurrents, un second cerveau local-first peut réduire les copies inutiles entre les systèmes. La question essentielle n’est pas simplement de savoir où les informations sont stockées, mais quels services les reçoivent lors de leur traitement.

Project Lily révèle également pourquoi les avertissements au niveau de l’interface sont importants. Les utilisateurs ne devraient pas avoir à déduire l’accès humain à partir d’une expression générale sur l’amélioration du modèle.

Une divulgation claire pourrait expliquer que certaines conversations sélectionnées peuvent être examinées par du personnel formé ou des prestataires de services après un traitement automatisé de protection de la confidentialité. Elle pourrait apparaître à proximité du bouton d’amélioration du modèle plutôt que seulement dans les documents de politique.

L’interface pourrait également rappeler les conséquences aux utilisateurs avant qu’ils activent la mémoire ou téléversent des fichiers sensibles. Des contrôles plus granulaires pourraient séparer l’entraînement automatisé, l’évaluation humaine et l’examen de sécurité lorsque cela est opérationnellement possible.

Aucun de ces contrôles ne rendrait un chatbot cloud équivalent à une communication protégée par le secret professionnel. Ils rendraient les limites plus visibles et plus faciles à comprendre.

L’évaluation humaine est une pratique du secteur, pas une exception propre à OpenAI

OpenAI est actuellement sous les projecteurs, mais l’évaluation humaine est intégrée au développement de l’IA grand public.

La documentation de Gemini de Google offre la comparaison publique la plus claire. Google indique que des prestataires de services formés examinent un sous-ensemble de chats afin d’identifier les réponses de mauvaise qualité, inexactes ou nuisibles.

Google indique également que les chats examinés sont dissociés des comptes utilisateurs avant de parvenir aux prestataires de services. Son centre de confidentialité Gemini avertit les utilisateurs de ne pas saisir d’informations confidentielles qu’ils ne souhaiteraient pas qu’un évaluateur voie.

Cet avertissement rend le rôle humain particulièrement explicite. Google indique que les conversations examinées et les informations associées peuvent être conservées jusqu’à trois ans, même après qu’un utilisateur a supprimé l’activité correspondante.

Les utilisateurs peuvent désactiver le paramètre Keep Activity pour empêcher que les futurs chats soient utilisés afin d’améliorer les services de Google. Les chats temporaires sont également exclus de l’amélioration du modèle, bien qu’un traitement de sécurité limité puisse se poursuivre.

Anthropic a déclaré à 404 Media qu’il utilisait également l’évaluation humaine pour les conversations rendues éligibles par son paramètre d’amélioration. Selon le reportage, Anthropic supprime les identifiants de compte, y compris les adresses e-mail, avant l’évaluation.

Ces comparaisons n’établissent pas que chaque entreprise collecte les mêmes données ou utilise des contrôles identiques. Elles montrent que l’évaluation humaine n’est pas une solution temporaire propre à OpenAI.

Les modèles linguistiques dépendent de jugements que les systèmes automatisés ne peuvent pas entièrement fournir. Les personnes évaluent si les réponses sont utiles, exactes, sûres, suffisamment prudentes et conformes à des instructions complexes.

La pression concurrentielle est évidente. Les entreprises veulent des assistants qui semblent naturels sans prétendre être humains. Elles veulent de l’intelligence émotionnelle sans approbation réflexe. Elles veulent de la personnalisation sans exposition inacceptable de la vie privée.

Chaque objectif s’oppose à un autre. Davantage de contexte peut améliorer la pertinence. Davantage de contexte conservé peut accroître la sensibilité. Davantage de jugement humain peut améliorer une sécurité nuancée. Davantage d’accès humain peut affaiblir la confiance des utilisateurs.

La réponse privilégiée par le secteur a été la désidentification, les contrôles d’accès, les accords avec les sous-traitants et les paramètres de retrait. Project Lily met à l’épreuve la capacité de ces mesures à rester convaincantes à mesure que les assistants deviennent plus intimes.

La pression concurrentielle peut créer un autre problème. La qualité des modèles dépend en partie d’exemples diversifiés et actuels d’utilisations réelles. Un fournisseur qui limite fortement les données d’évaluation pourrait perdre des éléments précieux sur les défaillances émergentes.

Cela ne signifie pas que la confidentialité et les performances s’excluent mutuellement. Cela signifie que les alternatives préservant la confidentialité nécessitent des investissements sérieux et une validation mesurable.

Les entreprises peuvent améliorer l’évaluation synthétique, utiliser une classification sur l’appareil, limiter les évaluateurs à des extraits restreints ou employer des équipes internes contrôlées pour les tâches les plus sensibles. Elles peuvent également publier des informations agrégées sur les performances d’échantillonnage et de rédaction.

Des audits indépendants aideraient à distinguer des protections robustes d’un discours rassurant. Les informations utiles pourraient inclure les lieux où se trouvent les évaluateurs, la durée d’accès, les tests de caviardage, les taux d’incidents et la nécessité de résumés de mémoire pour chaque tâche.

OpenAI pourrait également expliquer si les conversations sont échantillonnées au hasard, sélectionnées par des systèmes automatisés ou choisies parce que les utilisateurs ont fourni un retour. Chaque mécanisme crée des attentes et des biais potentiels différents.

La conception de l’échantillonnage affecte aussi la qualité du modèle. Les conversations sélectionnées via les retours des utilisateurs peuvent surreprésenter les échecs et les utilisateurs particulièrement engagés. Des échantillons aléatoires pourraient refléter les usages ordinaires, mais exposer du contenu provenant de personnes qui n’ont jamais activement soumis de retour.

L’enquête sur Project Lily ne résout pas ces questions. Elle identifie les personnes et les mécanismes derrière une catégorie auparavant décrite principalement comme « l’amélioration du modèle ».

Cette visibilité est précieuse, même si l’examen humain demeure nécessaire. Les consommateurs peuvent faire de meilleurs choix lorsque le travail humain derrière un service d’IA n’est pas dissimulé par un langage technique.

Il en va de même pour les conditions de travail des prestataires. Les évaluateurs peuvent être confrontés à des contenus choquants, sexuels, violents ou profondément personnels. Des programmes responsables nécessitent des protections en matière de santé mentale, des procédures d’escalade claires et des attentes de productivité réalistes.

Ces questions de travail doivent étayer l’analyse de la confidentialité, et non la remplacer. L’enjeu central reste la promesse d’OpenAI d’une amélioration contrôlée du modèle face à la réalité d’un accès humain contextuel.

Ce que Project Lily doit encore prouver

La prochaine phase devra être évaluée à l’aune des divulgations, de performances vérifiables en matière de confidentialité et des changements apportés à l’interface des évaluateurs.

Le premier signal sera de savoir si OpenAI publie une explication directe de Project Lily. Une déclaration significative décrirait quelles conversations sont concernées, comment les paramètres de consentement s’appliquent et ce que les prestataires peuvent consulter.

La confirmation du flux de travail rapporté renforcerait la conclusion selon laquelle l’examen humain constitue un élément courant de l’amélioration des modèles destinés au grand public. Un démenti limité ou une correction substantielle affaiblirait certaines parties du récit actuel.

Le silence laisserait les éléments de preuve dépendre de documents divulgués et de témoignages anonymes de travailleurs. Ces éléments sont importants, mais ils ne peuvent répondre à toutes les questions opérationnelles.

Le deuxième signal sera de savoir si OpenAI fournit des informations mesurables sur Privacy Filter. Les utilisateurs ont besoin de davantage qu’une affirmation selon laquelle les informations personnelles sont réduites avant l’entraînement ou l’examen.

Des éléments utiles incluraient des tests d’erreur dans différentes langues, sur des identifiants peu courants, des références indirectes et de longues conversations. Une évaluation indépendante aurait plus de poids qu’une description générale de l’entreprise.

Un faible taux de défaillance démontré étayerait l’affirmation d’OpenAI selon laquelle elle limite réellement l’exposition des évaluateurs. Des preuves de caviardages incohérents renforceraient les demandes en faveur d’un échantillonnage plus restreint et de contrôles plus rigoureux.

Le troisième signal sera de savoir si l’interface des évaluateurs évolue. Les résumés de mémoire méritent une attention particulière, car ils peuvent combiner des détails issus de plusieurs conversations et faciliter la réidentification.

OpenAI pourrait limiter ces résumés aux tâches qui nécessitent réellement un contexte de personnalisation. Elle pourrait ne fournir aux évaluateurs que la mémoire minimale pertinente ou remplacer les détails personnels par des catégories abstraites.

Un avis visible à proximité du paramètre d’amélioration du modèle de ChatGPT serait également important. Il devrait indiquer clairement que certaines conversations sélectionnées peuvent faire l’objet d’un examen humain après traitement de confidentialité.

Les régulateurs surveilleront la relation entre ces divulgations et les pratiques réelles. La FTC a déjà clairement indiqué que les entreprises d’IA doivent tenir leurs promesses en matière de confidentialité et éviter de dissimuler des utilisations secondaires des données.

Pour les utilisateurs, la réponse immédiate est plus simple. Examinez les contrôles de confidentialité de ChatGPT, désactivez l’amélioration du modèle lorsque cela est approprié et utilisez Temporary Chat en comprenant clairement son exception de sécurité.

Ne soumettez pas de mots de passe, d’identifiants financiers, de clés privées, de dossiers médicaux non caviardés ou de données confidentielles de votre employeur. Remplacez les noms et les détails permettant l’identification avant de demander de l’aide.

Les organisations devraient vérifier que leurs employés utilisent des produits professionnels approuvés plutôt que des comptes personnels grand public. Elles devraient également documenter les catégories d’informations qui peuvent entrer dans les systèmes d’IA et celles qui doivent en rester exclues.

OpenAI Project Lily ne prouve pas que chaque conversation ChatGPT parvient à un prestataire. Il montre toutefois pourquoi une interface qui semble privée ne doit jamais être confondue avec une pièce privée.

L’examen humain peut améliorer l’exactitude, le ton et la sécurité. Il peut aussi exposer le contexte personnel qui rend ces jugements possibles. Le secteur doit expliquer cet échange dans un langage compréhensible pour les utilisateurs ordinaires.

Vérifiez vos paramètres actuels avant votre prochaine conversation sensible. Posez-vous ensuite une question plus difficile : votre requête resterait-elle acceptable si un évaluateur formé la voyait sans votre nom d’utilisateur ? Si la réponse est non, supprimez le contexte permettant l’identification, choisissez un produit assorti d’engagements plus solides en matière de données ou gardez ces informations en dehors du chatbot.