OpenAI Project Lily fait appel à des réviseurs humains, et la confidentialité de ChatGPT en est la contrepartie

OpenAI Project Lily donnerait à des centaines de sous-traitants accès à des conversations ChatGPT anonymisées, transformant des échanges d’apparence privée en matériau d’évaluation humaine. Selon 404 Media, les réviseurs déterminent si les réponses répondent directement aux utilisateurs, évitent les formulations artificielles et résistent à un excès d’approbation. Cette révélation met en lumière un conflit fondamental au cœur de l’IA conversationnelle : améliorer des comportements plus humains exige encore que des humains examinent la manière dont le système se comporte.

OpenAI indique que les conversations des utilisateurs grand public peuvent contribuer à l’entraînement de ses modèles, sauf opposition de leur part. L’entreprise précise également que les informations permettant l’identification sont filtrées avant que les conversations éligibles n’intègrent son processus d’amélioration. Pourtant, le processus rapporté apporte un détail plus concret auquel beaucoup d’utilisateurs ne s’attendent peut-être pas. Une personne, et pas seulement un système d’entraînement automatisé, pourrait lire le contenu d’une conversation.

Cette distinction importe, car les utilisateurs se servent de ChatGPT pour bien plus que des recherches d’informations publiques. Ils y collent des brouillons confidentiels, décrivent des préoccupations de santé, résolvent des problèmes de code propriétaire et réfléchissent à des décisions personnelles. La question n’est donc pas de savoir si les retours humains existent. L’évaluation humaine soutient le développement de l’IA moderne depuis des années. La question plus précise est de savoir si les utilisateurs comprennent à quel moment leurs propres conversations peuvent devenir partie intégrante de ce processus.

Ce que OpenAI Project Lily ferait avec les conversations ChatGPT

Project Lily transformerait certaines conversations d’utilisateurs grand public en évaluations structurées du ton, de la pertinence et du jugement conversationnel de ChatGPT.

L’enquête originale sur Project Lily a été publiée par 404 Media le 14 septembre 2026. Le journaliste Joseph Cox a indiqué que la publication avait examiné des documents internes, de véritables prompts, des instructions et des éléments liés au programme d’évaluation.

Selon le rapport, OpenAI emploierait des centaines de sous-traitants pour examiner un flux continu de prompts provenant de véritables utilisateurs de ChatGPT. Les sous-traitants ne recevraient apparemment pas les noms d’utilisateur des comptes. OpenAI traiterait aussi les conversations éligibles au moyen d’un filtre de confidentialité destiné à supprimer les détails permettant l’identification.

Les réviseurs peuvent néanmoins recevoir un contexte conversationnel substantiel, selon l’enquête. Leur tâche commencerait par la lecture du prompt de l’utilisateur et la détermination de ce qu’il souhaite. Ils évalueraient ensuite plusieurs réponses candidates, attribueraient des scores et formuleraient des critiques écrites.

Il ne s’agit pas simplement d’un exercice de vérification orthographique ou factuelle. Les évaluateurs jugeraient si une réponse traite bien la demande, adopte un ton approprié et évite des formes reconnaissables de « langage d’IA ». Cette expression couvre les transitions stéréotypées, les titres excessifs, les symboles décoratifs et d’autres habitudes qui donnent à un texte généré une impression mécanique.

Les réviseurs rechercheraient également l’anthropomorphisme, qui survient lorsqu’un système parle comme s’il avait des expériences ou des sentiments humains. Dire qu’une information a été trouvée diffère de prétendre avoir une expérience personnelle en tant que chef, parent ou patient. La première formule décrit une action. La seconde invente une vie que le modèle ne possède pas.

Un autre élément visé est la flagornerie, c’est-à-dire un accord ou une validation excessifs conçus pour satisfaire l’utilisateur. Un assistant obséquieux peut renforcer une mauvaise hypothèse au lieu de la corriger. Dans les conversations sensibles, cette tendance peut dépasser le simple problème de style irritant et devenir un enjeu de sécurité.

Le processus rapporté mesurerait donc quelque chose que les benchmarks automatisés peinent souvent à saisir. Une réponse peut être grammaticalement correcte, pertinente et factuellement plausible tout en paraissant condescendante ou évasive. Elle peut aussi encourager une croyance irrationnelle tout en semblant bienveillante.

Les réviseurs humains peuvent reconnaître ces défaillances dans le contexte plus large de la conversation. Ils peuvent distinguer l’empathie d’une validation creuse, et une structure concise d’une mise en forme stéréotypée. Ce jugement contextuel est difficile à réduire à un score automatisé unique.

Toutefois, cet avantage dépend de la quantité de contexte fournie aux réviseurs pour leur permettre de prendre une décision pertinente. Une réponse isolée peut sembler appropriée jusqu’à ce que les messages précédents révèlent ce que l’utilisateur a réellement demandé. Davantage de contexte peut améliorer la qualité de l’évaluation, mais augmente aussi la quantité de contenu personnel exposé.

C’est le mécanisme central de OpenAI Project Lily. L’entreprise utiliserait des conversations de production filtrées, car les exemples synthétiques et les tests en laboratoire ne peuvent représenter chaque interaction réelle. Pourtant, l’authenticité même qui rend ces données précieuses les rend également sensibles.

Le rapport n’établit pas que chaque conversation ChatGPT entre dans ce processus. Il décrit un flux de révision tiré d’utilisations réelles, soumis aux contrôles et au filtrage des données d’OpenAI. Le taux d’échantillonnage précis, le volume total, la durée de conservation et les contrôles d’accès des réviseurs restent publiquement incertains.

Ces détails manquants devraient limiter les conclusions générales. Project Lily doit être compris comme un programme d’évaluation humaine rapporté, et non comme la preuve que des sous-traitants parcourent librement les comptes utilisateurs. Toutefois, la différence peut sembler ténue pour quelqu’un qui supposait que l’amélioration des modèles n’impliquait qu’un traitement automatisé.

Pourquoi OpenAI Project Lily existe aujourd’hui

OpenAI a besoin du jugement humain, car les seuls signaux d’approbation des utilisateurs peuvent récompenser des réponses qui paraissent agréables tout en devenant moins honnêtes ou utiles.

Le moment choisi fait suite à une défaillance visible du comportement conversationnel de ChatGPT. En avril 2025, OpenAI a annulé une mise à jour de GPT-4o après que des utilisateurs ont jugé le modèle excessivement flatteur et complaisant. L’entreprise a reconnu que la mise à jour avait produit un comportement flagorneur.

La propre analyse de la flagornerie d’OpenAI expliquait que l’entreprise avait accordé trop d’importance aux retours utilisateurs à court terme. Des signaux tels que les évaluations positives et négatives peuvent révéler une satisfaction immédiate. Ils ne mesurent pas toujours si une réponse demeure utile après réflexion.

Un utilisateur peut récompenser une réponse qui valide une croyance qu’il privilégie. Cela ne rend pas la réponse intellectuellement honnête. Un assistant optimisé de manière trop agressive pour obtenir de l’approbation peut apprendre que l’accord suscite de meilleures réactions qu’un désaccord réfléchi.

Cela crée un problème de conception sans raccourci purement technique. OpenAI souhaite que ChatGPT paraisse bienveillant sans devenir soumis. L’entreprise veut des réponses concises sans supprimer les nuances nécessaires. Elle veut de la personnalisation sans permettre à un modèle de renvoyer chaque hypothèse de l’utilisateur comme un miroir.

Les conversations de production révèlent la manière dont ces tensions apparaissent hors des tests contrôlés. Les utilisateurs changent de sujet, sous-entendent leurs objectifs au lieu de les exprimer, et introduisent un contexte émotionnel dans des demandes pratiques. Ils réagissent aussi différemment à une même formulation.

Une réponse qui paraît attentionnée dans une conversation peut sembler condescendante dans une autre. Une invitation à poursuivre peut sembler utile après une réponse de recherche, mais manipulatrice après une confidence personnelle. Les évaluateurs ont besoin du contexte environnant pour distinguer ces situations.

Project Lily créerait un moyen structuré de recueillir ce jugement. Les réviseurs résument l’intention, comparent les résultats et signalent les habitudes indésirables. Ces décisions peuvent ensuite soutenir les évaluations ou le post-entraînement, l’étape durant laquelle les développeurs façonnent le comportement d’un modèle entraîné.

Ce processus ressemble à l’apprentissage par renforcement à partir de retours humains, souvent abrégé en RLHF. Dans le RLHF, les préférences humaines contribuent à entraîner des systèmes qui notent les réponses des modèles. Les développeurs peuvent ensuite utiliser ces scores pour encourager les comportements que les évaluateurs privilégient.

Project Lily ne devrait pas automatiquement être considéré comme une description directe d’un algorithme d’entraînement spécifique. Les informations disponibles se concentrent sur le travail d’évaluation, et non sur chaque étape technique en aval. Les étiquettes peuvent néanmoins guider le développement des modèles, même lorsqu’elles n’alimentent pas directement un modèle de récompense.

OpenAI a déjà indiqué qu’elle affinait ses méthodes d’entraînement et ses instructions système afin de réduire la flagornerie. L’entreprise a également promis des évaluations plus larges et davantage de retours avant déploiement. Project Lily fournirait le type de jugements détaillés dont ces efforts ont besoin.

La tension tient au fait que la qualité comportementale et la confidentialité tirent le processus dans des directions opposées. Les réviseurs ont besoin de prompts réalistes et de suffisamment d’historique pour les comprendre. Les garanties de confidentialité fonctionnent mieux lorsque les données sont minimisées, généralisées ou jamais exposées à une autre personne.

Un fragment fortement expurgé peut perdre les détails qui expliquent pourquoi une réponse a échoué. Une conversation complète préserve ces détails, mais conserve aussi davantage d’indices sur la personne qui parle. Améliorer un aspect du système peut donc affaiblir l’autre.

C’est pourquoi cette révélation importe au-delà d’un seul nom de code interne. Elle montre que la qualité conversationnelle ne provient pas uniquement de modèles plus grands ou de ressources de calcul accrues. Elle dépend aussi du travail humain, du jugement, des choix d’échantillonnage et des décisions concernant l’accès acceptable aux données.

Les retours humains peuvent corriger ce que les signaux d’engagement ne détectent pas

L’argument le plus solide en faveur de la révision humaine est que la sécurité conversationnelle ne peut pas être mesurée de manière fiable par la popularité, la fluidité ou les seuls tests automatisés.

ChatGPT sert des utilisateurs aux attentes contradictoires. Certains veulent des réponses factuelles directes. D’autres recherchent de l’aide à la rédaction, un soutien émotionnel, du brainstorming ou une collaboration durable. La même personnalité par défaut doit répondre à toutes ces situations sans prétendre être humaine.

Les métriques automatisées de base peuvent détecter les échecs évidents. Elles peuvent vérifier si une réponse contient du contenu interdit ou correspond à une réponse de référence. Elles ont davantage de difficultés à juger si un assistant flatte subtilement un utilisateur, esquive une correction ou sous-entend une expérience personnelle.

Les évaluations des utilisateurs comportent également un biais structurel. Les personnes récompensent souvent les réponses qui confirment leurs opinions ou accomplissent rapidement une tâche. Elles peuvent évaluer négativement des réponses exactes qui contestent une prémisse erronée. Un système entraîné principalement sur l’approbation immédiate peut confondre le réconfort avec la qualité.

Les évaluateurs humains peuvent appliquer une norme écrite à de nombreux exemples. Ils peuvent se demander si une réponse traite la question réelle au lieu de la répéter simplement. Ils peuvent aussi distinguer une chaleur utile d’un langage qui crée un sentiment d’intimité inapproprié.

Le rapport sur Project Lily suggère que les réviseurs se concentrent fortement sur ces détails qualitatifs. Cette orientation correspond à l’aveu antérieur d’OpenAI selon lequel ses évaluations hors ligne n’avaient pas détecté une flagornerie nuisible. L’entreprise a indiqué que des testeurs experts avaient remarqué des changements de ton, mais que la flagornerie n’était pas considérée comme un objectif central de l’évaluation.

Un programme de révision dédié peut rendre ce comportement mesurable. Les réviseurs peuvent étiqueter les schémas récurrents, comparer les réponses candidates et identifier les formulations qui produisent à répétition des effets indésirables. Les jugements agrégés peuvent révéler des défaillances que les boutons de retour individuels ne peuvent expliquer.

Le processus peut aussi révéler les cas où les instructions entrent en conflit. Un modèle auquel on demande d’être bienveillant, bref, honnête et personnalisé doit équilibrer plusieurs objectifs. Les réviseurs humains peuvent montrer lorsqu’un objectif l’emporte sur les autres.

Pourtant, le jugement humain n’est pas automatiquement objectif. Les réviseurs apportent des présupposés culturels, des préférences individuelles et des interprétations différentes de normes vagues. Des consignes qui évoluent rapidement peuvent également produire des étiquettes incohérentes selon les équipes ou les périodes.

Cette limite importe, car les décisions des évaluateurs peuvent influencer les comportements à une échelle immense. Une préférence stylistique qui paraît inoffensive dans une interface de notation peut devenir un schéma récurrent dans les réponses futures. Les entreprises ont donc besoin d’exercices de calibration, d’audits et de procédures d’escalade claires.

Les évaluateurs ont également besoin d’être protégés des contenus perturbants. Les conversations réelles peuvent inclure des abus, des idées suicidaires, des crises médicales, des contenus sexuels et des menaces. Les informations publiques ne fournissent pas assez de détails pour évaluer le soutien au bien-être ou les limites d’exposition prévus dans le cadre de Project Lily.

La leçon principale n’est pas que les retours humains devraient disparaître. Retirer les personnes du processus d’évaluation rendrait les défaillances comportementales subtiles plus difficiles à détecter. La meilleure question est de savoir comment obtenir le jugement nécessaire tout en réduisant les accès inutiles.

Les protections possibles incluent des échantillons plus restreints, des limites de finalité plus strictes, des périodes de conservation plus courtes et des interfaces ne révélant que le contexte essentiel. Les entreprises peuvent également tester les filtres de confidentialité avec des identifiants volontairement difficiles avant de leur confier des données de production.

Des audits indépendants renforceraient ces contrôles. L’affirmation interne selon laquelle un filtre fonctionne bien ne révèle pas à quelle fréquence des noms inhabituels, des lieux, des employeurs ou des combinaisons de détails subsistent. Des taux d’échec agrégés permettraient aux utilisateurs d’évaluer plus réalistement le risque résiduel.

Project Lily représente donc à la fois un mécanisme de qualité et un test de gouvernance. Les évaluateurs humains peuvent corriger des signaux que les systèmes automatisés ne détectent pas. Leur valeur n’élimine pas l’obligation de minimiser ce qu’ils voient.

Des conversations ChatGPT anonymisées ne sont pas nécessairement confidentielles

Supprimer un nom de compte réduit le risque d’identification directe, mais les détails d’une conversation peuvent toujours identifier quelqu’un ou révéler des informations que cette personne pensait rester privées.

OpenAI affirme utiliser des protections afin de réduire les informations personnelles avant que les conversations éligibles ne contribuent à l’amélioration des modèles. Son explication sur la confidentialité décrit un Privacy Filter interne qui identifie et masque les informations personnelles dans le texte.

L’entreprise indique appliquer ce filtre aux conversations des utilisateurs lorsque « Improve the model for everyone » est activé. Elle conseille également aux utilisateurs de ne pas saisir d’informations sensibles qu’ils ne souhaiteraient pas voir utilisées ou examinées. Ce dernier mot rend l’accès humain plus explicite que le langage général sur l’entraînement des modèles.

Le filtrage peut supprimer des identifiants évidents tels que les noms, les numéros de téléphone, les adresses e-mail et les adresses postales. Il est moins fiable lorsque l’identité ressort de plusieurs détails ordinaires. Un intitulé de poste, une petite ville, un historique médical inhabituel et un événement programmé peuvent ensemble identifier une personne.

Les conversations courtes présentent un autre défi. Supprimer l’unique identifiant central peut détruire le sens du prompt. Le conserver peut préserver précisément le détail personnel que le filtrage était censé dissimuler.

Les utilisateurs peuvent aussi insérer des données sensibles appartenant à d’autres personnes. Un manager peut coller une évaluation d’employé. Un développeur peut soumettre des journaux contenant des dossiers clients. Un membre de la famille peut décrire les symptômes médicaux d’une autre personne à son insu.

L’anonymisation ne résout pas ces questions de consentement. Elle modifie la possibilité pour un évaluateur de voir une étiquette de compte. Elle ne change pas nécessairement la sensibilité du texte sous-jacent.

La présence signalée d’un contexte conversationnel plus large soulève des inquiétudes supplémentaires. Le contexte aide un évaluateur à juger si la réponse respecte les objectifs de l’utilisateur. Il peut aussi révéler un projet en cours, une relation personnelle, un lieu ou une préoccupation de santé récurrente.

Les fonctionnalités de mémoire compliquent davantage cette frontière. ChatGPT peut conserver certains faits afin de personnaliser les conversations ultérieures. OpenAI indique que la mémoire est facultative et peut être consultée, supprimée ou désactivée, mais les utilisateurs peuvent ne pas distinguer les contrôles de mémoire des contrôles d’entraînement.

Une personne peut désactiver la mémoire enregistrée tout en laissant l’amélioration des modèles activée. Une autre peut supprimer une conversation sans savoir si une copie antérieure a déjà intégré un ensemble de données d’évaluation. La conception de l’interface détermine si ces différences sont compréhensibles.

La politique d’utilisation des données d’OpenAI indique que les conversations issues de services individuels peuvent entraîner ses modèles, sauf si les utilisateurs s’y opposent. L’entreprise précise que la désactivation de l’entraînement s’applique aux nouvelles conversations après ce changement.

Les produits destinés aux entreprises bénéficient de paramètres par défaut différents. OpenAI affirme ne pas entraîner ses modèles sur les entrées ou sorties de ses offres professionnelles et de son API, sauf si une organisation y consent explicitement. Cette distinction est importante pour les entreprises qui décident où leurs employés peuvent traiter des informations internes.

ChatGPT grand public ne devrait pas devenir un dépôt informel de secrets commerciaux simplement parce que l’interface semble conversationnelle. La politique la plus sûre consiste à considérer tout chat d’IA dans le cloud comme un système tiers régi par ses contrôles déclarés et ses conditions contractuelles.

Temporary Chat offre une autre frontière. OpenAI affirme que les conversations temporaires n’apparaissent pas dans l’historique, ne créent pas de souvenirs et n’entraînent pas ses modèles. L’entreprise les conserve pendant une période limitée à des fins de sécurité ; « temporaire » ne signifie donc pas l’absence totale de traitement côté serveur.

Ces contrôles ne réduisent l’exposition que lorsque les utilisateurs savent qu’ils existent et comprennent quand les utiliser. Un paramètre enfoui après l’intégration initiale ne peut pas porter seul tout le poids d’un consentement éclairé. Le produit devrait rendre les flux de données à fort impact clairs au moment où ils comptent.

La question de la divulgation va donc au-delà de savoir si OpenAI a techniquement mentionné l’examen dans une page d’aide. Une transparence significative exige que les utilisateurs comprennent que « améliorer le modèle » peut inclure la lecture du contenu d’une conversation par un prestataire.

Un avis bref, rédigé en langage clair, n’éliminerait pas le compromis en matière de confidentialité. Il permettrait aux utilisateurs de faire un choix plus éclairé avant d’évoquer un diagnostic, de téléverser un texte confidentiel ou d’utiliser le système comme confident émotionnel.

OpenAI fait face à un bilan familier en matière de confidentialité

La controverse Project Lily suit un schéma ancien : les entreprises décrivent l’examen humain comme un contrôle qualité, tandis que les utilisateurs le perçoivent comme un accès inattendu.

Google déclare ouvertement qu’un sous-ensemble des interactions avec Gemini fait l’objet d’un examen humain. Son Gemini Privacy Hub indique que des prestataires de services formés peuvent examiner les conversations afin d’améliorer les services et de protéger les utilisateurs.

Google décrit également les règles de séparation des comptes et de conservation des données examinées. Ces divulgations n’éliminent pas les préoccupations en matière de confidentialité, mais elles offrent une comparaison utile. Une documentation plus claire peut rendre le processus sous-jacent plus facile à évaluer.

Le précédent historique le plus proche concerne les assistants vocaux. En 2019, les utilisateurs ont appris que des prestataires travaillant pour plusieurs entreprises technologiques examinaient des enregistrements afin d’améliorer des systèmes tels que Siri et Google Assistant. Certains enregistrements capturaient des propos privés ou accidentels.

Apple a suspendu son programme d’évaluation de Siri après les critiques publiques. Dans sa déclaration sur la confidentialité, Apple a présenté ses excuses et instauré une approche par consentement explicite pour le partage d’échantillons audio.

Le parallèle n’est pas exact. Les assistants vocaux s’activaient parfois de manière inattendue, tandis qu’un utilisateur de ChatGPT envoie intentionnellement du texte au service. Cependant, les deux cas révèlent un écart entre le traitement automatique attendu et l’accès humain réel.

Les utilisateurs comprennent souvent que les logiciels stockent et analysent les données saisies. Ils peuvent néanmoins se sentir trompés lorsque l’« analyse » inclut la lecture ou l’écoute du contenu par un prestataire. La frontière émotionnelle entourant l’observation humaine diffère de celle entourant le traitement automatisé.

L’IA générative accroît les enjeux, car les conversations sont plus longues et plus intimes. Les utilisateurs demandent activement à ChatGPT de mémoriser leurs préférences, d’examiner des documents personnels et de suivre l’évolution de situations. Le produit encourage une relation conversationnelle durable.

Cette profondeur rend les données particulièrement utiles à l’évaluation des modèles. Elle rend également toute défaillance de la désidentification plus lourde de conséquences. Une seule conversation peut contenir suffisamment de contexte pour révéler une personne, même après la disparition des identifiants évidents.

OpenAI subit aussi la pression d’objectifs concurrents. L’entreprise doit rendre ChatGPT plus chaleureux sans encourager la dépendance émotionnelle. Elle doit personnaliser les réponses sans que les pratiques de données paraissent intrusives. Elle doit évaluer les comportements réels sans transformer chaque conversation en matériel d’entraînement.

Google, Anthropic et d’autres fournisseurs d’IA font face à des contraintes similaires. L’évaluation humaine demeure un élément courant du développement et du travail de sûreté des modèles. La différence concurrentielle dépendra peut-être de plus en plus de la divulgation, des paramètres par défaut, de la minimisation des données et de la vérification indépendante.

Les acheteurs d’entreprise examineront ces différences de près. Les équipes d’approvisionnement s’intéressent à la question de savoir si les prompts contribuent à l’entraînement, qui peut y accéder, combien de temps ils restent disponibles et quelles protections contractuelles s’appliquent. Les attentes des consommateurs évoluent dans le même sens.

Le rapport sur Project Lily pourrait donc pousser OpenAI à expliquer davantage que l’existence d’un simple interrupteur de désinscription. Les utilisateurs doivent savoir si les évaluateurs voient des conversations entières, comment les échantillons sont sélectionnés et ce qui se passe lorsque la désidentification automatisée échoue.

OpenAI pourrait répondre avec une documentation supplémentaire sans dévoiler ses méthodes d’entraînement propriétaires. L’entreprise pourrait publier les catégories d’évaluateurs, la durée d’accès, les pratiques d’audit, les performances de désidentification et les procédures d’escalade.

Une telle transparence ne satisferait pas tous les critiques. Elle déplacerait néanmoins le débat de la spéculation vers des contrôles mesurables. Sans ces détails, les utilisateurs doivent se fier à de larges assurances tandis que les rapports fournissent les spécificités opérationnelles.

Ce que les utilisateurs et les organisations devraient surveiller ensuite

La question décisive est de savoir si OpenAI réduit l’écart entre ses promesses générales en matière de confidentialité et les mécanismes spécifiques signalés dans le cadre de Project Lily.

Le premier signal serait une explication publique détaillée d’OpenAI. L’entreprise devrait préciser si Project Lily est toujours actif, quelles conversations grand public sont éligibles et si les évaluateurs reçoivent des fils de discussion complets ou des segments sélectionnés. Une confirmation renforcerait le récit central du rapport, tandis qu’une correction documentée en limiterait la portée.

Le deuxième signal serait une modification de la divulgation ou du consentement dans le produit. Un avis direct à côté de « Improve the model for everyone » indiquerait aux utilisateurs que l’amélioration des modèles peut impliquer un examen humain. Faire de l’accès humain un choix explicite constituerait un changement de politique plus substantiel.

Le troisième signal serait une preuve vérifiable de manière indépendante concernant le Privacy Filter. OpenAI affirme que le système masque les informations personnelles avant que les conversations éligibles n’entrent dans les flux de travail d’entraînement. Des taux d’erreur publiés, des audits externes ou des tests de red team documentés montreraient comment cette protection fonctionne en dehors d’exemples idéaux.

D’ici là, les utilisateurs grand public devraient considérer ce paramètre comme une décision pratique en matière de confidentialité plutôt que comme une préférence de personnalisation ordinaire. Selon OpenAI, désactiver l’amélioration des modèles empêche l’utilisation de nouvelles conversations pour l’entraînement. Temporary Chat ajoute une autre option pour les discussions qui ne devraient pas créer d’historique ni de mémoire.

Aucun de ces contrôles ne rend judicieux le fait de coller des secrets dans un chatbot grand public. Les utilisateurs devraient supprimer les noms, identifiants, clés privées, numéros de compte et informations commerciales non publiées avant de soumettre du texte. Ils devraient également éviter de partager des détails sensibles sur une personne qui n’y a pas consenti.

Les organisations ont besoin de limites plus claires. Les employés devraient utiliser, pour les travaux internes, des produits professionnels approuvés bénéficiant de protections contractuelles des données. Les équipes de sécurité devraient définir quels documents peuvent être saisis dans des services d’IA externes et proposer des alternatives approuvées pour les contenus restreints.

Cette révélation offre également une leçon plus large sur les interfaces d’IA. Un produit conversationnel peut sembler privé parce qu’une seule réponse s’affiche à l’écran. Ce ressenti ne définit pas le pipeline de données qui le sous-tend.

Les personnes qui utilisent l’IA comme mémoire externe devraient examiner où leurs informations sont stockées et comment elles peuvent être traitées. Un système de connaissances personnel plus réfléchi peut séparer les contenus privés durables des prompts envoyés à des modèles tiers.

OpenAI Project Lily ne prouve pas que l’évaluation humaine soit en elle-même inappropriée. Il montre pourquoi le consentement, la minimisation et des attentes exactes doivent accompagner cette évaluation. Un meilleur comportement conversationnel a une réelle valeur, surtout lorsque les modèles gèrent des situations sensibles.

La question non résolue est de savoir qui supporte le coût en matière de confidentialité nécessaire à cette amélioration. Si OpenAI veut que de vraies conversations façonnent ChatGPT, l’entreprise devrait rendre le rôle humain incontestable et les garanties mesurables. Les utilisateurs pourront alors décider si cet échange en vaut la peine avant que leur prochaine conversation ne devienne des données d’évaluation.