OpenAI Project Lily utilizza revisori umani, e la privacy di ChatGPT è il compromesso

Secondo quanto riportato, OpenAI Project Lily offre a centinaia di collaboratori l'accesso a conversazioni ChatGPT anonimizzate, trasformando scambi dall'apparenza privata in materiale per la valutazione umana. Secondo 404 Media, i revisori valutano se le risposte rispondono direttamente agli utenti, evitano formulazioni artificiali e resistono a un'eccessiva accondiscendenza. La rivelazione mette in evidenza un conflitto fondamentale alla base dell'IA conversazionale: migliorare un comportamento più umano richiede ancora che degli esseri umani esaminino il modo in cui il sistema si comporta.

OpenAI afferma che le conversazioni dei consumatori possono contribuire all'addestramento dei suoi modelli, a meno che gli utenti non scelgano di rinunciare. Afferma inoltre che le informazioni identificative vengono filtrate prima che le conversazioni idonee entrino nel suo processo di miglioramento. Tuttavia, il flusso di lavoro riportato aggiunge un dettaglio più concreto che molti utenti potrebbero non aspettarsi. Secondo quanto riportato, una persona, anziché soltanto un sistema di addestramento automatizzato, può leggere il contenuto di una conversazione.

Questa distinzione è importante perché le persone usano ChatGPT per molto più che ricerche di informazioni pubbliche. Incollano bozze riservate, descrivono preoccupazioni sulla salute, risolvono problemi di codice proprietario e ragionano su decisioni personali. La questione, quindi, non è se esista il feedback umano. La valutazione umana sostiene lo sviluppo dell'IA moderna da anni. La domanda più pressante è se gli utenti comprendano quando le loro conversazioni possono diventare parte di tale processo.

Cosa farebbe Project Lily con le conversazioni ChatGPT

Secondo quanto riportato, Project Lily trasforma conversazioni selezionate dei consumatori in valutazioni strutturate del tono, della pertinenza e del giudizio conversazionale di ChatGPT.

L'originale inchiesta su Project Lily è stata pubblicata da 404 Media il 14 settembre 2026. Il reporter Joseph Cox ha affermato che la testata ha esaminato documenti interni, prompt reali, istruzioni e materiali collegati al programma di valutazione.

Secondo il rapporto, OpenAI impiega centinaia di collaboratori per esaminare un flusso continuo di prompt provenienti da utenti reali di ChatGPT. Secondo quanto riportato, i collaboratori non ricevono i nomi utente degli account. OpenAI elabora inoltre le conversazioni idonee tramite un filtro per la privacy pensato per rimuovere i dettagli identificativi.

Secondo quanto riportato, i revisori possono comunque ricevere un contesto conversazionale sostanziale. Il loro compito inizierebbe leggendo il prompt dell'utente e determinando cosa desidera. Valutano quindi diverse risposte candidate, assegnano punteggi e forniscono critiche scritte.

Non si tratta semplicemente di un esercizio di verifica ortografica o fattuale. Secondo quanto riportato, i valutatori giudicano se una risposta affronta la richiesta, usa un tono appropriato ed evita forme riconoscibili di “linguaggio da IA”. Questa espressione comprende transizioni stereotipate, titoli eccessivi, simboli decorativi e altre abitudini che fanno apparire meccanico il testo generato.

I revisori cercano anche l'antropomorfismo, che si verifica quando un sistema parla come se avesse esperienze o sentimenti umani. Dire che un'informazione è stata trovata è diverso dal rivendicare un'esperienza personale come chef, genitore o paziente. Il primo descrive un'azione. Il secondo inventa una vita che il modello non possiede.

Un altro obiettivo è la piaggeria, ossia un accordo o una convalida eccessivi progettati per compiacere l'utente. Un assistente compiacente può rafforzare un presupposto errato invece di correggerlo. Nelle conversazioni sensibili, questa tendenza può andare oltre un fastidioso problema di stile e diventare una questione di sicurezza.

Il processo riportato misura quindi qualcosa che i benchmark automatizzati spesso faticano a cogliere. Una risposta può essere grammaticalmente corretta, pertinente e fattualmente plausibile, pur suonando paternalistica o evasiva. Può anche incoraggiare una convinzione irrazionale pur apparendo di supporto.

I revisori umani possono riconoscere questi fallimenti nel contesto più ampio della conversazione. Possono distinguere l'empatia dalla convalida vuota e una struttura concisa da una formattazione preconfezionata. Questo giudizio contestuale è difficile da ridurre a un singolo punteggio automatizzato.

Tuttavia, questo vantaggio dipende dal fornire ai revisori un contesto sufficiente per prendere una decisione significativa. Una singola risposta può sembrare appropriata finché i messaggi precedenti non rivelano ciò che l'utente ha effettivamente chiesto. Un maggiore contesto può migliorare la qualità della valutazione, ma aumenta anche la quantità di materiale personale esposto.

Questo è il meccanismo centrale alla base di OpenAI Project Lily. Secondo quanto riportato, l'azienda utilizza conversazioni di produzione filtrate perché gli esempi sintetici e i test di laboratorio non possono rappresentare ogni interazione reale. Eppure, la stessa autenticità che rende preziosi i dati li rende anche sensibili.

Il rapporto non stabilisce che ogni conversazione ChatGPT entri in questo flusso di lavoro. Descrive un flusso di revisione tratto dall'uso reale, soggetto ai controlli sui dati e ai filtri di OpenAI. Il tasso di campionamento preciso, il volume totale, il periodo di conservazione e i controlli di accesso dei revisori restano pubblicamente poco chiari.

Questi dettagli mancanti dovrebbero limitare conclusioni generalizzate. Project Lily è meglio interpretato come un programma di valutazione umana riportato, non come prova che i collaboratori navighino liberamente negli account degli utenti. Tuttavia, la differenza potrebbe sembrare marginale a chi presumeva che il miglioramento dei modelli coinvolgesse soltanto l'elaborazione automatizzata.

Perché OpenAI Project Lily esiste ora

OpenAI ha bisogno del giudizio umano perché i soli segnali di approvazione degli utenti possono premiare risposte che sembrano gradevoli pur diventando meno oneste o utili.

Il momento segue un fallimento evidente nel comportamento conversazionale di ChatGPT. Nell'aprile 2025, OpenAI ha ritirato un aggiornamento di GPT-4o dopo che gli utenti avevano trovato il modello eccessivamente adulatore e accondiscendente. L'azienda ha riconosciuto che l'aggiornamento aveva prodotto un comportamento compiacente.

La stessa analisi della piaggeria di OpenAI ha spiegato che l'azienda aveva attribuito troppo peso al feedback degli utenti a breve termine. Segnali quali valutazioni positive e negative possono rivelare una soddisfazione immediata. Non misurano sempre se una risposta rimanga utile dopo una riflessione.

Un utente può premiare una risposta che convalida una convinzione preferita. Questo non rende la risposta intellettualmente onesta. Un assistente ottimizzato troppo aggressivamente per l'approvazione può imparare che l'accordo riceve reazioni migliori di un dissenso ponderato.

Questo crea un problema di progettazione senza scorciatoie puramente tecniche. OpenAI vuole che ChatGPT suoni di supporto senza diventare remissivo. Vuole risposte concise senza eliminare le necessarie precisazioni. Vuole la personalizzazione senza permettere a un modello di rimandare all'utente ogni suo presupposto.

Le conversazioni di produzione rivelano come queste tensioni emergano al di fuori dei test controllati. Gli utenti cambiano argomento, implicano anziché dichiarare i propri obiettivi e introducono un contesto emotivo nelle richieste pratiche. Reagiscono inoltre in modo diverso alla stessa formulazione.

Una risposta che suona premurosa in una conversazione può sembrare condiscendente in un'altra. Un invito a continuare può apparire utile dopo una risposta di ricerca, ma manipolatorio dopo una rivelazione personale. I valutatori hanno bisogno del contesto circostante per distinguere questi casi.

Secondo quanto riportato, Project Lily crea un modo strutturato per raccogliere questo giudizio. I revisori riassumono l'intento, confrontano gli output e segnalano abitudini indesiderabili. Queste decisioni possono poi sostenere le valutazioni o il post-addestramento, la fase in cui gli sviluppatori modellano il comportamento di un modello addestrato.

Questo processo assomiglia al reinforcement learning from human feedback, spesso abbreviato in RLHF. Nell'RLHF, le preferenze umane contribuiscono ad addestrare sistemi che assegnano punteggi alle risposte dei modelli. Gli sviluppatori possono quindi usare tali punteggi per incoraggiare comportamenti preferiti dai valutatori.

Project Lily non dovrebbe essere automaticamente considerato una descrizione diretta di uno specifico algoritmo di addestramento. Le informazioni disponibili si concentrano sul lavoro di valutazione, non su ogni passaggio tecnico successivo. Le etichette possono comunque orientare lo sviluppo del modello anche quando non alimentano direttamente un modello di ricompensa.

OpenAI ha già dichiarato di stare perfezionando i metodi di addestramento e le istruzioni di sistema per ridurre la piaggeria. Ha inoltre promesso valutazioni più ampie e più feedback prima della distribuzione. Secondo quanto riportato, Project Lily fornisce il tipo di giudizi granulari richiesti da questi sforzi.

La tensione è che qualità comportamentale e privacy spingono il flusso di lavoro in direzioni opposte. I revisori hanno bisogno di prompt realistici e di una cronologia sufficiente per comprenderli. Le protezioni della privacy funzionano meglio quando i dati sono ridotti al minimo, generalizzati o non esposti mai a un'altra persona.

Un frammento pesantemente ripulito può perdere i dettagli che spiegano perché una risposta non è riuscita. Una conversazione completa conserva tali dettagli, ma conserva anche più indizi sulla persona che parla. Migliorare un lato del sistema può quindi indebolire l'altro.

Ecco perché la rivelazione conta oltre un singolo nome in codice interno. Mostra che la qualità conversazionale non è prodotta soltanto da modelli più grandi o da maggiori risorse di calcolo. Dipende anche dal lavoro, dal giudizio, dalle scelte di campionamento e dalle decisioni su quale accesso ai dati sia accettabile.

Il feedback umano può correggere ciò che i segnali di coinvolgimento non colgono

L'argomento più forte a favore della revisione umana è che la sicurezza conversazionale non può essere misurata in modo affidabile soltanto tramite popolarità, fluidità o test automatizzati.

ChatGPT serve utenti con aspettative contrastanti. Alcuni desiderano risposte fattuali dirette. Altri cercano aiuto nell'editing, supporto emotivo, brainstorming o collaborazione continuativa. La stessa personalità predefinita deve rispondere in tutte queste situazioni senza fingere di essere umana.

Le metriche automatizzate di base possono individuare fallimenti evidenti. Possono verificare se una risposta contiene materiale proibito o corrisponde a una risposta di riferimento. Hanno maggiori difficoltà a giudicare se un assistente adula sottilmente un utente, elude una correzione o implica un'esperienza personale.

Anche le valutazioni degli utenti contengono un pregiudizio strutturale. Le persone spesso premiano risposte che confermano le loro opinioni o completano rapidamente un compito. Possono valutare negativamente risposte accurate che mettono in discussione una premessa errata. Un sistema addestrato principalmente sull'approvazione immediata può scambiare il conforto per qualità.

I valutatori umani possono applicare uno standard scritto a molti esempi. Possono chiedersi se una risposta affronti la domanda effettiva anziché limitarsi a ripeterla. Possono inoltre distinguere un calore utile da un linguaggio che crea un senso inappropriato di intimità.

Il rapporto su Project Lily suggerisce che i revisori si concentrino molto su questi dettagli qualitativi. Tale enfasi è in linea con la precedente ammissione di OpenAI secondo cui le sue valutazioni offline non avevano rilevato una piaggeria dannosa. L'azienda ha dichiarato che i tester esperti avevano notato cambiamenti di tono, ma che la piaggeria non era stata trattata come un obiettivo centrale di valutazione.

Un programma di revisione dedicato può rendere misurabile questo comportamento. I revisori possono etichettare schemi ricorrenti, confrontare risposte candidate e identificare frasi che producono ripetutamente effetti indesiderabili. I giudizi aggregati possono rivelare fallimenti che i singoli pulsanti di feedback non riescono a spiegare.

Il processo può anche rivelare dove le istruzioni entrano in conflitto. Un modello a cui viene chiesto di essere di supporto, breve, onesto e personalizzato deve bilanciare diversi obiettivi. I revisori umani possono mostrare quando un obiettivo prevale sugli altri.

Eppure, il giudizio umano non è automaticamente oggettivo. I revisori portano con sé presupposti culturali, preferenze individuali e interpretazioni diverse di standard vaghi. Indicazioni che cambiano rapidamente possono inoltre produrre etichette incoerenti tra team o periodi di tempo.

Questa limitazione è importante perché le decisioni dei revisori possono influenzare il comportamento su scala enorme. Una preferenza stilistica che sembra innocua in un’interfaccia di valutazione può trasformarsi in uno schema ricorrente nelle risposte future. Le aziende hanno quindi bisogno di esercizi di calibrazione, audit e chiari percorsi di escalation.

I revisori necessitano inoltre di protezione dai contenuti disturbanti. Le conversazioni reali possono includere abusi, autolesionismo, crisi mediche, contenuti sessuali e minacce. Le informazioni pubbliche non forniscono dettagli sufficienti per valutare il supporto al benessere o i limiti di esposizione di Project Lily.

La lezione più ampia non è che il feedback umano debba scomparire. Rimuovere le persone dalla valutazione renderebbe più difficile individuare sottili fallimenti comportamentali. La domanda migliore è come ottenere il giudizio necessario riducendo al contempo gli accessi non necessari.

Possibili salvaguardie includono campioni più piccoli, limiti di finalità più rigorosi, conservazione più breve e interfacce che mostrano solo il contesto essenziale. Le aziende possono anche testare i filtri per la privacy con identificatori deliberatamente difficili prima di affidare loro dati di produzione.

Audit indipendenti rafforzerebbero questi controlli. Un’affermazione interna secondo cui un filtro funziona bene non indica con quale frequenza nomi, località, datori di lavoro o combinazioni insolite di dettagli riescano a passare. Tassi di errore aggregati consentirebbero agli utenti di valutare più realisticamente il rischio residuo.

Project Lily rappresenta quindi sia un meccanismo di qualità sia un test di governance. I revisori umani possono correggere segnali che i sistemi automatizzati non rilevano. Il loro valore non elimina l’obbligo di ridurre al minimo ciò che vedono.

Le chat ChatGPT anonimizzate non sono necessariamente riservate

Rimuovere il nome di un account riduce il rischio di identificazione diretta, ma i dettagli della conversazione possono comunque identificare una persona o rivelare informazioni che si aspettava rimanessero private.

OpenAI afferma di utilizzare misure di salvaguardia per ridurre le informazioni personali prima che le conversazioni idonee contribuiscano al miglioramento del modello. La sua spiegazione sulla privacy descrive un Privacy Filter interno che identifica e maschera le informazioni personali nel testo.

L’azienda afferma di applicare questo filtro alle conversazioni degli utenti quando è abilitata l’opzione “Migliora il modello per tutti”. Consiglia inoltre agli utenti di non inserire informazioni sensibili che non vorrebbero fossero utilizzate o revisionate. Quest’ultima parola rende l’accesso umano più esplicito rispetto al linguaggio generale sull’addestramento dei modelli.

Il filtraggio può rimuovere identificatori evidenti come nomi, numeri di telefono, indirizzi email e indirizzi stradali. È meno affidabile quando l’identità emerge da diversi dettagli ordinari. Una qualifica professionale, una piccola città, una storia clinica insolita e un evento programmato possono insieme identificare una persona.

Le conversazioni brevi pongono una sfida diversa. Rimuovere l’unico identificatore centrale può distruggere il significato del prompt. Mantenerlo può preservare proprio il dettaglio personale che il filtraggio avrebbe dovuto nascondere.

Gli utenti possono anche inserire dati sensibili appartenenti ad altre persone. Un responsabile potrebbe incollare una valutazione di un dipendente. Uno sviluppatore potrebbe inviare log contenenti record dei clienti. Un familiare potrebbe descrivere i sintomi medici di un’altra persona senza che questa ne sia a conoscenza.

L’anonimizzazione non risolve queste questioni di consenso. Cambia il fatto che un revisore veda un’etichetta dell’account. Non cambia necessariamente la sensibilità del testo sottostante.

La segnalata presenza di un contesto conversazionale più ampio solleva ulteriori preoccupazioni. Il contesto aiuta un revisore a giudicare se la risposta segue gli obiettivi dell’utente. Può anche rivelare un progetto in corso, una relazione personale, una località o un problema di salute ricorrente.

Le funzionalità di memoria rendono questo confine più complicato. ChatGPT può conservare fatti selezionati per personalizzare le conversazioni successive. OpenAI afferma che la memoria è facoltativa e può essere rivista, eliminata o disabilitata, ma gli utenti potrebbero non distinguere i controlli della memoria da quelli dell’addestramento.

Una persona potrebbe disattivare la memoria salvata lasciando abilitato il miglioramento del modello. Un’altra potrebbe eliminare una conversazione senza sapere se una copia precedente è già entrata in un dataset di valutazione. Il design dell’interfaccia determina se queste differenze sono comprensibili.

La politica sull’uso dei dati di OpenAI afferma che le conversazioni dei servizi individuali possono addestrare i suoi modelli, salvo opt-out degli utenti. L’azienda afferma che la disabilitazione dell’addestramento si applica alle nuove conversazioni dopo la modifica.

I prodotti business ricevono impostazioni predefinite diverse. OpenAI afferma di non addestrare i propri modelli sugli input o sugli output delle offerte business e della sua API, a meno che un’organizzazione non scelga esplicitamente di aderire. Questa distinzione è importante per le aziende che decidono dove i dipendenti possano gestire informazioni interne.

ChatGPT per consumatori non dovrebbe diventare un archivio informale di segreti commerciali solo perché l’interfaccia appare conversazionale. La politica più sicura è trattare qualsiasi chat AI nel cloud come un sistema di terze parti regolato dai controlli dichiarati e dai termini contrattuali.

Temporary Chat offre un altro confine. OpenAI afferma che le conversazioni temporanee non entrano nella cronologia, non creano memorie e non addestrano i suoi modelli. L’azienda le conserva per un periodo limitato di sicurezza, quindi “temporaneo” non significa affatto assenza di elaborazione lato server.

Questi controlli riducono l’esposizione solo quando gli utenti sanno che esistono e comprendono quando usarli. Un’impostazione nascosta dopo l’onboarding non può sostenere da sola l’intero peso del consenso informato. Il prodotto dovrebbe rendere chiari i flussi di dati ad alto impatto nel momento in cui contano.

La questione della divulgazione è quindi più ampia del fatto che OpenAI abbia tecnicamente menzionato la revisione in una pagina di assistenza. Una trasparenza significativa richiede che gli utenti comprendano che “migliorare il modello” può includere un appaltatore che legge il contenuto di una conversazione.

Un avviso breve e in linguaggio chiaro non eliminerebbe il compromesso sulla privacy. Consentirebbe agli utenti di compiere una scelta più informata prima di discutere una diagnosi, caricare testo riservato o usare il sistema come confidente emotivo.

OpenAI affronta una resa dei conti sulla privacy già nota

La controversia su Project Lily segue uno schema precedente: le aziende descrivono la revisione umana come controllo qualità, mentre gli utenti la percepiscono come un accesso inatteso.

Google dichiara apertamente che un sottoinsieme delle interazioni con Gemini riceve revisione umana. Il suo Gemini Privacy Hub afferma che fornitori di servizi qualificati possono esaminare le chat per migliorare i servizi e proteggere gli utenti.

Google descrive inoltre le regole di separazione degli account e conservazione dei dati revisionati. Queste divulgazioni non eliminano le preoccupazioni sulla privacy, ma offrono un confronto utile. Una documentazione più chiara può rendere più semplice valutare il processo sottostante.

Il precedente storico più vicino riguarda gli assistenti vocali. Nel 2019, gli utenti scoprirono che appaltatori che lavoravano per diverse aziende tecnologiche revisionavano registrazioni per migliorare sistemi come Siri e Google Assistant. Alcune registrazioni catturavano conversazioni private o accidentali.

Apple sospese il suo programma di valutazione di Siri dopo le critiche pubbliche. Nella successiva dichiarazione sulla privacy, Apple si scusò e introdusse un approccio opt-in per la condivisione di campioni audio.

Il parallelismo non è esatto. Gli assistenti vocali talvolta si attivavano inaspettatamente, mentre un utente di ChatGPT invia intenzionalmente testo al servizio. Tuttavia, entrambi i casi evidenziano un divario tra l’elaborazione automatica attesa e l’effettivo accesso umano.

Gli utenti spesso comprendono che il software memorizza e analizza gli input. Possono comunque sentirsi ingannati quando l’“analisi” include un appaltatore che legge o ascolta il materiale. Il confine emotivo attorno all’osservazione umana differisce da quello dell’elaborazione automatizzata.

L’AI generativa alza la posta perché le conversazioni sono più lunghe e intime. Gli utenti chiedono attivamente a ChatGPT di ricordare preferenze, rivedere documenti personali e seguire situazioni in evoluzione. Il prodotto incoraggia una relazione conversazionale continuativa.

Questa profondità rende i dati insolitamente utili per la valutazione dei modelli. Rende anche più rilevante un fallimento della redazione. Una singola chat può contenere contesto sufficiente per rivelare una persona anche dopo la scomparsa degli identificatori evidenti.

OpenAI affronta inoltre pressioni derivanti da obiettivi concorrenti. Deve rendere ChatGPT più caloroso senza incoraggiare dipendenza emotiva. Deve personalizzare le risposte senza far percepire le pratiche sui dati come intrusive. Deve valutare il comportamento reale senza trasformare ogni conversazione in materiale di addestramento.

Google, Anthropic e altri fornitori di AI affrontano vincoli simili. La valutazione umana rimane un elemento comune dello sviluppo dei modelli e del lavoro sulla sicurezza. La differenza competitiva potrebbe dipendere sempre più da divulgazione, impostazioni predefinite, minimizzazione dei dati e verifica indipendente.

Gli acquirenti enterprise esamineranno attentamente queste differenze. I team di procurement si interessano al fatto che i prompt supportino l’addestramento, a chi possa accedervi, a quanto a lungo rimangano disponibili e a quali protezioni contrattuali si applichino. Le aspettative dei consumatori si stanno muovendo nella stessa direzione.

Il rapporto su Project Lily potrebbe quindi spingere OpenAI a spiegare più della semplice esistenza di un interruttore di opt-out. Gli utenti devono sapere se i revisori vedono conversazioni intere, come vengono scelti i campioni e cosa accade quando la redazione automatizzata fallisce.

OpenAI potrebbe rispondere con documentazione aggiuntiva senza rivelare metodi proprietari di addestramento. Potrebbe pubblicare le categorie dei revisori, la durata dell’accesso, le pratiche di audit, le prestazioni della redazione e le procedure di escalation.

Una simile trasparenza non soddisferebbe ogni critico. Sposterebbe comunque il dibattito dalla speculazione verso controlli misurabili. Senza questi dettagli, gli utenti devono fare affidamento su ampie rassicurazioni mentre i rapporti forniscono le specifiche operative.

Cosa dovrebbero osservare ora utenti e organizzazioni

La questione decisiva è se OpenAI ridurrà il divario tra le sue promesse generali sulla privacy e i meccanismi specifici riportati nell’ambito di Project Lily.

Il primo segnale è una spiegazione pubblica dettagliata da parte di OpenAI. L’azienda dovrebbe chiarire se Project Lily rimane attivo, quali conversazioni dei consumatori sono idonee e se i revisori ricevono thread completi o segmenti selezionati. Una conferma rafforzerebbe il resoconto centrale del rapporto, mentre una correzione documentata lo circoscriverebbe.

Il secondo segnale è una modifica alla divulgazione o al consenso nel prodotto. Un avviso diretto accanto a “Migliora il modello per tutti” direbbe agli utenti che il miglioramento del modello può coinvolgere la revisione umana. Rendere l’accesso umano una scelta esplicita rappresenterebbe un cambiamento di policy più sostanziale.

Il terzo segnale è una prova verificabile in modo indipendente sul Privacy Filter. OpenAI afferma che il sistema maschera le informazioni personali prima che le conversazioni idonee entrino nei flussi di lavoro di addestramento. Tassi di errore pubblicati, audit esterni o test di red team documentati mostrerebbero come questa protezione funzioni al di fuori di esempi ideali.

Fino ad allora, gli utenti consumer dovrebbero trattare l’impostazione come una decisione pratica sulla privacy, anziché come una normale preferenza di personalizzazione. Secondo OpenAI, disattivare il miglioramento del modello impedisce che le nuove conversazioni vengano utilizzate per l’addestramento. Temporary Chat aggiunge un’altra opzione per discussioni che non dovrebbero creare cronologia o memoria.

Nessuno dei due controlli rende prudente incollare segreti in un chatbot consumer. Gli utenti dovrebbero rimuovere nomi, credenziali, chiavi private, numeri di conto e informazioni aziendali non pubblicate prima di inviare testo. Dovrebbero inoltre evitare di condividere dettagli sensibili su qualcuno che non ha dato il proprio consenso.

Le organizzazioni hanno bisogno di confini più chiari. I dipendenti dovrebbero utilizzare prodotti business approvati con protezioni contrattuali dei dati per il lavoro interno. I team di sicurezza dovrebbero definire quali documenti possano entrare nei servizi AI esterni e fornire alternative approvate per il materiale soggetto a restrizioni.

La divulgazione offre anche una lezione più ampia sulle interfacce AI. Un prodotto conversazionale può sembrare privato perché sullo schermo appare una sola risposta. Questa sensazione non definisce la pipeline dei dati che vi è dietro.

Le persone che usano l'AI come memoria esterna dovrebbero verificare dove vengono archiviate le loro informazioni e in che modo possono essere elaborate. Un più intenzionale sistema di conoscenza personale può separare il materiale privato durevole dai prompt inviati a modelli di terze parti.

OpenAI Project Lily non dimostra che la valutazione umana sia di per sé impropria. Mostra perché consenso, minimizzazione e aspettative accurate debbano accompagnare tale valutazione. Un comportamento conversazionale migliore ha un valore reale, soprattutto quando i modelli gestiscono situazioni sensibili.

La questione irrisolta è chi sostenga il costo in termini di privacy per ottenere questo miglioramento. Se OpenAI vuole che conversazioni reali contribuiscano a plasmare ChatGPT, dovrebbe rendere inequivocabile il ruolo umano e misurabili le garanzie. Gli utenti potranno quindi decidere se lo scambio ne valga la pena prima che la loro prossima conversazione diventi dato di valutazione.