OpenAI Project Lily stellt menschliche Prüfung hinter den privat wirkenden Gesprächen von ChatGPT

OpenAI Project Lily beschäftigt Berichten zufolge Hunderte von Auftragnehmern damit, echte ChatGPT-Gespräche zu prüfen – trotz der privaten Atmosphäre, die eine Eins-zu-eins-Chatbot-Oberfläche vermittelt. Die Prüfer helfen bei der Bewertung von Modellantworten, doch einige Gespräche enthalten Berichten zufolge persönliche Informationen, die automatisierte Filter nicht entfernt haben.

Die Existenz des Programms wurde in einer Untersuchung vom 14. September beschrieben, die auf internen Leitfäden, Diskussionen am Arbeitsplatz, Bewertungsmaterialien und echten Prompts basiert. Laut der ursprünglichen Untersuchung können Prüfer vollständige Gespräche statt isolierter, kontextloser Fragen erhalten.

Der zentrale Konflikt besteht nicht darin, ob Menschen zur künstlichen Intelligenz beitragen. Menschliches Feedback prägt führende Sprachmodelle seit Jahren. Die entscheidendere Frage lautet, ob die Hinweise für Verbraucher Menschen angemessen darauf vorbereiten, dass ein Auftragnehmer einen Austausch liest, der vertraulich wirkt.

Google erklärt bereits, dass geschulte Dienstleister einen Teil der Gemini-Gespräche prüfen. Anthropic bestätigte laut der Berichterstattung über Project Lily ebenfalls, dass es für berechtigte Gespräche menschliche Prüfung einsetzt. Die Praxis scheint über ein einzelnes Unternehmen hinauszugehen, doch OpenAI sieht sich nun direkten Fragen zu Transparenz, Datenminimierung und der Frage gegenüber, ob sein Datenschutzfilter ausreichend Schutz bietet.

Was Prüfer von OpenAI Project Lily Berichten zufolge sehen

Project Lily verwandelt ausgewählte Verbrauchergespräche in strukturierte Bewertungsaufgaben für menschliche Prüfer.

Der berichtete Ablauf beginnt mit einem tatsächlichen ChatGPT-Prompt. Ein Auftragnehmer liest die Anfrage des Nutzers, fasst die erkennbare Absicht zusammen und bewertet mehrere vom Modell erzeugte Antworten. Die Prüfer erhalten Berichten zufolge vier Antwortkandidaten und bewerten sie auf einer Skala von eins bis sieben.

Dieser Prozess geht über die Auswahl eines Daumen-hoch-Symbols hinaus. Prüfer müssen Stärken und Schwächen in einer Antwort identifizieren, ihre Begründung erläutern und beurteilen, ob die Antwort dem von OpenAI bevorzugten Verhalten entspricht.

Die Bewertungsanweisungen betreffen Berichten zufolge sowohl Inhalt als auch Ton. Prüfer achten auf Genauigkeit, Relevanz, angemessene Formatierung und die Einhaltung der Nutzeranfrage. Außerdem ahnden sie Gewohnheiten, die generierte Texte mechanisch oder manipulativ wirken lassen können.

Zu diesen Gewohnheiten zählen Berichten zufolge unnötige Häkchensymbole, überladene Formatierung und Schlussfolgerungen, die vor allem darauf ausgelegt sind, die Interaktion zu verlängern. Prüfer sollen außerdem Behauptungen menschlicher Erfahrungen markieren, etwa wenn ein Chatbot sich als jemand mit persönlicher Geschichte präsentiert.

Ein weiteres Ziel ist Schmeichelei, also die Tendenz eines Modells, einem Nutzer übermäßig zuzustimmen oder dessen Darstellung zu bestärken. Ein schmeichlerischer Assistent kann unterstützend klingen, ohne eine irrationale, falsche oder gefährliche Annahme infrage zu stellen.

Menschliches Urteilsvermögen ist hier wichtig, weil diese Fehler stark vom Kontext abhängen. Eine starre automatisierte Kennzahl kann hilfreiche Empathie nicht immer von verantwortungsloser Bestätigung unterscheiden. Sie tut sich auch schwer damit zu bestimmen, wann eine freundliche Antwort anbiedernd oder täuschend wird.

Das erklärt, warum Modellentwickler trotz hoher Investitionen in Recheninfrastruktur und automatisierte Bewertung weiterhin Menschen benötigen. Eine Antwort kann grammatikalisch korrekt und faktisch plausibel sein und dennoch ausweichend, herablassend oder beunruhigend zustimmend wirken.

Doch derselbe Kontext, der Prüfern hilft, eine Antwort zu bewerten, erhöht auch die Datenschutzrisiken. Ein isolierter Prompt verrät möglicherweise wenig. Ein vollständiger Austausch kann Beziehungen, gesundheitliche Sorgen, Konflikte am Arbeitsplatz, finanzielle Probleme oder andere identifizierende Details offenlegen.

Einige Prüferaufgaben zeigen Berichten zufolge über dem Gespräch eine Zusammenfassung der Nutzerspeicherinformationen. Der ChatGPT-Speicher kann nützliche Details aus früheren Interaktionen bewahren, damit spätere Antworten stärker personalisiert wirken. Diese Zusammenfassung kann auch zusätzliche Hinweise auf Beruf, Standort, Interessen oder Lebensumstände einer Person liefern.

Die Prüfer erhalten Berichten zufolge keine ChatGPT-Benutzernamen. OpenAI erklärt außerdem, dass Gespräche ein System namens Privacy Filter durchlaufen, bevor sie sie erreichen. Dieses automatisierte Modell soll persönliche Informationen erkennen und entfernen.

Doch das Entfernen eines Kontonamens macht ein detailliertes Gespräch nicht zwangsläufig anonym. Ein besonderer Beruf, eine ungewöhnliche Krankengeschichte, eine namentlich genannte Gemeinschaft und ein konkretes Familienereignis können gemeinsam eine Person identifizieren. Jedes Fragment kann für sich genommen harmlos wirken.

Der berichtete Prozess zur menschlichen Prüfung von ChatGPT beruht daher auf zwei unvollkommenen Schutzvorkehrungen. Die erste ist automatisierte Schwärzung. Die zweite ist organisatorische Kontrolle über Auftragnehmer, die dennoch ausreichend Kontext benötigen, um aussagekräftige Bewertungen vorzunehmen.

Weiterführende Berichterstattung beschreibt Hunderte von Auftragnehmern, die an dem Projekt beteiligt sind. Berichte bringen die Arbeit auch mit Mercor und Crossing Hurdles in Verbindung, obwohl OpenAI keinen vollständigen operativen Bericht veröffentlicht hat.

Die Untersuchung stellt nicht fest, wie viele Gespräche insgesamt in Project Lily gelangen, wie sie ausgewählt werden oder wie lange Prüfer darauf zugreifen können. Sie nennt auch nicht die konkreten Modellversionen, die das daraus resultierende Feedback erhalten.

Diese Lücken sind wichtig. „Menschen lesen ChatGPT-Chats“ suggeriert eine flächendeckende Überwachung, die durch die verfügbaren Belege nicht gestützt wird. „Anonymisierte Stichproben verbessern Modelle“ kann beruhigend klingen, unterschätzt jedoch die berichtete Sichtbarkeit vollständiger Gespräche und des Speicherkontexts.

Die vertretbare Schlussfolgerung liegt zwischen diesen Aussagen. Ausgewählte Gespräche gelangen Berichten zufolge in eine Pipeline zur menschlichen Bewertung, und OpenAI wendet vor der Prüfung Datenschutzmaßnahmen an. Diese Maßnahmen garantieren nicht, dass jedes sensible Detail verschwindet.

Warum die menschliche Prüfung von ChatGPT ein Einwilligungsproblem schafft

Das größte Datenschutzproblem ist die Lücke zwischen formalen Datenkontrollen und den Erwartungen, die ein konversationelles Produkt erzeugt.

Die meisten Menschen verstehen, dass öffentliche Beiträge von Fremden gelesen werden können. Ein Chatbot vermittelt eine andere psychologische Situation. Er bietet ein leeres Textfeld, sofortige Antworten und kein sichtbares menschliches Publikum.

Diese Oberfläche fördert Offenheit. Menschen nutzen ChatGPT, um vertrauliche E-Mails zu überarbeiten, medizinische Formulierungen zu interpretieren, über Beziehungen zu sprechen, proprietären Code zu debuggen und Probleme am Arbeitsplatz zu durchdenken. Andere behandeln es wie ein Tagebuch oder eine emotionale Anlaufstelle.

Ein Nutzer kann daher verstehen, dass Daten zur Verbesserung eines Dienstes beitragen, ohne sich vorzustellen, dass ein Auftragnehmer den Text prüfen könnte. Modelltraining klingt rechnergestützt. Menschliche Bewertung klingt zwischenmenschlich.

OpenAI legt offen, dass Inhalte von Verbrauchern zur Verbesserung seiner Modelle beitragen können. Die veröffentlichte Erklärung besagt, dass das Unternehmen einige Interaktionsdaten speichert und zugleich Maßnahmen ergreift, um persönliche Informationen vor dem Training zu reduzieren. In seiner Richtlinie zur Modellverbesserung unterscheidet es außerdem zwischen Verbraucherprodukten und Geschäftslösungen.

Project Lily verändert, wie Leser diese Hinweise interpretieren. „Unsere Modelle verbessern“ umfasst Berichten zufolge, dass Menschen ausgewählte Gespräche lesen, zusammenfassen, kritisieren und bewerten. Dieser Mechanismus verdient mehr Aufmerksamkeit, weil er beeinflusst, was informierte Einwilligung bedeutet.

OpenAI teilte der untersuchenden Publikation mit, dass sensible Details seinen Filter passieren können. Automatisierte Schwärzungssysteme stehen vor schwierigen Sprachproblemen, insbesondere wenn identifizierende Informationen indirekt erscheinen.

Ein Filter kann eine E-Mail-Adresse leichter erkennen als einen seltenen Beruf in Verbindung mit einer kleinen Stadt. Er kann eine herkömmliche Telefonnummer entfernen, während ihm ein Identifikator in einem ungewöhnlichen Format entgeht. Mehrdeutige Verweise sind noch schwieriger.

Der Kontext schafft zudem einen grundlegenden technischen Zielkonflikt. Stärkere Schwärzung schützt die Privatsphäre, kann aber das Material beschädigen, das Prüfer benötigen. Schwache Schwärzung erhält den Bewertungswert, erhöht jedoch die Offenlegung.

Angenommen, ein Nutzer bittet ChatGPT nach einem Konflikt am Arbeitsplatz darum, eine Antwort an einen Vorgesetzten zu formulieren. Das Entfernen von Namen kann die grundlegende Aufgabe bewahren. Das Entfernen der Branche, Rolle, Anschuldigung und früherer Austausche könnte es unmöglich machen, die Antwort angemessen zu bewerten.

Dieselbe Spannung gilt für Gesundheits- und Beziehungsgespräche. Prüfer benötigen Kontext, um zu beurteilen, ob eine Antwort angemessen vorsichtig oder gefährlich bestätigend ist. Dieser Kontext kann die sensibelsten Teile des Austauschs enthalten.

Der Speicher verschärft das Problem, weil sich Informationen über mehrere Sitzungen hinweg ansammeln können. Ein einzelnes Detail identifiziert möglicherweise niemanden, während eine strukturierte Zusammenfassung wiederkehrender Details die Möglichkeiten eingrenzt.

Deshalb kann Datenschutz nicht vollständig von herkömmlichen personenbezogenen Informationen abhängen. Wirksame De-Identifizierung muss Kombinationen, Rückschlüsse und Verknüpfbarkeit berücksichtigen. Ein namloses Gespräch kann weiterhin zutiefst persönlich sein.

Der Bericht zitiert außerdem einen Auftragnehmer, der bezweifelte, dass Nutzer sich vorstellen, dass jemand ihre Austausche analysiert. Diese Beobachtung ist kein wissenschaftliches Maß für das Nutzerbewusstsein. Sie erfasst jedoch das Problem des Produktdesigns.

OpenAI kann auf eine gültige Einstellung und eine korrekte Datenschutzrichtlinie verweisen. Nutzer können dennoch aufgrund der Oberfläche eine wesentlich andere Erwartung entwickeln. Beide Aussagen können zutreffen.

Das Thema ist besonders wichtig für vulnerable Nutzer. Jemand, der einen Chatbot bittet, ein Geheimnis zu bewahren, könnte dessen konversationelle Antwort als Vertraulichkeitszusage interpretieren. Das Modell kann durch seine Antwort die Backend-Datenpraktiken von OpenAI nicht ändern.

Chatbots sind keine Therapeuten, Anwälte, Ärzte oder beruflich zur Verschwiegenheit verpflichteten Berater. Dennoch ahmen ihre Oberflächen zunehmend geduldige, personalisierte Gespräche nach. Diese Ähnlichkeit erhöht die Kosten schwacher oder schlecht sichtbarer Datenschutzerklärungen.

Die Federal Trade Commission hat KI-Anbieter davor gewarnt, ihre Datenschutz- und Vertraulichkeitszusagen nicht einzuhalten. Ihre Datenschutzleitlinien für KI heben ausdrücklich sensible Informationen hervor, die an Modelldienste übermittelt werden, sowie die Bedeutung klarer Hinweise.

Der Bericht zu Project Lily belegt nicht, dass OpenAI gegen ein Gesetz verstoßen hat. Er schafft jedoch einen Test dafür, ob die gegenwärtigen Hinweise zum menschlichen Zugriff und zur Prüfung durch Auftragnehmer ausreichend klar sind.

Eine versteckte Richtlinie kann die Datenverarbeitung korrekt beschreiben, ohne die durch das Produkt erzeugte Erwartung zu korrigieren. Der Druck auf OpenAI geht daher über einen geleakten Projektnamen hinaus.

Das Unternehmen muss zwei Botschaften miteinander vereinbaren. ChatGPT wird persönlicher und kontextbewusster, während Gespräche zugleich zu von Menschen geprüftem Trainingsmaterial werden können.

Bessere Antworten hängen von Kontext ab, und Kontext erhöht das Risiko

Project Lily offenbart einen schwierigen Zielkonflikt: Das nützlichste Material zur Verbesserung von ChatGPT kann zugleich am schwersten zu anonymisieren sein.

Modellentwickler benötigen Beispiele, die der realen Nutzung ähneln. Synthetische Prompts können bekannte Szenarien abdecken, doch sie bilden selten die Unordnung, Mehrdeutigkeit und emotionale Textur von Millionen echter Gespräche nach.

Echte Nutzer wechseln die Richtung, lassen Kontext aus, widersprechen sich und vermischen mehrere Aufgaben. Sie reagieren außerdem auf frühere Formulierungen des Modells. Die Prüfung eines vollständigen Austauschs hilft Bewertern zu erkennen, ob ChatGPT Verwirrung verursacht oder eine falsche Annahme bestärkt hat.

Dieses Feedback kann Probleme aufdecken, die Benchmark-Ergebnisse übersehen. Ein Modell kann einen Fakten-Test korrekt beantworten und Nutzer dennoch durch wiederholte Disclaimer frustrieren. Ein anderes kann mitfühlend klingen und zugleich eine schädliche Überzeugung bekräftigen.

Menschliche Prüfer können diese Unterschiede erkennen. Ihre Bewertungen können das Post-Training unterstützen – den Prozess, mit dem das Verhalten eines vortrainierten Modells geprägt wird, nachdem es breite Sprachmuster gelernt hat.

Die Anweisungen für Project Lily konzentrieren sich Berichten zufolge teilweise darauf, ChatGPT weniger anbiedernd und weniger anfällig für eine menschenähnliche Selbstdarstellung zu machen. Diese Ziele betreffen unmittelbar Sicherheit und Nutzervertrauen, nicht bloß den Schreibstil.

Wenn vor der Prüfung jeder persönliche Hinweis entfernt wird, kann das diese Bewertung schwächen. Ein Prüfer, der sensible Ratschläge bewertet, muss wissen, was der Nutzer offengelegt hat und wie sich das Gespräch entwickelt hat.

Daraus entsteht eine unangenehme Umkehrung. Persönlicher Kontext verbessert die Fähigkeit eines Prüfers, unsicheres Verhalten zu erkennen, doch derselbe Kontext macht menschlichen Zugriff folgenreicher.

Die Spannung verschärft sich, je mehr KI-Assistenten über Erinnerungsfunktionen verfügen. Ein Erinnerungssystem kann ChatGPT helfen, wiederholte Fragen zu vermeiden und spätere Antworten anzupassen. Es verwandelt verstreute Offenlegungen jedoch auch in ein dauerhaftes Profil.

Dieses Profil kann gewöhnliche Präferenzen neben hochsensiblen Informationen enthalten. Selbst wenn kein direkter Identifikator erscheint, kann die Kombination den ungefähren Standort, Beruf, die Familienstruktur oder anhaltende Probleme eines Nutzers offenlegen.

Dies ist kein Argument dafür, dass Erinnerungsfunktionen oder menschliche Bewertung verschwinden müssen. Es ist ein Argument dafür, kontextbezogene Daten von vornherein als sensibel zu behandeln.

Die sicherste Pipeline zur Modellverbesserung würde minimieren, was jeder Prüfer sieht, Identität und Inhalt trennen, den Zugriff beschränken, jede Interaktion protokollieren und kurze Aufbewahrungsfristen durchsetzen. Sie würde außerdem prüfen, ob die Schwärzung über verschiedene Sprachen und ungewöhnliche Identifikatoren hinweg zuverlässig funktioniert.

OpenAI hat öffentlich nicht genügend Details zu Project Lily bereitgestellt, um diese Kontrollen zu bewerten. Dem Bericht zufolge werden Nutzernamen zurückgehalten und ein Privacy Filter verarbeitet Gespräche. Eine unabhängige Sicherheitsprüfung oder eine gemessene Fehlerquote liefert er jedoch nicht.

Das Fehlen dieser Details sollte nicht als Beleg für ein Versagen interpretiert werden. Es sollte als ungeklärte Überprüfungslücke behandelt werden.

Auftragsverhältnisse verdienen besondere Prüfung, weil sie die Zahl der beteiligten Organisationen und Beschäftigten erhöhen. Jeder zusätzliche Zugriffspunkt wirft operative Fragen zu Schulung, Aufsicht, Gerätesicherheit, Kopieren, Aufbewahrung und Reaktion auf Vorfälle auf.

Ein Auftragnehmer kann strenge Regeln befolgen und dennoch sensibles Material sehen, das für die Aufgabe erforderlich ist. Datenschutzrisiken setzen kein Fehlverhalten voraus. Bereits der autorisierte Zugriff kann den Erwartungen eines Nutzers widersprechen.

Diese Unterscheidung verschwindet in Debatten über Verbraucherdatenschutz häufig. Sicherheit fragt, ob Unbefugte Daten erlangt haben. Datenschutz fragt außerdem, ob die autorisierte Nutzung verhältnismäßig, nachvollziehbar und mit dem Erhebungskontext vereinbar war.

OpenAI Project Lily scheint darauf ausgelegt zu sein, die Modellqualität durch legitime Bewertungsarbeit zu verbessern. Die Kontroverse dreht sich darum, ob die Datenpipeline der Intimität des Produkterlebnisses gerecht wird.

Für Einzelpersonen ist dies auch ein Problem des Wissensmanagements. Entwürfe, Forschungsnotizen und Details aus dem Arbeitsalltag können zusammengenommen mehr verraten als bei getrennter Speicherung. Eine private KI-Wissensdatenbank braucht klare Grenzen dafür, wohin ihr Ausgangsmaterial gelangt.

Nutzer sollten nicht annehmen, dass das Löschen von Namen einen Prompt sicher macht. Proprietärer Code kann ein Unternehmen identifizieren. Ein Vertragsauszug kann Parteien anhand von Daten und Verpflichtungen erkennen lassen. Eine medizinische Darstellung kann jemanden durch seltene Umstände offenlegen.

Die bessere Regel lautet: Daten vor der Übermittlung minimieren. Geben Sie nur die für die Aufgabe nötigen Details an, ersetzen Sie Identifikatoren lokal und fügen Sie keine Geheimnisse in Consumer-Tools ein, sofern keine angemessenen Kontrollen vorhanden sind.

Dieser Ansatz entschuldigt keine unklaren Plattformhinweise. Er erkennt an, dass kein automatisierter Privacy Filter sorgfältiges Produktdesign und das Urteilsvermögen der Nutzer vollständig ersetzen kann.

Die Datenschutzkontrollen von OpenAI sind wichtig, haben aber Grenzen

Nutzer können verhindern, dass neue Verbrauchergespräche zur Modellverbesserung verwendet werden, doch diese Entscheidung schließt nicht jede Form der Überprüfung oder Aufbewahrung aus.

Die aktuellen ChatGPT-Datenschutzkontrollen von OpenAI bieten eine direkte Opt-out-Möglichkeit. Angemeldete Nutzer können Einstellungen öffnen, Data Controls auswählen und „Improve the model for everyone“ deaktivieren.

Laut dem offiziellen Leitfaden zu Datenkontrollen bleiben Gespräche nach der Deaktivierung der Einstellung im Chatverlauf sichtbar. Neue Gespräche werden nicht zum Trainieren von ChatGPT verwendet.

Die Einstellung gilt kontenübergreifend auf allen Geräten. OpenAI erklärt außerdem, dass frühere Opt-out-Anfragen, die über den Support oder das Datenschutzformular eingereicht wurden, weiterhin berücksichtigt werden.

Diese Unterscheidung zwischen neuen und bestehenden Daten ist wichtig. Das Deaktivieren der Modellverbesserung verändert, wie künftige Gespräche behandelt werden. Nutzer sollten nicht davon ausgehen, dass der Schalter bereits verarbeitetes oder in einen Trainingsablauf aufgenommenes Material rückwirkend entfernt.

Temporary Chat bietet eine weitere Grenze. OpenAI erklärt, dass ein nicht gespeichertes temporäres Gespräch nicht im Verlauf erscheint, keine neuen Erinnerungen erzeugt und nicht zur Modellverbesserung genutzt wird.

Das Unternehmen kann aus Sicherheitsgründen bis zu 30 Tage lang eine Kopie aufbewahren. OpenAI erklärt außerdem, dass temporäre Gespräche zur Überwachung von Missbrauch überprüft werden können.

Das bedeutet: Temporär ist nicht gleichbedeutend mit unsichtbar, sofort gelöscht oder von jedem menschlichen Zugriffspfad ausgenommen. Es bedeutet, dass das Gespräch einer restriktiveren Richtlinie für Produktverbesserung und Erinnerungen folgt.

Ein temporäres Gespräch kann auch bestehende Erinnerungen verwenden, wenn die Personalisierung weiterhin aktiviert ist. Nutzer können eine nicht personalisierte temporäre Sitzung wählen, wenn sie nicht möchten, dass frühere Erinnerungen oder benutzerdefinierte Anweisungen angewendet werden.

Wenn ein Nutzer einen Temporary Chat speichert, wird er zu einem regulären Gespräch. Anschließend gelten die Einstellungen des Kontos für Modellverbesserung und Personalisierung.

Diese Details machen die ChatGPT-Datenschutzkontrollen nützlich, aber leicht missverständlich. Drei getrennte Konzepte sind beteiligt:

• Die Modellverbesserung bestimmt, ob berechtigte Inhalte Training und Bewertung unterstützen.

• Erinnerungen bestimmen, ob Informationen spätere Gespräche personalisieren können.

• Die Sicherheitsüberwachung erlaubt eine begrenzte Aufbewahrung oder Prüfung zur Erkennung von Missbrauch.

Die Änderung einer Einstellung deaktiviert nicht zwangsläufig die anderen. Ein Nutzer, der Erinnerungen ausschaltet, hat die Modellverbesserung nicht automatisch deaktiviert. Ein Nutzer, der Temporary Chat wählt, erhält keine absolute Garantie gegen Sicherheitsprüfungen.

Für Business-Produkte gilt eine andere Standardeinstellung. OpenAI erklärt, dass es Eingaben oder Ausgaben aus ChatGPT Business, Enterprise, Edu, Angeboten im Gesundheitswesen, Produkten für Lehrkräfte oder seiner API-Plattform nicht für das Training verwendet, sofern eine Organisation nicht ausdrücklich zustimmt.

Diese Unterscheidung ist für Unternehmen wichtig, die entscheiden, ob Beschäftigte interne Dokumente in ein KI-System einbringen dürfen. Ein Consumer-Konto und ein genehmigter Business-Arbeitsbereich bieten nicht dieselben Datenzusagen.

Auch Schutzmaßnahmen für Unternehmen beseitigen nicht den Bedarf an Governance. Organisationen müssen weiterhin Zugriff, verbundene Anwendungen, Aufbewahrung und den Umgang der Beschäftigten mit Kundeninformationen kontrollieren.

Einzelne Nutzer sollten zudem Komfort von Vertraulichkeit trennen. Ein Chatbot kann helfen, eine sensible Nachricht umzuschreiben, ohne die ursprünglichen Namen, den Arbeitgeber, Adressen oder Kontonummern zu erhalten.

Entwickler können beim Debugging erfundene Werte verwenden. Forschende können einen Fall zusammenfassen, bevor sie um strukturelles Feedback bitten. Beschäftigte können genehmigte Arbeitswerkzeuge nutzen und vermeiden, eingeschränktes Material in persönliche Konten zu übertragen.

Für wiederkehrende private Arbeit kann ein lokal ausgerichtetes zweites Gehirn unnötiges Kopieren zwischen Systemen reduzieren. Die zentrale Frage ist nicht nur, wo Informationen gespeichert werden, sondern welche Dienste sie während der Verarbeitung erhalten.

Project Lily zeigt auch, warum Warnungen auf der Oberfläche wichtig sind. Nutzer sollten menschlichen Zugriff nicht aus einer allgemeinen Formulierung zur Modellverbesserung ableiten müssen.

Eine klare Offenlegung könnte erklären, dass ausgewählte Gespräche nach automatisierter Datenschutzverarbeitung von geschultem Personal oder Dienstleistern überprüft werden können. Sie könnte neben dem Schalter für Modellverbesserung erscheinen statt nur in Richtliniendokumenten.

Die Oberfläche könnte Nutzer auch daran erinnern, bevor sie Erinnerungen aktivieren oder sensible Dateien hochladen. Granularere Kontrollen könnten automatisiertes Training, menschliche Bewertung und Sicherheitsprüfung trennen, sofern dies operativ möglich ist.

Keine dieser Kontrollen würde einen Cloud-Chatbot einer rechtlich privilegierten Kommunikation gleichstellen. Sie würden die Grenzen sichtbarer und leichter verständlich machen.

Menschliche Überprüfung ist Branchenpraxis, keine OpenAI-Ausnahme

OpenAI steht derzeit im Rampenlicht, doch menschliche Bewertung ist in der Entwicklung von Consumer-KI fest verankert.

Die Gemini-Dokumentation von Google bietet den deutlichsten öffentlichen Vergleich. Google erklärt, dass geschulte Dienstleister einen Teil der Chats überprüfen, um minderwertige, ungenaue oder schädliche Antworten zu identifizieren.

Google erklärt außerdem, dass überprüfte Chats von Nutzerkonten getrennt werden, bevor sie Dienstleister erreichen. Sein Gemini Privacy Hub warnt Nutzer davor, vertrauliche Informationen einzugeben, die sie keinem Prüfer zeigen möchten.

Diese Warnung macht die menschliche Rolle ungewöhnlich ausdrücklich. Google erklärt, dass überprüfte Gespräche und zugehörige Informationen bis zu drei Jahre aufbewahrt werden können, selbst nachdem ein Nutzer zugehörige Aktivitäten gelöscht hat.

Nutzer können die Einstellung Keep Activity deaktivieren, damit künftige Chats nicht zur Verbesserung von Googles Diensten verwendet werden. Auch temporäre Chats sind von der Modellverbesserung ausgenommen, obwohl eine begrenzte Sicherheitsverarbeitung fortgesetzt werden kann.

Anthropic erklärte gegenüber 404 Media, dass es ebenfalls menschliche Überprüfungen für Gespräche nutzt, die über seine Einstellung zur Verbesserung dafür freigegeben wurden. Laut der Berichterstattung entfernt Anthropic vor der Überprüfung Kontokennungen, einschließlich E-Mail-Adressen.

Diese Vergleiche belegen nicht, dass jedes Unternehmen dieselben Materialien erhebt oder identische Kontrollen einsetzt. Sie zeigen, dass menschliche Bewertung kein vorübergehender Behelf ist, der nur bei OpenAI vorkommt.

Sprachmodelle sind auf Urteile angewiesen, die automatisierte Systeme nicht vollständig liefern können. Menschen bewerten, ob Antworten hilfreich, korrekt, sicher, angemessen vorsichtig und mit komplexen Anweisungen vereinbar sind.

Der Wettbewerbsdruck ist offensichtlich. Unternehmen wollen Assistenten, die natürlich wirken, ohne vorzutäuschen, menschlich zu sein. Sie wollen emotionale Intelligenz ohne reflexhafte Zustimmung. Sie wollen Personalisierung ohne unvertretbare Datenschutzrisiken.

Jedes Ziel wirkt dem anderen entgegen. Mehr Kontext kann die Relevanz verbessern. Mehr gespeicherter Kontext kann die Sensibilität erhöhen. Mehr menschliches Urteilsvermögen kann nuancierte Sicherheit verbessern. Mehr menschlicher Zugriff kann das Vertrauen der Nutzer schwächen.

Die bevorzugte Antwort der Branche bestand bislang aus De-Identifizierung, Zugriffskontrollen, Vereinbarungen mit Auftragnehmern und Opt-out-Einstellungen. Project Lily prüft, ob diese Maßnahmen weiterhin überzeugen, während Assistenten immer persönlicher werden.

Wettbewerbsdruck kann ein weiteres Problem schaffen. Die Modellqualität hängt teilweise von vielfältigen, aktuellen Beispielen realer Nutzung ab. Ein Anbieter, der Bewertungsdaten stark einschränkt, könnte wertvolle Hinweise auf neu entstehende Fehler verlieren.

Das bedeutet nicht, dass Datenschutz und Leistung unvereinbar sind. Es bedeutet, dass datenschutzschonende Alternativen ernsthafte Investitionen und messbare Validierung benötigen.

Unternehmen können synthetische Bewertungen verbessern, Klassifizierung auf dem Gerät einsetzen, Prüfern nur begrenzte Auszüge zeigen oder kontrollierte interne Teams für die sensibelsten Aufgaben einsetzen. Sie können außerdem aggregierte Informationen über Stichproben und die Leistung von Schwärzungen veröffentlichen.

Unabhängige Prüfungen würden helfen, starke Schutzmaßnahmen von beruhigender Sprache zu unterscheiden. Sinnvolle Offenlegungen könnten Standorte der Prüfer, Zugriffsdauer, Tests zur Schwärzung, Vorfallraten und die Frage umfassen, ob Gedächtniszusammenfassungen für jede Aufgabe erforderlich sind.

OpenAI könnte außerdem erklären, ob Gespräche zufällig ausgewählt, von automatisierten Systemen selektiert oder aufgrund von Nutzerfeedback ausgewählt werden. Jeder Mechanismus schafft unterschiedliche Erwartungen und potenzielle Verzerrungen.

Auch das Stichprobendesign beeinflusst die Modellqualität. Über Nutzerfeedback ausgewählte Gespräche könnten Fehler und besonders engagierte Nutzer überrepräsentieren. Zufallsstichproben könnten gewöhnliches Verhalten erfassen, aber Material von Personen offenlegen, die nie aktiv Feedback abgegeben haben.

Die Berichterstattung zu Project Lily beantwortet diese Fragen nicht abschließend. Sie identifiziert die Menschen und Mechanismen hinter einer Kategorie, die zuvor meist lediglich als „Modellverbesserung“ beschrieben wurde.

Diese Transparenz ist wertvoll, selbst wenn menschliche Prüfung weiterhin notwendig bleibt. Verbraucher können bessere Entscheidungen treffen, wenn die Arbeit hinter einem KI-Dienst nicht hinter technischer Sprache verborgen wird.

Dasselbe gilt für die Arbeitsbedingungen von Auftragnehmern. Bewerter können auf belastende, sexuelle, gewalttätige oder zutiefst persönliche Inhalte stoßen. Verantwortungsvolle Programme benötigen Maßnahmen zum Schutz der psychischen Gesundheit, klare Eskalationsverfahren und realistische Produktivitätserwartungen.

Diese Arbeitsfragen sollten die Datenschutzanalyse ergänzen, nicht ersetzen. Der zentrale Konflikt bleibt OpenAIs Versprechen einer kontrollierten Modellverbesserung gegenüber der Realität eines kontextbezogenen menschlichen Zugriffs.

Was Project Lily noch beweisen muss

Die nächste Phase sollte anhand von Offenlegungen, überprüfbarer Datenschutzleistung und Änderungen an der Prüferoberfläche bewertet werden.

Das erste Signal wäre, ob OpenAI eine direkte Erklärung zu Project Lily veröffentlicht. Eine aussagekräftige Stellungnahme würde beschreiben, welche Gespräche infrage kommen, wie Einwilligungseinstellungen angewendet werden und was Auftragnehmer einsehen können.

Eine Bestätigung des berichteten Arbeitsablaufs würde die Schlussfolgerung stärken, dass menschliche Prüfung ein routinemäßiger Bestandteil der Verbesserung von Verbrauchermodellen ist. Ein eng gefasstes Dementi oder eine wesentliche Korrektur würde Teile der aktuellen Darstellung schwächen.

Schweigen würde dazu führen, dass die Belege von geleakten Materialien und anonymen Aussagen von Beschäftigten abhängen. Dieses Material ist bedeutsam, kann jedoch nicht jede operative Frage beantworten.

Das zweite Signal wäre, ob OpenAI messbare Informationen über Privacy Filter bereitstellt. Nutzer benötigen mehr als die Aussage, dass personenbezogene Daten vor dem Training oder der Prüfung reduziert werden.

Nützliche Nachweise würden Fehlertests über verschiedene Sprachen, ungewöhnliche Identifikatoren, indirekte Verweise und lange Gespräche hinweg umfassen. Eine unabhängige Bewertung hätte mehr Gewicht als eine allgemeine Beschreibung des Unternehmens.

Eine nachweislich niedrige Fehlerquote würde OpenAIs Behauptung stützen, den Zugriff von Prüfern sinnvoll zu begrenzen. Belege für uneinheitliche Schwärzungen würden Forderungen nach engerer Stichprobenziehung und stärkeren Kontrollen verstärken.

Das dritte Signal wäre, ob sich die Prüferoberfläche verändert. Gedächtniszusammenfassungen verdienen besondere Aufmerksamkeit, weil sie Details aus mehreren Gesprächen zusammenführen und eine Re-Identifizierung erleichtern können.

OpenAI könnte diese Zusammenfassungen auf Aufgaben beschränken, die tatsächlich Personalisierungskontext erfordern. Es könnte Prüfern nur das minimal relevante Gedächtnis bereitstellen oder persönliche Details durch abstrakte Kategorien ersetzen.

Auch ein deutlich sichtbarer Hinweis neben der Einstellung zur Modellverbesserung von ChatGPT wäre wichtig. Er sollte klar darlegen, dass ausgewählte Gespräche nach einer Datenschutzverarbeitung menschlich geprüft werden können.

Regulierungsbehörden werden das Verhältnis zwischen diesen Offenlegungen und der tatsächlichen Praxis beobachten. Die FTC hat bereits klargestellt, dass KI-Unternehmen Datenschutzversprechen einhalten und die Verschleierung sekundärer Datennutzungen vermeiden müssen.

Für Nutzer ist die unmittelbare Reaktion einfacher. Überprüfen Sie die Datenschutzkontrollen von ChatGPT, deaktivieren Sie die Modellverbesserung, wenn es angebracht ist, und nutzen Sie Temporary Chat mit einem klaren Verständnis seiner Sicherheitsausnahme.

Übermitteln Sie keine Passwörter, Finanzzugangsdaten, privaten Schlüssel, ungeschwärzten Krankenakten oder vertraulichen Arbeitgeberdaten. Ersetzen Sie Namen und identifizierende Details, bevor Sie Unterstützung anfordern.

Organisationen sollten überprüfen, dass Beschäftigte zugelassene Unternehmensprodukte statt persönlicher Verbraucherkonten verwenden. Außerdem sollten sie dokumentieren, welche Informationskategorien in KI-Systeme gelangen dürfen und welche ausgeschlossen bleiben müssen.

OpenAI Project Lily beweist nicht, dass jedes ChatGPT-Gespräch bei einem Auftragnehmer landet. Es zeigt jedoch, warum eine privat wirkende Oberfläche niemals mit einem privaten Raum verwechselt werden sollte.

Menschliche Prüfung kann Genauigkeit, Tonalität und Sicherheit verbessern. Sie kann jedoch auch den persönlichen Kontext offenlegen, der diese Bewertungen ermöglicht. Die Branche muss diesen Austausch in einer Sprache erklären, die gewöhnliche Nutzer verstehen.

Überprüfen Sie Ihre aktuellen Einstellungen vor Ihrem nächsten sensiblen Gespräch. Stellen Sie dann eine schwierigere Frage: Wäre der Prompt noch akzeptabel, wenn ein geschulter Prüfer ihn ohne Ihren Nutzernamen sähe? Falls die Antwort nein lautet, entfernen Sie den identifizierenden Kontext, wählen Sie ein Produkt mit stärkeren Datenzusagen oder halten Sie das Material außerhalb des Chatbots.