Bundesberufungsgericht schützt eng begrenzte Kategorie KI-generierten Missbrauchsmaterials

Google News verbreitete eine drastische Behauptung: Ein Bundesrichter habe KI-generiertes Material über sexuellen Kindesmissbrauch unter dem Ersten Verfassungszusatz geschützt. Die tatsächliche Entscheidung ist enger gefasst. Am 25. August 2026 schützte ein aus drei Bundesberufungsrichtern bestehendes Gremium ausschließlich den privaten Besitz obszöner virtueller Bilder im eigenen Zuhause, die kein identifizierbares reales Kind darstellen.

Das Urteil legalisierte weder die Herstellung, den Empfang, den Transport noch die Verbreitung solchen Materials. Es wies auch nicht die Vorwürfe zurück, der Angeklagte Steven Anderegg habe einer 15-Jährigen über Instagram KI-generierte sexuelle Bilder übermittelt. Diese Anklagepunkte wegen Herstellung, Verbreitung und Übermittlung sind weiterhin anhängig.

Diese Unterscheidung ist wichtig, weil es in dem Fall nicht einfach darum geht, ob Richter synthetische Missbrauchsbilder gutheißen. Das tun sie eindeutig nicht. Es geht vielmehr darum, ob untere Gerichte zwei bindende Präzedenzfälle des Supreme Court außer Acht lassen dürfen, weil generative KI die ihnen zugrunde liegende Tatsachenlage verändert hat.

Der Seventh Circuit kam zu dem Schluss, dass er diese verfassungsrechtlichen Grenzen nicht neu ziehen könne. Zugleich forderten zwei Richter den Supreme Court auf, sie erneut zu prüfen. Das Ergebnis offenbart einen wachsenden Konflikt zwischen einer vor Jahrzehnten entwickelten Rechtsprechung zur Meinungsfreiheit und Bildgeneratoren, die fotorealistische synthetische Inhalte erzeugen können.

Was die Google-News-Schlagzeile auslässt

Der Seventh Circuit entschied eine einzelne Frage zum Besitz unter einem konkreten Sachverhalt, nicht die Rechtmäßigkeit KI-generierten Missbrauchsmaterials insgesamt.

Der Fall heißt United States v. Steven Anderegg. Nach Angaben der Regierung entdeckte Meta im Oktober 2023 in einer an eine Minderjährige gesendeten Instagram-Direktnachricht mutmaßliches Missbrauchsmaterial. Meta meldete dies dem National Center for Missing and Exploited Children, allgemein bekannt als NCMEC.

Ermittler brachten das Instagram-Konto mit Anderegg in Verbindung, einem Softwareingenieur aus Wisconsin. Bei einer Durchsuchung seiner Geräte wurden angeblich Stable Diffusion und Hunderte generierter Bilder gefunden. Die Regierung räumte ein, dass die angeklagten Bilder kein tatsächliches Kind darstellten und nicht auf ein solches zurückgeführt werden konnten.

Bundesstaatsanwälte klagten Anderegg wegen der Herstellung und Verbreitung obszöner visueller Darstellungen von Minderjährigen an. Außerdem warfen sie ihm vor, solches Material an eine Person unter 16 Jahren übermittelt und es zu Hause besessen zu haben. Die Vorwürfe bleiben Vorwürfe, solange sie nicht vor Gericht bewiesen sind.

Im Februar 2025 stellte Chief U.S. District Judge James Peterson lediglich den Anklagepunkt wegen Besitzes ein. Peterson entschied, dass die Anwendung von 18 U.S.C. Section 1466A(b)(1) auf privaten Besitz unter den bestehenden Präzedenzfällen des Supreme Court gegen den Ersten Verfassungszusatz verstoße.

Die Regierung legte gegen diese Einstellung Berufung ein. Der Seventh Circuit hörte die Argumente am 30. Oktober 2025 und bestätigte die Entscheidung der Vorinstanz am 25. August 2026.

Richter John Z. Lee verfasste die Berufungsentscheidung des Gerichts. Die Richter Michael Kolar und Doris Pryor schlossen sich dem Ergebnis an. Lee und Kolar reichten zudem ein zustimmendes Votum ein, in dem sie den Supreme Court um neue Leitlinien baten.

Die maßgebliche Formulierung lautet „as applied“. Das Gremium hob das Bundesgesetz nicht auf. Es entschied, dass eine Bestimmung verfassungswidrig sei, wenn Staatsanwälte sie unter diesen konkreten Vorwürfen auf Besitz innerhalb der eigenen Wohnung anwenden.

Auch der Ort ist entscheidend. Das Urteil trennt wiederholt den Besitz im Zuhause vom Erwerb, Transport, der Herstellung oder dem Teilen des Materials. Der verfassungsrechtliche Schutz einer Handlung schützt nicht automatisch das Verhalten, das erforderlich ist, um die Dateien zu erhalten oder zu erstellen.

Diese Grenze erklärt, warum das Urteil drei Anklagepunkte unberührt ließ. Wer synthetische sexuelle Bilder erstellt, sie von einer anderen Person herunterlädt, online versendet oder außerhalb des Hauses mit sich führt, steht vor anderen Rechtsfragen.

Die ursprüngliche Anklagemitteilung des Justizministeriums besagte, Anderegg habe mutmaßlich Tausende Bilder erstellt und einige an eine Minderjährige gesendet. Das Berufungsgericht entschied nicht darüber, ob diese Behauptungen zutrafen.

Eine präzisere Google-News-Schlagzeile würde besagen, dass ein Bundesberufungsgericht den privaten Besitz vollständig synthetischer, obszöner Bilder unter bestehendem Präzedenzrecht geschützt habe. Das ist weniger dramatisch, spiegelt aber die Entscheidung wider.

Zwei Supreme-Court-Entscheidungen bestimmten das Ergebnis

Das Gremium verband eine Datenschutzentscheidung von 1969 mit einer Entscheidung zu virtuellen Bildern aus dem Jahr 2002 und wandte beide auf moderne generative KI an.

Der erste Präzedenzfall war Stanley v. Georgia. Polizisten, die Robert Stanleys Wohnung nach Beweisen für illegale Wettgeschäfte durchsuchten, fanden und betrachteten mehrere Filmrollen. Georgia verfolgte ihn wegen des Besitzes obszönen Materials strafrechtlich.

1969 hob der Supreme Court die Verurteilung auf. Seine Stanley-Entscheidung begründete einen eng begrenzten verfassungsrechtlichen Schutz für den Besitz obszönen Materials in der Privatsphäre des eigenen Zuhauses.

Stanley begründete kein allgemeines Recht, obszönes Material zu kaufen, einzuführen, zu transportieren oder zu verbreiten. Spätere Entscheidungen begrenzten seine Reichweite. Sein Schutz für Besitz innerhalb des Zuhauses blieb jedoch im Fall Anderegg wichtig.

Material über tatsächlichen sexuellen Kindesmissbrauch fällt nicht unter diese Regel. Der Supreme Court hat Regierungen erlaubt, dessen Besitz zu verbieten, weil seine Herstellung einem realen Kind zwangsläufig schadet. Die fortgesetzte Verbreitung dokumentiert und verstärkt zudem den Missbrauch dieses Kindes.

Der zweite maßgebliche Fall, Ashcroft v. Free Speech Coalition, behandelte virtuelle Darstellungen. Der Kongress hatte das Bundesrecht auf Bilder ausgeweitet, die Minderjährige zu zeigen schienen, selbst wenn an ihrer Herstellung kein reales Kind beteiligt war.

Der Supreme Court erklärte Teile dieses Gesetzes 2002 für ungültig. Seine Entscheidung zu virtuellen Bildern unterschied synthetische Darstellungen von Aufzeichnungen, die durch den Missbrauch tatsächlicher Kinder entstanden waren.

Die Regierung führte mehrere Gründe für die Regulierung virtuellen Materials an. Sie argumentierte, solche Bilder könnten Grooming erleichtern, spätere Straftaten fördern, die Nachfrage aufrechterhalten und die Identifizierung authentischen Missbrauchsmaterials erschweren.

Der Supreme Court befand diese Zusammenhänge nach dem damals vorliegenden Gesetz für zu indirekt. Er lehnte außerdem ab, geschützte Ausdrucksformen allein deshalb zu unterdrücken, weil sie rechtswidrigem Material ähnelten.

Der Kongress reagierte 2003 mit dem PROTECT Act. Das Gesetz verbot obszöne visuelle Darstellungen von Minderjährigen und erfasste ausdrücklich computergenerierte Bilder, selbst wenn die dargestellte minderjährige Person nicht existierte.

Diese Überarbeitung löste ein Problem des früheren Gesetzes. Sie verknüpfte das Verbot mit dem verfassungsrechtlichen Test für Obszönität. Der rechtliche Status von Obszönität verändert sich jedoch weiterhin, wenn der Besitz vollständig innerhalb eines Zuhauses stattfindet.

Die Regierung sah sich in Anderegg daher mit einer schwierigen Kombination konfrontiert. Stanley schützte den Besitz obszönen Materials zu Hause. Free Speech Coalition verwarf mehrere Begründungen dafür, vollständig virtuelle Darstellungen wie Material zu behandeln, an dem tatsächliche Kinder beteiligt sind.

Die Staatsanwälte argumentierten, aktuelle KI-Systeme machten die alten Unterscheidungen weniger praktikabel. Das Gremium erkannte diese Sorge an, hielt sie rechtlich jedoch für unzureichend. Untere Bundesgerichte müssen Entscheidungen des Supreme Court befolgen, bis der Supreme Court sie ändert.

Diese Bindung ist die zentrale Spannung des Urteils. Die Richter erklärten nicht, das Material sei harmlos. Sie kamen zu dem Schluss, dass technologischer Wandel allein sie nicht dazu ermächtige, die verfassungsrechtliche Doktrin zu überarbeiten.

Das Gericht betonte auch, was die Regierung eingeräumt hatte. Beim Anklagepunkt wegen Besitzes stützten sich die Staatsanwälte auf Material, das in Andereggs Zuhause aufbewahrt wurde. Sie baten das Gericht nicht darum, zu entscheiden, ob Stanley dessen Transport oder Empfang schütze.

Die Regierung räumte ferner ein, dass die relevanten Bilder nicht mit realen Kindern in Verbindung gebracht werden konnten. Dieses Zugeständnis beseitigte die etablierteste Begründung dafür, das Material als kategorisch ungeschützt zu behandeln.

Das Gremium dehnte den Schutz nicht auf manipulierte Bilder identifizierbarer Minderjähriger aus. Wenn ein Foto eines realen Kindes zu einem sexuellen Bild verändert wird, kann dieses Kind unmittelbaren und fortdauernden Schaden erleiden. Bestehende Präzedenzfälle behandeln solche Fälle anders.

Google-News-Zusammenfassungen können diese vielschichtige Analyse zu einer irreführenden Aussage verdichten. Die verfassungsrechtliche Grenze verläuft nicht zwischen „guten“ und „schlechten“ Bildern. Sie hängt von realen Opfern, Obszönität, dem Ort und dem konkret strafrechtlich verfolgten Verhalten ab.

Der eigentliche Konflikt lautet alte Doktrin gegen neue Belege

Generative KI hat die tatsächlichen Annahmen hinter dem Präzedenzrecht geschwächt, doch die Regierung lieferte dem Seventh Circuit keine neue rechtliche Brücke.

Im Jahr 2002 waren computergenerierte Bilder deutlich weniger zugänglich und überzeugend. Heute können herunterladbare Bildmodelle auf persönlicher Hardware laufen. Nutzer können sie verändern, spezialisierte Komponenten hinzufügen und große Mengen erzeugen, ohne auf einen gehosteten Dienst angewiesen zu sein.

Nach Angaben der Staatsanwaltschaft nutzte Anderegg Stable Diffusion lokal. Sie warf ihm vor, zusätzliche Komponenten installiert und Text-Prompts verfeinert zu haben, um Erwachsene aus den Ergebnissen auszuschließen. Das Berufungsgericht behandelte die Vorwürfe der Anklageschrift bei der Überprüfung des eingestellten Anklagepunkts als wahr.

Lokale Generierung verändert die Bedingungen der Durchsetzung. Eine Plattform sieht möglicherweise weder Prompt, Ergebnis noch Modellveränderungen. Cloud-Moderationssysteme können Aktivitäten nicht prüfen, die niemals die Server eines Anbieters erreichen.

Sie stellt auch die Annahme infrage, dass vollständig synthetische Bilder keinerlei Verbindung zu geschädigten Kindern haben. Moderne Modelle lernen statistische Muster aus großen Trainingsdatensätzen. Forschende haben mutmaßliches Missbrauchsmaterial in Datensätzen gefunden, die von Bildgenerierungssystemen verwendet wurden.

Das belegt nicht, dass jedes generierte Ergebnis ein konkretes Opfer darstellt. Es beweist auch nicht, dass ein bestimmtes Ergebnis ein bestimmtes Trainingsbild reproduziert. Es verkompliziert jedoch die klare Trennung zwischen virtuellen Inhalten und Ausbeutung in der realen Welt.

Richter Lees zustimmendes Votum konzentrierte sich auf diese Lücke. Er schrieb, der Supreme Court könne in einem geeigneten Fall hilfreiche Leitlinien zur Schnittstelle zwischen dem Ersten Verfassungszusatz und virtuellem Missbrauchsmaterial geben.

Das Votum merkte auch an, dass synthetische Bilder praktisch nicht mehr von authentischen Beweismitteln zu unterscheiden sein können. Das schafft einen anderen Schaden als den, der in älteren Fällen betrachtet wurde.

Ermittler nutzen traditionell visuelle Details, Metadaten, Hashes bekannter Bilder und begleitende Kommunikation, um Opfer zu identifizieren. Ein Hash ist ein digitaler Fingerabdruck, der Plattformen hilft, bereits als missbräuchlich bestätigte Dateien zu erkennen.

Neue KI-Ergebnisse stimmen nicht unbedingt mit bekannten Hashes überein. Ihr Realismus kann Ermittler dazu zwingen, Zeit darauf zu verwenden, festzustellen, ob das dargestellte Kind existiert. Jede überzeugende synthetische Datei kann zu einem weiteren Hinweis werden, der überprüft werden muss.

NCMEC erklärt, dass das Ausmaß rasch zugenommen hat. Seine jüngsten KI-Daten besagen, dass Mitarbeitende zwischen Januar 2023 und Dezember 2025 mehr als 158.000 eingereichte Bilder und Videos als KI-generiert kategorisierten.

Elektronische Dienstanbieter kennzeichneten in diesem Zeitraum nur etwas mehr als 11.000 Dateien als KI-generiert. Dieser Unterschied deutet darauf hin, dass Plattformen mutmaßlich synthetisches Material vor der Übermittlung von Meldungen häufig nicht erkennen oder nicht korrekt kennzeichnen.

NCMEC meldete außerdem mehr als 182.000 CyberTipline-Meldungen im Jahr 2025, die Versuche zur Erstellung solchen Materials oder den Besitz KI-generierten Materials betrafen. Eine Meldung ist kein Beweis für eine Straftat, doch das Volumen zeigt die operative Belastung.

Diese Zahlen liefern der Regierung eine stärkere Tatsachengrundlage als im Jahr 2002. Synthetische Inhalte können Ermittlungsressourcen binden, authentische Beweise verschleiern und die Identifizierung von Opfern erschweren.

Stärkere Beweise führen jedoch nicht automatisch zu einem weiter gefassten strafrechtlichen Verbot. Einschränkungen nach dem First Amendment erfordern in der Regel eine enge Verbindung zwischen der regulierten Äußerung und dem nachgewiesenen Schaden.

Der Seventh Circuit erklärte, Staatsanwälte hätten weitgehend Argumente wiederholt, die in Free Speech Coalition bereits zurückgewiesen worden seien. Die Regierung machte geltend, virtuelles Material könne Grooming fördern, Missbrauch normalisieren und Märkte stützen, an denen echte Opfer beteiligt seien.

Das Gerichtsgremium bewertete den vorgelegten Zusammenhang zwischen privatem Besitz und tatsächlichem Missbrauch als nicht schlüssig. Es stellte fest, dass der Supreme Court Raum für eine deutlich stärkere und direktere Verbindung gelassen habe, kam jedoch zu dem Schluss, dass die Regierung eine solche hier nicht nachgewiesen habe.

Damit wird das Urteil über eine einzelne Strafberufung hinaus bedeutsam. Forschung, Meldesysteme und forensische Beweise müssen nun mehr leisten, als weit verbreitete Besorgnis zu belegen. Sie müssen Gerichten helfen, einen verfassungsrechtlich ausreichenden Kausalzusammenhang festzustellen.

Das setzt Staatsanwälte und Forschende im Bereich Kinderschutz unter Druck. Sie benötigen Belege dafür, wie synthetisches Material das Tatverhalten, Grooming, Menschenhandelsmärkte und die Auffindung tatsächlicher Opfer beeinflusst.

Es setzt auch KI-Entwickler unter Druck. Bessere Herkunftsnachweise, Sicherheitsfilter, Datensatzprüfungen und Meldepraktiken können helfen, synthetische Ausgaben von authentischen Beweisen zu unterscheiden. Lokal modifizierte offene Modelle können jedoch außerhalb dieser Kontrollen betrieben werden.

Das Urteil des Gerichts löst dieses technische Problem nicht. Es zeigt, dass das Rechtssystem bessere Beweise und präzisere gesetzliche Instrumente benötigt, um damit umzugehen.

Schutz für Besitz ist keine Erlaubnis zur Herstellung

Der praktische Umfang der Entscheidung bleibt eng, weil nahezu jeder Weg zum Besitz eigenständiges Verhalten umfasst, das durch das Urteil nicht geschützt wurde.

Riana Pfefferkorn, Policy Fellow am Stanford Institute for Human-Centered Artificial Intelligence, benannte diese Grenze in Berichten nach der Entscheidung. Eine Person muss Material in der Regel herstellen, erhalten oder transportieren, bevor sie es privat besitzen kann.

Diese begleitenden Handlungen können unterschiedliche Anklagepunkte begründen. Das Herunterladen von Dateien von einem Drittanbieter umfasst den Empfang und möglicherweise eine zwischenstaatliche Übertragung. Das Teilen umfasst Verbreitung. Das Erzeugen kann bundes- oder einzelstaatliche Vorschriften zur Herstellung berühren.

Auch das Mitnehmen eines Geräts mit obszönem Material aus der Wohnung kann die rechtliche Bewertung verändern. Stanley schützt den Besitz innerhalb der Wohnung, nicht ein allgemeines Recht, Obszönitäten über öffentliche oder kommerzielle Kanäle zu transportieren.

Diese Unterscheidung spielte bereits in einer anderen Bundesstrafverfolgung eine Rolle. Ein Gericht in Ohio wies eine ähnliche verfassungsrechtliche Anfechtung zurück, nachdem Staatsanwälte behauptet hatten, Material sei heruntergeladen und auf einem Telefon gespeichert worden, das die Wohnung des Angeklagten verlassen habe.

Die verbleibenden Anklagepunkte gegen Anderegg verdeutlichen dieselbe Grenze. Staatsanwälte können Vorwürfe der Herstellung, Verbreitung und Weitergabe an Minderjährige weiterverfolgen. Der Seventh Circuit äußerte sich nicht dazu, ob die Regierung diese Vorwürfe beweisen wird.

Die Entscheidung schließt auch synthetische Bilder aus, die auf identifizierbaren Kindern beruhen. Sogenanntes morphiertes Material verwendet ein harmloses Foto einer realen Person und verändert es digital zu sexuellem Inhalt.

Ein echtes Kind erleidet in dieser Situation Rufschädigungen, psychische Belastungen und fortdauernde Schäden durch die Verbreitung. Gerichte haben diesen Zusammenhang als wesentlich anders anerkannt als eine vollständig fiktive Darstellung.

Das Urteil betrifft auch keine Strafverfolgungen wegen authentischen Missbrauchsmaterials. Wenn ein Bild die Ausbeutung eines realen Kindes dokumentiert, bleiben dessen Besitz und Verbreitung nach geltendem Bundesrecht strafbar.

Ebenso schafft die Entscheidung keine Immunität für Grooming. Kommunikation, die darauf abzielt, Minderjährige zu verführen, anzusprechen oder auszubeuten, unterliegt weiterhin eigenen Gesetzen. Sexuelles Material unmittelbar an ein Kind zu senden, ist nicht gleichbedeutend damit, eine Datei in einer privaten Wohnung aufzubewahren.

Frühere Berichte zur Strafverfolgung dokumentierten, wie Staatsanwälte bereits vollständig synthetische Inhalte von veränderten Bildern identifizierbarer Kinder trennten. Die rechtlichen Instrumente unterscheiden sich, weil sich auch die Belege für Schäden unterscheiden.

Gesetze der Bundesstaaten fügen eine weitere Ebene hinzu. Gesetzgeber haben Regelungen zu KI-generierten oder digital veränderten sexuellen Bildern von Minderjährigen erlassen. Ihr Wortlaut, die erforderlichen Beweise und ihre verfassungsrechtliche Angreifbarkeit unterscheiden sich.

Ein Bundesstaat kann den First Amendment nicht allein dadurch umgehen, dass er Inhalte als schädlich bezeichnet. Weit gefasste Gesetze zu fiktiven Darstellungen können weiterhin unter Free Speech Coalition angefochten werden.

Gezieltere Gesetze haben eine stärkere Grundlage. Sie können sich auf identifizierbare Opfer, nicht einvernehmliche Veränderung, Verbreitung, Anbahnung, täuschende Darstellung oder auf Minderjährige gerichtetes Verhalten konzentrieren.

Auch der Kongress kann Bundesrecht überarbeiten, steht dabei jedoch vor denselben verfassungsrechtlichen Grenzen. Ein neues Gesetz benötigt Beweise und eine enge Ausgestaltung. Ein vom Supreme Court bereits zurückgewiesenes Verbot zu wiederholen, würde eine weitere Anfechtung provozieren.

Deshalb überzeichnet die Schlagzeile „KI-generiertes CSAM ist geschützt“ das Ergebnis. Das Gremium schützte eine Form des Besitzes unter einer bestimmten Kombination von Präzedenzfällen und zugestandenen Tatsachen.

Die Entscheidung bietet weder Online-Plattformen noch Modellentwicklern einen sicheren Hafen. Unternehmen unterliegen weiterhin Meldepflichten, vertraglichen Verpflichtungen, App-Store-Richtlinien und möglichen Haftungsrisiken nach anderen Gesetzen.

Sie gibt Nutzern auch keine praktische Sicherheit. Eine Person kann nicht zuverlässig wissen, ob ein Bild vollständig synthetisch ist, von einem realen Kind abgeleitet wurde, über rechtliche Grenzen hinweg transportiert oder außerhalb der Wohnung aufbewahrt wurde.

Die rechtliche Einordnung hängt von Beweisen ab, über die Ermittler und Angeklagte streiten können. Fotorealismus macht diese Klassifizierung schwieriger, nicht sicherer.

KI-Plattformen stehen vor einem Test bei Erkennung und Herkunftsnachweis

Das Urteil erhöht den Wert von Beweisen, die zeigen, woher ein Bild stammt, wie es erstellt wurde und ob eine reale Person dazu beigetragen hat.

Der Bericht von Meta leitete die Ermittlungen gegen Anderegg ein. Die Plattform soll über Instagram versandtes Material erkannt und Informationen an NCMEC weitergegeben haben. Dieser Ablauf zeigt, was zentralisierte Dienste leisten können, wenn Aktivitäten über ihre Systeme laufen.

Gehostete KI-Dienste können Prompts prüfen, unzulässige Anfragen blockieren, wiederholte Missbrauchsmuster überwachen und relevante Aufzeichnungen aufbewahren. Sie können zudem mutmaßliche Ausbeutung melden, wenn Bundesrecht dies verlangt.

Lokale Modelle stellen eine andere Herausforderung dar. Sobald Modellgewichte auf einem persönlichen Computer laufen, hat der ursprüngliche Entwickler möglicherweise keine Einblicke mehr in spätere Änderungen oder Ausgaben. Nutzer können Komponenten hinzufügen, die Sicherheitsbeschränkungen entfernen.

Der Darstellung des Gerichts zufolge untersuchten Ermittler Prompts, installierte Software, erzeugte Dateien, Nachrichten und Geräte. Diese Begleitumstände ermöglichten es Staatsanwälten, Herstellung von Besitz zu unterscheiden.

Künftige Fälle werden zunehmend von dieser forensischen Spur abhängen. Ein erzeugtes Bild allein kann möglicherweise nicht erkennen lassen, ob es vollständig synthetisch ist, von einem realen Kind morphiert wurde oder aus missbräuchlichem Referenzmaterial hervorging.

Herkunftssysteme können Informationen über den Ursprung und die Bearbeitungsgeschichte eines Bildes anfügen. Wasserzeichen, kryptografische Nachweise und signierte Metadaten können helfen, auch wenn keine dieser Lösungen vollständig ist.

Metadaten können entfernt werden. Screenshots können Herkunftsketten unterbrechen. Offene Modelle können Signaturwerkzeuge weglassen. Entschlossene Täter können zudem Systeme nutzen, die diese Standards nie umgesetzt haben.

KI-Erkennungsmodelle schaffen eine weitere Unsicherheit. Sie können einschätzen, ob ein Bild generiert wurde, doch falsch-positive und falsch-negative Ergebnisse begrenzen ihren Einsatz als abschließender Beweis.

Eine falsche Einstufung als synthetisch könnte dazu führen, dass Ermittler ein reales Opfer übersehen. Eine falsche Einstufung als authentisch könnte Ressourcen auf die Identifizierung einer Person lenken, die nie existiert hat.

Der nützlichste Ansatz kombiniert Signale. Ermittler können Modellartefakte, Geräteeinträge, Prompt-Verläufe, Kommunikation, Abgleiche mit bekannten Bildern und Beweise zur Identifizierung einer realen Person untersuchen.

Auch Plattformen benötigen klarere Meldefelder. Die Zahlen von NCMEC zeigen eine große Lücke zwischen Dateien, die dessen Mitarbeitende als KI-generiert einstuften, und solchen, die von meldenden Unternehmen so gekennzeichnet wurden.

Bessere Kennzeichnungen können bei der Priorisierung von Meldungen helfen. Sie sollten angeben, ob eine Datei vollständig synthetisch erscheint, ein identifizierbares Kind zeigt, ein bestehendes Foto verändert oder einen ungewissen Ursprung hat.

Ungewissheit darf nicht zu einer Ausrede werden, eine Meldung zu unterdrücken. Die Sicherheit eines realen Kindes muss Vorrang haben, wenn die Beweislage mehrdeutig bleibt. Strukturierte Meldungen können knappe Ermittlungsressourcen jedoch wirksamer lenken.

Trainingsdaten schaffen ein zusätzliches Herkunftsproblem. Wenn ein Modell aus rechtswidrigem Material gelernt hat, können synthetische Ausgaben indirekt mit realer Ausbeutung verbunden sein, selbst wenn keine Ausgabe ein einzelnes Opfer reproduziert.

Der Seventh Circuit entschied diese Frage nicht. Das Sondervotum erwähnte Forschung zu mutmaßlich missbräuchlichen Bildern in einem großen Trainingsdatensatz, doch die Regierung stützte ihre Berufung nicht auf einen nachgewiesenen Zusammenhang mit Trainingsdaten.

Künftige Verfahren können prüfen, ob dieser Zusammenhang die verfassungsrechtliche Analyse verändert. Dafür wären konkrete Beweise zum Modell, Datensatz, Output und den jeweiligen Schäden erforderlich.

Entwickler stehen daher sowohl durch Sicherheitsrichtlinien als auch durch Rechtsstreitigkeiten unter Druck. Datensatzprüfungen, dokumentierte Verfahren zur Entfernung, Zugriffskontrollen und missbrauchsresistentes Modelldesign können die Beweise beeinflussen, die Gerichten zur Verfügung stehen.

Das Urteil stellt auch weit gefasste Behauptungen infrage, dass Filter allein das Problem lösen. Beschränkungen in einem aktuellen gehosteten Produkt bewirken wenig bei älteren Gewichten, die bereits auf persönlichen Computern zirkulieren.

Stability AI teilte Reportern mit, das Unternehmen lehne Missbrauch ab und habe in Schutzmaßnahmen investiert. Diese Unternehmensangaben belegen nicht unabhängig, wie wirksam die Maßnahmen über Modellversionen und lokale Änderungen hinweg sind.

Die schwierigere politische Frage betrifft die Verteilungsarchitektur. Offenheit unterstützt Forschung, Anpassung und unabhängige Entwicklung. Sie kann jedoch auch die Kontrolle eines Entwicklers nach der Veröffentlichung verringern.

Dieser Zielkonflikt macht offene Modelle nicht einzigartig für Missbrauch verantwortlich. Auch gehostete Systeme werden missbraucht. Er bedeutet jedoch, dass Sicherheitszusagen bei verschiedenen Bereitstellungsmodellen unterschiedliche Überprüfungsmethoden erfordern.

Google News-Leser sollten die Entscheidung ebenso als Fall zu Herkunftsnachweisen wie als Fall zur Meinungsfreiheit verstehen. Die Fähigkeit, ein Bild mit einem realen Kind, einer Trainingsquelle, einer Übertragung oder einer Herstellungshandlung zu verbinden, bestimmt, welche Rechtsregeln gelten.

Was nach der First-Amendment-Entscheidung geschieht

Drei Entwicklungen werden bestimmen, ob Anderegg eine enge Ausnahme bleibt oder zum Fall wird, der neue nationale Regeln erzwingt.

Das erste Signal ist ein Antrag auf Überprüfung durch den Supreme Court. Das Justizministerium kann die Richter bitten, den Fall nach dem Verlust der Berufung anzunehmen.

Eine Überprüfung erfolgt nicht automatisch. Der Supreme Court nimmt nur einen kleinen Anteil der Anträge an und wartet häufig auf Meinungsverschiedenheiten zwischen bundesstaatlichen Berufungsgerichten. Das Sondervotum bat jedoch ausdrücklich um Orientierung zu modernen KI-Fähigkeiten.

Nimmt das Gericht den Fall an, wird die zentrale Frage sein, ob technologische Veränderungen den Zusammenhang zwischen virtuellen Bildern und Schäden für tatsächliche Kinder verstärkt haben. Eine Annahme würde Anderegg von einer regionalen Berufungsentscheidung zu einem nationalen verfassungsrechtlichen Prüfstein machen.

Eine Ablehnung würde nicht jeden Teil der Begründung des Seventh Circuit billigen. Sie würde das Urteil innerhalb des Gerichtsbezirks bestehen lassen und die Unsicherheit andernorts bewahren.

Das zweite Signal ist der Umgang der Regierung mit den verbleibenden Anklagepunkten. Vorwürfe der Herstellung, Verbreitung und Weitergabe werden vor dem Bezirksgericht weiterverfolgt.

Eine Verurteilung in diesen Anklagepunkten würde die begrenzte praktische Wirkung des Urteils unterstreichen. Sie würde zeigen, dass Staatsanwälte schädliches Verhalten verfolgen können, ohne sich allein auf Besitz zu stützen.

Ein Freispruch, eine Einstellung oder erhebliche Beweisprobleme würden dagegen eine größere Vollzugslücke offenlegen. Ein solches Ergebnis würde den Druck auf den Kongress erhöhen, das Gesetz zu überarbeiten, und Ermittler dazu drängen, die Nachweise zur Herkunft zu verbessern.

Das dritte Signal ist, ob Gesetzgeber gezielte Regeln entwickeln, die durch stärkere Forschung gestützt werden. Wirksame Gesetze müssen vollständig synthetische Dateien von Bildern unterscheiden, die mit identifizierbaren Kindern verbunden sind.

Sie müssen außerdem zwischen Besitz und Erstellung, Empfang, Verbreitung, Anbahnung und direkter Kommunikation mit Minderjährigen unterscheiden. Jede Handlung bringt unterschiedliche Schäden und verfassungsrechtliche Erwägungen mit sich.

Beweise werden ebenso wichtig sein wie die Formulierung. Gesetzgeber benötigen verlässliche Erkenntnisse über den Ermittlungsaufwand, das Verhalten von Tätern, die Auswirkungen auf Opfer, Trainingsdaten und Marktverbindungen.

Die NCMEC-Meldelücke bietet einen messbaren Maßstab. Eine verbesserte Plattformkennzeichnung sollte zu mehr verwertbaren Hinweisen führen und den Zeitaufwand für die Klassifizierung unklarer Dateien verringern.

Forscher sollten außerdem untersuchen, ob synthetisches Material authentisches Material verdrängt, die Nachfrage erhöht, Grooming unterstützt oder Straftaten eskalieren lässt. Gerichte werden kausale Behauptungen genau prüfen, statt sich allein auf Intuition zu verlassen.

Das Thema erfordert Präzision, weil reißerische Zusammenfassungen sowohl die Gefahr als auch das Urteil verzerren. Zu behaupten, Richter hätten KI-generiertes Missbrauchsmaterial legalisiert, verschleiert die weiterhin bestehenden Strafvorwürfe und die strenge Standortvoraussetzung der Entscheidung.

Ebenso irreführend ist die Aussage, der Fall werfe keine Vollzugsprobleme auf. KI hat synthetische Bilder realistischer gemacht, sie lassen sich leichter privat erzeugen und sind schwerer von Beweismitteln zu unterscheiden, die echte Opfer betreffen.

Die Richter erkannten diesen Konflikt an. Ihre Schlussfolgerung war institutioneller Natur: Der Präzedenzfall des Supreme Court band sie, und nur der Supreme Court konnte die maßgebliche verfassungsrechtliche Regel ändern.

Für Entwickler, Sicherheitsteams und Online-Plattformen ist es keine Strategie, auf diese Änderung zu warten. Sie können die Kontrollen von Datensätzen verbessern, angemessene forensische Aufzeichnungen aufbewahren, die Qualität von Meldungen stärken und Schutzmaßnahmen sowohl für gehostete als auch für herunterladbare Systeme entwickeln.

Für Leser, die die Geschichte über Google News verfolgen, besteht der beste nächste Schritt darin, die Gerichtsakte statt der Schlagzeile zu beobachten. Achten Sie auf einen Antrag beim Supreme Court, den Ausgang der verbleibenden Anklagepunkte und konkrete Gesetzesvorschläge. Diese Ereignisse werden zeigen, ob sich das Recht an generative KI anpasst oder lediglich dokumentiert, wie weit es hinter ihr zurückgefallen ist.