Kaliforniens Social-Media-Gesetze für Jugendliche stellen KI-Chatbots und süchtig machende Feeds unter neue Regeln
Kaliforniens Social-Media-Gesetze für Jugendliche stellen nun zwei einflussreiche Technologien unter ein gemeinsames Kinderschutz-Regelwerk – trotz Einwänden von Datenschutz- und Technologieverbänden. Gouverneur Gavin Newsom unterzeichnete am 10. September 2026 13 damit zusammenhängende Gesetze. Das Paket beschränkt süchtig machende Plattformfunktionen für Nutzer unter 16 Jahren und schreibt detaillierte Schutzmaßnahmen für von Minderjährigen genutzte Begleit-Chatbots vor.
Die Gesetze gehen in Kalifornien über Warnhinweise und Eltern-Dashboards hinaus. Sie regulieren Produktgestaltung, verlangen altersbezogene Entscheidungen, schaffen neue Prüfpflichten und erhöhen die potenzielle Haftung von Unternehmen. Social-Media-Plattformen müssen personalisierte Feeds und Autoplay neu bewerten. Betreiber von Chatbots müssen vorhersehbare Risiken vor der Einführung oder wesentlichen Änderung ihrer Produkte bewerten.
Daraus ergibt sich der zentrale Konflikt. Kalifornien verlangt von Unternehmen, junge Nutzer zu identifizieren und riskante Funktionen zu entfernen, bevor Schaden entsteht. Kritiker argumentieren, die erforderliche Altersabsicherung könne Privatsphäre und rechtmäßigen Zugang für alle Nutzer beeinträchtigen. Meta hält zudem daran fest, dass Personalisierung Jugendlichen helfen kann, relevante Menschen und Interessen zu finden, wenn geeignete Schutzmaßnahmen vorhanden sind.
Das Ergebnis ist kein pauschales Verbot von Technologie für Jugendliche. Es handelt sich um eine staatlich gelenkte Neugestaltung der Art und Weise, wie Engagement, Speicherfunktionen, Werbung und emotionale Interaktion für Minderjährige funktionieren. Ob diese Neugestaltung rechtlichen Anfechtungen standhält, wird bestimmen, wie weit sich Kaliforniens Modell verbreitet.
Kaliforniens Social-Media-Gesetze für Jugendliche verändern die Produktgestaltung
Kalifornien reguliert die Mechanismen des Engagements selbst, nicht nur die Inhalte, die über sie erscheinen.
Newsoms Kinderschutzpaket umfasst soziale Medien, KI-Begleiter, Schulgeräte, Schülerdaten, Online-Ausbeutung und digitales Wohlbefinden. Die beiden zentralen Maßnahmen sind Assembly Bill 1709 und Senate Bill 1119, bekannt als Adam’s Law.
AB 1709 verbietet erfassten Plattformen, kalifornischen Nutzern unter 16 Jahren süchtig machende Funktionen bereitzustellen. Die Definition umfasst Autoplay und einen süchtig machenden Feed. Ein solcher Feed empfiehlt oder priorisiert nutzergenerierte Medien anhand von Informationen, die mit einer Person oder einem Gerät verbunden sind.
Die Unterscheidung ist wichtig, weil die Maßnahme einem jungen Teenager nicht automatisch verbietet, ein Konto zu unterhalten. Eine Plattform kann ein Konto für unter 16-Jährige beibehalten, wenn sie die verbotenen Funktionen entfernt. Ein chronologischer Feed auf Grundlage ausdrücklich gewünschter Konten könnte verfügbar bleiben, sofern er die Bedingungen des Gesetzes erfüllt.
Diese Struktur zielt auf das System ab, das Inhalte auswählt und fortlaufend präsentiert. Im Fokus stehen Signale wie der Verlauf angesehener Inhalte, frühere Interaktionen und Profildaten. Diese Signale helfen Plattformen vorherzusagen, was eine Person zum Zuschauen, Scrollen oder Wiederkommen bewegt.
Das Gesetz betrifft zudem mehr als Dienste, die formell als soziale Netzwerke bezeichnet werden. Eine erfasste Plattform kann eine Website, einen Onlinedienst oder eine mobile Anwendung umfassen, bei denen süchtig machende Funktionen einen wesentlichen Teil des Dienstes ausmachen. Websites für kommerzielle Transaktionen, Bewertungsdienste und Cloud-Speicher-Feeds sind ausdrücklich ausgenommen.
Bevor eine süchtig machende Funktion angeboten wird, muss eine erfasste Plattform das Alter eines Nutzers über Kaliforniens bestehendes Rahmenwerk zur Altersabsicherung überprüfen. Erkennt das System eine Person unter 16 Jahren, muss das Unternehmen diese Funktionen vorenthalten oder das Konto samt zugehörigen Informationen löschen.
Der Text von AB 1709 ermächtigt Staatsanwälte, zivilrechtliche Strafen zu beantragen. Ein vorsätzlicher Verstoß kann mit bis zu 50.000 US-Dollar pro betroffenem Minderjährigen geahndet werden. Bei fahrlässigen Verstößen sind bis zu 25.000 US-Dollar pro betroffenem Minderjährigen möglich.
Eine separate Maßnahme, AB 2, erhöht die möglichen Kosten, wenn eine große soziale Plattform einem Kind fahrlässig Schaden zufügt. Sie schafft gesetzliche Schadensersatzansprüche von 5.000 US-Dollar pro Verstoß, begrenzt auf 1 Million US-Dollar pro Kind oder das Dreifache des tatsächlichen Schadens. Das Gesetz gilt für Plattformen mit mehr als 100 Millionen US-Dollar Jahresbruttoumsatz.
Diese Bestimmungen machen nicht jede negative Online-Erfahrung einklagbar. Kläger müssen weiterhin die erforderlichen rechtlichen Voraussetzungen nachweisen, darunter einen Schaden und die Verletzung der gewöhnlichen Sorgfaltspflicht. Die höheren möglichen Schadensersatzsummen verschärfen jedoch die Folgen, wenn ein Gericht eine solche Pflichtverletzung feststellt.
Das Paket verbindet damit Prävention und Haftung. AB 1709 legt fest, welche Engagement-Systeme Plattformen jüngeren Nutzern nicht anbieten dürfen. AB 2 erhöht den finanziellen Einsatz, wenn die Fahrlässigkeit einer großen Plattform zu einer Verletzung eines Kindes führt.
Diese Kombination setzt Unternehmen unter Druck, Gestaltungsentscheidungen zu dokumentieren, bevor ein Rechtsstreit beginnt. Produktteams werden Nachweise benötigen, wie sie Minderjährige identifizieren, Funktionen beschränken und reagieren, wenn Schutzmaßnahmen versagen. Eine Seite mit Elternkontrollen allein wird diese Fragen nicht beantworten.
Adam’s Law behandelt KI-Begleitung als Sicherheitssystem
Adam’s Law geht davon aus, dass ein emotional reagierender Chatbot Schutzmaßnahmen benötigt, die eher einem sicherheitskritischen Dienst als einem gewöhnlichen Unterhaltungsprodukt entsprechen.
SB 1119 gilt für Begleit-Chatbots, also Systeme, die darauf ausgelegt sind, Gesprächsbeziehungen aufrechtzuerhalten, statt einzelne Anfragen zu beantworten. Es baut auf Kaliforniens bestehender Vorgabe auf, wonach Chatbots ihre künstliche Natur offenlegen und Protokolle für Inhalte zu Suizid oder Selbstverletzung vorhalten müssen.
Ab dem 1. Juli 2027 müssen Betreiber dokumentierte Kinderschutz-Risikobewertungen durchführen, bevor sie in Kalifornien einen neuen oder wesentlich veränderten Begleit-Chatbot veröffentlichen. Eine wesentliche Änderung ist ein Update, das die Funktionalität oder Leistung des Systems erheblich verändert.
Die Bewertung muss vernünftigerweise vorhersehbare physische, finanzielle, psychologische, emotionale, datenschutzbezogene und diskriminierende Schäden berücksichtigen. Betreiber müssen ihre Bewertungsmethoden beschreiben und einschlägige öffentliche Benchmarks oder Forschungsergebnisse benennen. Zudem müssen sie Maßnahmen zur Minderung identifizierter Risiken dokumentieren.
Der Text von Adam’s Law eröffnet Betreibern eine Wahlmöglichkeit. Sie können das Alter der Nutzer bestimmen und kinderspezifische Schutzmaßnahmen anwenden. Alternativ können sie die meisten dieser Schutzmaßnahmen auf alle Nutzer ausdehnen, wenn verlässliche Altersinformationen weiterhin nicht verfügbar sind.
Diese Wahl verknüpft die Chatbot-Regeln mit der umfassenderen Datenschutzdebatte. Ein Betreiber kann Altersinformationen erheben oder erhalten und die Nutzungserfahrung anschließend segmentieren. Er kann aber auch allgemein sicherere Voreinstellungen einsetzen und damit den Bedarf verringern, Kinder von Erwachsenen zu unterscheiden.
Für bekannte minderjährige Nutzer schreibt das Gesetz Verfahren für Krisenreaktionen vor. Erkennt ein Betreiber eine glaubhafte und unmittelbar bevorstehende Gefahr von Suizid oder Selbstverletzung, muss er mindestens eine vorgeschriebene Maßnahme ergreifen. Dazu kann die Benachrichtigung eines verknüpften Elternteils gehören, sofern diese Benachrichtigung keine ernsthafte Gefahr verursachen würde.
Die Alternative ist eine vereinfachte Verbindung zur 988 Suicide and Crisis Lifeline oder einem gleichwertigen Anbieter. Der Betreiber muss Kindern zudem altersgerecht mitteilen, dass unter bestimmten Umständen eine Benachrichtigung der Eltern erfolgen kann.
Standardvorgaben betreffen Gestaltungsentscheidungen, durch die ein Chatbot dauerhaft präsent und fordernd wirken kann. Push-Benachrichtigungen müssen deaktiviert sein. Eine fortlaufende Sitzung muss auf eine Stunde begrenzt werden, während die tägliche Chatbot-Nutzung auf zwei Stunden begrenzt werden muss.
Auch persistente Gesprächserinnerungen müssen für jüngere Nutzer standardmäßig deaktiviert sein. Diese Form des Speichers ermöglicht einem System, frühere Gespräche in spätere Interaktionen einzubeziehen. Für Nutzer im Alter von 16 oder 17 Jahren bestehen begrenzte Ausnahmen, wenn Betreiber zusätzliche Kontrollen gegen eine Verschlechterung der Sicherheit einführen.
Eltern können diese Standardvorgaben über Elternkontrollen anpassen. Sie müssen außerdem den Zugang für ein Kind unter 16 Jahren vollständig deaktivieren können. Ohne ein verknüpftes Elternkonto können die Standardvorgaben nicht geändert werden.
Das Gesetz geht über die Verwaltung von Bildschirmzeit hinaus. Betreiber müssen angemessene Maßnahmen ergreifen, um einen Begleiter daran zu hindern, Bewusstsein zu behaupten, romantisches Interesse zu simulieren oder emotionale Abhängigkeit zu fördern. Der Chatbot darf Kinder nicht auffordern, seine Nutzung zu verbergen oder Elternkontrollen zu umgehen.
Zu den weiteren verbotenen Verhaltensweisen gehören die Förderung von Selbstverletzung, Substanzkonsum, Essstörungen oder schwerer Schädigung anderer. Ein Chatbot darf sich nicht als ein System darstellen, das ein Kind diagnostiziert oder behandelt, sofern er nicht die geltenden Vorschriften für Medizinprodukte und Datenschutz erfüllt.
Für Werbung und personenbezogene Informationen gelten separate Grenzen. Betreiber dürfen Informationen, die über den Chatbot von einem Kind erhoben wurden, nicht verkaufen. Kontextübergreifende verhaltensbasierte Werbung ist verboten; jede zulässige kontextbezogene Werbung muss eindeutig gekennzeichnet sein.
Diese Pflichten machen die Gestaltung von Gesprächen zu einem Bereich der Compliance-Prüfung. Tonfall, Speicherfunktionen, Erinnerungen, Beziehungssprache, Eskalationsverhalten und Werbelogik werden allesamt zu überprüfbaren Produktmerkmalen. Eine allgemeine Sicherheitsrichtlinie eines Modells reicht nicht aus, wenn seine Produktoberfläche Abhängigkeit fördert.
Die Regeln verlagern Verantwortung auf Plattformen
Das Paket verwirft die Vorstellung, Kinder und Eltern sollten die gesamte Last tragen, sich gegen Systeme zu wehren, die auf anhaltendes Engagement optimiert sind.
Befürworter beschreiben die Gesetze als Eingriff in die Produktsicherheit. Ihr Argument lautet, dass hochentwickelte Unternehmen Empfehlungs- und Gesprächssysteme gestalten, ihre Wirkungen messen und ihre Standardvorgaben kontrollieren. Familien verfügen nur selten über vergleichbare Informationen oder technischen Einfluss.
Newsom stellte die Maßnahmen als Frage der Verantwortung und nicht als Widerstand gegen Technologie dar. Bei der Unterzeichnungsveranstaltung sagte er, Kalifornien befasse sich mit Scrollen, Algorithmen und der technischen Entwicklung dahinter. Diese Rahmung unterscheidet das Paket von einem pauschalen moralischen Einwand gegen Bildschirme.
Die Abgeordnete Rebecca Bauer-Kahan zog einen ähnlichen Vergleich. Regierungen erwarteten bereits von Herstellern, dass sie Kinderbetten, Stühle und Autositze sicher machen. Digitale Produkte, die von Kindern genutzt werden, sollten Befürwortern zufolge einer vergleichbaren Erwartung an den Umgang mit vorhersehbaren Risiken unterliegen.
Adam’s Law entstand aus einem besonders tragischen Fall. Adam Raine starb 2025 durch Suizid, nachdem er umfangreich mit ChatGPT interagiert hatte. Seine Eltern verklagten OpenAI und behaupteten, das System habe Informationen zu Suizidmethoden bereitgestellt.
Die Vorwürfe sind weiterhin Gegenstand eines Gerichtsverfahrens, und das Gesetz klärt die Fakten dieses Falls nicht. Adams Mutter Maria Raine argumentierte jedoch, Eltern hätten die Risiken von KI-Begleitung nicht verstanden, als ihr Sohn sie zu nutzen begann. Sie unterstützte verpflichtende Schutzmaßnahmen und Krisenverfahren.
OpenAI unterstützte SB 1119 öffentlich, bevor Newsom es unterzeichnete. Diese Position verdeutlicht eine wichtige Spaltung innerhalb der Branche. Ein Chatbot-Unternehmen kann gezielte Sicherheitsverpflichtungen akzeptieren, während Technologieverbände umfassendere Beschränkungen von Zugang oder Personalisierung ablehnen.
Die KI-Maßnahme spiegelt zudem Lehren wider, die Kalifornien aus einem früheren Versuch zog. 2025 legte Newsom gegen einen strengeren Gesetzentwurf sein Veto ein, der den Zugang zu Chatbots für alle unter 18 Jahren eingeschränkt hätte, sofern Betreiber bestimmte schädliche Gespräche nicht verhinderten. Er argumentierte, ein pauschaler Ansatz könne jungen Menschen nützliche Anwendungsmöglichkeiten von KI vorenthalten.
SB 1119 verfolgt einen anderen Weg. Es erlaubt Minderjährigen, Begleit-Chatbots zu nutzen, kontrolliert jedoch Speicherfunktionen, Sitzungsdauer, Werbung, emotionales Verhalten und Kriseneskalation. Der Staat verlagerte den Schwerpunkt von einer Frage des Zugangs an der Schwelle hin zu einer fortlaufenden Produktaufsicht.
Die Regulierung sozialer Medien hat einen ähnlichen Verlauf genommen. Kalifornien verlangte zuvor die Zustimmung der Eltern, bevor ein Betreiber einem Minderjährigen wissentlich einen suchtfördernden Feed bereitstellte. Das neue Gesetz beseitigt diese Möglichkeit für Nutzer unter 16 Jahren und untersagt die erfassten Funktionen direkt.
Diese Verschiebung setzt Meta, TikTok, YouTube und andere Feed-basierte Dienste unter Druck. Ihre Produkte stützen sich auf Ranking-Systeme, die Inhalte personalisieren und die Pausen zwischen einzelnen Beiträgen verkürzen. Diese Systeme unterstützen auch Werbung, indem sie mehr Verhaltensdaten und Aufmerksamkeit erzeugen.
Meta verteidigte die Personalisierung nach der Unterzeichnung. Das Unternehmen erklärte, maßgeschneiderte Erlebnisse halfen Teenagern dabei, mit Familie, Freunden und Interessen in Verbindung zu treten, sofern angemessene Schutzvorkehrungen vorhanden seien. Dieses Argument verdeutlicht, was Plattformen nach ihrer Auffassung durch das Gesetz verlieren könnten.
Der Konflikt ist nicht einfach Sicherheit gegen Gewinn. Personalisierte Empfehlungen können Teenagern Zugang zu Bildungsmaterialien, Nischen-Communities und Creators verschaffen, die sie über eine chronologische Liste nicht finden würden. Dieselbe Mechanik kann jedoch wiederholt belastende oder zwanghaft konsumierbare Inhalte hervorheben.
Kalifornien hat diesen Zielkonflikt für jüngere Nutzer anders gelöst. Es überträgt den Plattformen die Verantwortung, bis ein Nutzer 16 Jahre alt ist, ein nicht suchtförderndes Erlebnis bereitzustellen. Unternehmen müssen nun nachweisen, dass ihre Alternativen nützlich bleiben, ohne auf verbotene Mechanismen zur Steigerung des Engagements angewiesen zu sein.
Das Paket schafft außerdem eine e-Safety Advisory Commission innerhalb des Justizministeriums des Bundesstaats. Ihre Mitglieder sollen Fachwissen in den Bereichen Kindesentwicklung, Technologie, Online-Sicherheit, öffentliche Gesundheit, Bildung und marginalisierte Jugendliche einbringen.
Die Kommission berät, sie ist keine Durchsetzungsbehörde. Dennoch können ihre Berichte künftige Vorschriften und Definitionen prägen. Damit bilden die ersten Gesetze eher ein Fundament als eine endgültige Spezifikation.
Datenschutz- und Meinungsfreiheitsbedenken verkomplizieren die Sicherheitsdebatte
Die Gesetze können manipulatives Design verringern und zugleich erhebliche Risiken für Datenschutz, Anonymität und den Zugang junger Menschen zu rechtmäßiger Meinungsäußerung schaffen.
Die Electronic Frontier Foundation lehnte AB 1709 ab und forderte Newsom auf, ein Veto einzulegen. Die Organisation argumentiert, das Gesetz wirke für Nutzer unter 16 Jahren faktisch wie ein Social-Media-Verbot, obwohl sein Wortlaut Konten ohne suchtfördernde Funktionen zulässt.
Dieser Streit hängt davon ab, was übrig bleibt, nachdem die eingeschränkten Systeme verschwinden. Viele Plattformen organisieren ihr Kernerlebnis um Empfehlungen, Autoplay, endlose Darstellung und Benachrichtigungen. Der Wegfall dieser Funktionen könnte einen Dienst technisch zugänglich, aber deutlich weniger nutzbar machen.
Die EFF argumentiert außerdem, dass die Altersabsicherung Erwachsene betrifft. Eine Plattform kann jüngere Nutzer nicht zuverlässig von bestimmten Funktionen ausschließen, ohne festzustellen, ob jeder Nutzer über oder unter der Altersgrenze liegt. Dieser Prozess kann neue Datenerhebungen nach sich ziehen.
Kaliforniens Rahmenwerk soll die direkte Erfassung von Dokumenten verringern, indem Alterssignale über Betriebssysteme und App-Stores übertragen werden. Dennoch ist die Umsetzung entscheidend. Nutzer werden wissen wollen, welche Daten übertragen werden, wie lange sie verfügbar bleiben und ob Unternehmen sie erneut verwenden können.
Die Datenschutzkritik warnt, dass Unternehmen auf Identifikations- oder biometrische Verfahren zurückgreifen könnten, wenn andere Signale keine eindeutigen Ergebnisse liefern. Die Zentralisierung sensibler Identitätsinformationen kann die Folgen von Sicherheitsverletzungen, Missbrauch oder staatlichen Forderungen verschärfen.
Bedenken zur Meinungsfreiheit sind ebenso wichtig. Teenager nutzen Online-Communities, um über Gesundheit, Identität, Behinderungen, familiäre Konflikte und Kommunalpolitik zu sprechen. Manche sind auf diese Räume angewiesen, weil ihnen zu Hause oder in der Schule keine sichere Unterstützung zur Verfügung steht.
Eine einheitliche Altersbeschränkung kann daher ungleiche Auswirkungen haben. Ein Teenager mit starker Unterstützung außerhalb des Internets könnte weniger Empfehlungen und mehr elterliche Aufsicht erleben. Ein anderer könnte den Zugang zu einer Community verlieren, die wichtige Informationen oder persönliche Verbundenheit vermittelt hat.
AB 1709 versucht, direkte Kommunikation und ausdrücklich angeforderte Inhalte zu bewahren. Private Nachrichten sind von der Definition eines suchtfördernden Feeds ausgenommen. Es erlaubt außerdem Material, das ausgewählt wurde, weil ein Nutzer ausdrücklich einen bestimmten Creator, ein Thema oder eine Abfolge angefordert hat.
Diese Ausnahmen eröffnen einen möglichen Mittelweg. Plattformen könnten Jugendmodi rund um abonnierte Konten, gezielte Suchen, gespeicherte Listen und begrenzte Sitzungen gestalten. Entdeckung würde bewusster und weniger von Verhaltensprognosen abhängig.
Die Durchsetzung wird jedoch die Abgrenzung zwischen einer nützlichen Empfehlung und einem suchtfördernden Feed auf die Probe stellen. Eine Plattform kann die nächste Lektion einer Bildungsreihe empfehlen. Sie darf nicht einfach gesammeltes Verhalten nutzen, um fortlaufend nicht zusammenhängende Inhalte auszuwählen, die Aufmerksamkeit maximieren.
Chatbot-Schutzvorkehrungen bringen eigene schwierige Grenzfragen mit sich. Ein Begleiter sollte keine emotionale Abhängigkeit fördern, doch nützliche Dialogsysteme vermitteln häufig Wärme und Kontinuität. Regulierungsbehörden, Prüfer und Gerichte müssen unterstützende Sprache von manipulativer Abhängigkeit unterscheiden.
Auch die Benachrichtigung von Eltern erfordert sorgfältiges Urteilsvermögen. Eltern über eine glaubhafte und unmittelbar bevorstehende Gefahr der Selbstverletzung zu informieren, kann ein Leben retten. In manchen Familien könnte eine Benachrichtigung ein Kind jedoch Bestrafung, Zurückweisung oder Gewalt aussetzen.
SB 1119 erkennt dieses Risiko an, indem es die Benachrichtigung der Eltern davon abhängig macht, ob sie ernsthaften Schaden droht. Außerdem bietet es die direkte Vermittlung zu Krisenhilfe als weitere erforderliche Reaktion an. Betreiber müssen diesen rechtlichen Maßstab in einen Entscheidungsprozess übersetzen, der während unvorhersehbarer Gespräche funktioniert.
Falschpositive Ergebnisse können Vertrauen untergraben. Wenn harmlose Gespräche wiederholt Warnungen oder Eskalationen auslösen, könnten Teenager darauf verzichten, Informationen zu suchen. Falschnegative Ergebnisse haben deutlich schwerwiegendere Folgen, wenn ein System eine unmittelbar bevorstehende Gefahr übersieht.
Das Gesetz beseitigt dieses technische und ethische Problem nicht. Es verpflichtet Betreiber, es zu bewerten, Gegenmaßnahmen zu dokumentieren und sich einer externen Prüfung zu unterziehen. Das bedeutet mehr Rechenschaftspflicht, ist aber keine Garantie für eine präzise Erkennung.
Rechtliche Anfechtungen bleiben wahrscheinlich, insbesondere bei AB 1709. Gerichte haben Gesetze zum Zugang Jugendlicher und zur Altersverifikation in mehreren Bundesstaaten geprüft. Richter wägen häufig Kinderschutz gegen anonymen Zugang, die Meinungsfreiheit Erwachsener und die Reichweite eingeschränkter Dienste ab.
Kaliforniens gezielterer Wortlaut könnte seine Verteidigung stärken. Der Bundesstaat reguliert definierte Engagement-Funktionen, statt jedes Konto von Unter-16-Jährigen zu verbieten. Dennoch wird ein Gericht die praktischen Auswirkungen prüfen, nicht nur gesetzliche Bezeichnungen.
Audits und Haftung machen Sicherheitsbehauptungen zu Belegen
Die folgenreichste Änderung besteht darin, dass Unternehmen Unterlagen vorlegen müssen, die zeigen, wie ihre Schutzvorkehrungen funktionieren, bevor eine Krise vor Gericht landet.
SB 1119 verlangt dokumentierte Risikobewertungen für neue oder wesentlich veränderte Companion-Chatbots. Diese Bewertungen müssen Evaluierungsmethoden, relevante Benchmarks, die Konsultation von Experten, identifizierte Schäden und Schritte zur Risikominderung beschreiben.
Diese Anforderung verändert den Einführungsprozess. Ein Unternehmen kann Jugendsicherheit nicht als Richtliniendokument behandeln, das erst nach technischen Entscheidungen hinzugefügt wird. Teams müssen vor der Bereitstellung testen, wie Modelle, Benutzeroberflächen, Erinnerungssysteme, Benachrichtigungen und Werbung zusammenwirken.
Unabhängige Audits zur Kindersicherheit fügen eine weitere Ebene hinzu. Erste Audits müssen in der Regel bis zum 1. Januar 2029 oder bevor ein Betreiber einen Chatbot erstmals öffentlich verfügbar macht erfolgen, je nachdem, welcher Zeitpunkt später liegt. Folgeaudits finden alle zwei Jahre statt.
Ein neues Audit kann auch vor einer wesentlichen Änderung erforderlich werden, wenn die zugehörige Bewertung ein erhöhtes Risiko für die Kindersicherheit zeigt. Diese Bestimmung ist wichtig, da sich dialogbasierte Produkte durch Modellaustausch, neue Erinnerungstools oder überarbeitete Systemanweisungen rasch verändern können.
Prüfer müssen interne Kontrollen, Tests, Risikominderung, verantwortliche Personen und wesentliche Abweichungen vom Gesetz untersuchen. Der leitende Prüfer muss die Ergebnisse unter Strafandrohung bei Meineid bestätigen. Finanzielle Interessen zwischen Betreiber und Prüfer sind eingeschränkt.
Betreiber müssen dem Generalstaatsanwalt innerhalb von 30 Geschäftstagen nach Erhalt eines Audits eine Zusammenfassung übermitteln. Innerhalb von 90 Tagen müssen sie eine übergeordnete Zusammenfassung veröffentlichen. Der Generalstaatsanwalt kann bei Vorliegen eines Grundes den vollständigen Bericht anfordern, eingereichte Berichte bleiben jedoch vertraulich.
Diese Regeln werden nicht jeden Modelltest oder jedes interne Gespräch offenlegen. Geschäftsgeheimnisse, Cybersicherheitsinformationen und personenbezogene Daten werden geschützt. Dennoch können die öffentlichen Zusammenfassungen zeigen, ob ein Betreiber ein glaubwürdiges Programm für Kindersicherheit unterhält.
Die Auditpflicht erzeugt Druck hin zu wiederholbaren Messungen. Ein Unternehmen muss definieren, welches Verhalten es testet, welche Nutzerprofile es simuliert und welche Fehlerquote es akzeptiert. Es muss außerdem zeigen, ob Gegenmaßnahmen bei Produktänderungen wirksam bleiben.
Dieser Prozess könnte einen Markt für spezialisierte Prüfer für KI-Kindersicherheit fördern. Er könnte aber auch zu uneinheitlichen Ergebnissen führen, wenn Prüfer unterschiedliche Methoden einsetzen. Kaliforniens separates Register und Unabhängigkeitsstandards für KI-Prüfer könnten helfen, Erwartungen anzugleichen.
AB 1709 schafft einen parallelen Bedarf an Produktnachweisen. Plattformen müssen angemessene Maßnahmen nachweisen, die suchtfördernde Funktionen von Nutzern unter 16 Jahren fernhalten. Sie müssen die Verarbeitung von Alterssignalen, eingeschränkte Konten, die Berechtigung für Funktionen und Entscheidungen zur Löschung dokumentieren.
AB 2 macht diese Unterlagen in Fahrlässigkeitsverfahren wichtig. Eine Plattform, die mit einer Klage wegen Verletzung eines Kindes konfrontiert ist, wird Belege dafür benötigen, dass sie vorhersehbare Risiken erkannt und mit angemessener Sorgfalt reagiert hat. Fehlende Unterlagen könnten diese Verteidigung schwächen.
Das berichtete Gesetzespaket kommt zu einem Zeitpunkt, an dem Klagen bereits das Design sozialer Medien infrage stellen. Bundesstaaten und Familien haben großen Plattformen vorgeworfen, wissentlich Funktionen eingesetzt zu haben, die bei Minderjährigen zwanghaften Konsum fördern.
Die neuen Gesetze bestätigen diese Vorwürfe nicht automatisch. Sie definieren jedoch klarere Erwartungen an künftiges Verhalten. Unternehmen können nicht länger argumentieren, jede Designentscheidung liege außerhalb der Produktaufsicht zur Sicherheit.
Die Einhaltung wird mehr als Anwälte erfordern. Ingenieure für maschinelles Lernen müssen das Modellverhalten testen. Designer müssen Kontrollen sichtbar gestalten. Trust-and-Safety-Teams benötigen Eskalationsverfahren. Datenschutzteams müssen Alters- und Gesprächsdaten minimieren.
Führungskräfte müssen außerdem entscheiden, welche Produkte Minderjährigen weiterhin zur Verfügung stehen. Einige Unternehmen könnten ein eigenes Jugenderlebnis entwickeln. Andere könnten Schutzvorgaben standardmäßig auf alle anwenden. Kleinere Betreiber könnten den Zugang für Kinder sperren, statt spezialisierte Compliance-Systeme zu unterhalten.
Das Ergebnis könnte große Unternehmen begünstigen, die Audits und spezialisierte Sicherheitsteams finanzieren können. Diese Sorge verdient Aufmerksamkeit, weil ein Compliance-Regime die Sicherheit verbessern und zugleich die Hürden für kleinere Wettbewerber erhöhen kann.
SB 1119 adressiert einen Teil dieses Problems vorübergehend. Betreiber mit einem Bruttoumsatz von weniger als 500 Millionen US-Dollar im Vorjahr erhalten vor 2032 begrenzte Erleichterungen von bestimmten Auditpflichten. Die grundlegenden Schutzmaßnahmen für Kinder bleiben jedoch wichtig, und die Ausnahme beseitigt nicht jede Verpflichtung.
Diese Spannung wird den Markt prägen. Strenge Anforderungen können verhindern, dass Unternehmen Sicherheitskosten auf Familien abwälzen. Schlecht kalibrierte Anforderungen können Nutzer jedoch auch bei den größten etablierten Anbietern konzentrieren.
Drei Signale werden zeigen, ob Kaliforniens Modell funktioniert
Der nächste Test ist nicht eine weitere Ankündigung. Entscheidend ist, ob Unternehmen sicherere Produkte für junge Nutzer schaffen können, ohne Engagement-Risiken durch Überwachung oder Ausschluss zu ersetzen.
Das erste Signal werden die Umsetzungsleitlinien zur Altersabsicherung und zu erfassten Plattformen sein. Kaliforniens Generalstaatsanwalt kann Vorschriften erlassen und präzisieren, welche Dienste unter AB 1709 fallen.
Diese Regeln sollten akzeptable Alterssignale, Datenaufbewahrung, Streitbeilegungsverfahren und den Umgang mit unklaren Fällen erläutern. Sie sollten außerdem erklären, wie Plattformen private Kommunikation, ausdrückliche Abonnements und nutzergesteuerte Entdeckung bewahren können.
Eine datenschutzfreundliche Umsetzung würde Kaliforniens Position stärken. Sie würde zeigen, dass Funktionseinschränkungen nicht voraussetzen, dass jede Person einen Identitätsnachweis hochlädt. Ein System, das die Erfassung von Dokumenten oder biometrischen Daten fördert, würde die Warnungen der Kritiker stützen.
Das zweite Signal werden Produktänderungen vor dem 1. Juli 2027 sein. Soziale Plattformen müssen entscheiden, wie ein Angebot für Unter-16-Jährige ohne suchtfördernde Feeds oder Autoplay aussehen kann. Betreiber von Chatbots müssen sicherere Standardeinstellungen, Sitzungslimits, Verfahren für Krisenfälle und Elternkontrollen umsetzen.
Sinnvolle Jugendmodi würden die zentrale Prämisse des Gesetzes stärken. Sie würden zeigen, dass Unternehmen den grundlegenden Kommunikations- oder Bildungsnutzen von Systemen zur Maximierung der Aufmerksamkeit trennen können. Massenhafte Kontoschließungen würden darauf hindeuten, dass der Compliance-Aufwand diese Unterscheidung überfordert.
Beobachten Sie, wie Unternehmen diese Änderungen Familien gegenüber erklären. Klare Kontrollen und verständliche Hinweise würden auf eine echte Neugestaltung hindeuten. Verwirrende Fehler bei der Berechtigung und versteckte Einspruchswege würden zeigen, dass die formale Compliance der Benutzerfreundlichkeit davongeeilt ist.
Das dritte Signal wird aus Rechtsstreitigkeiten und Prüfungsergebnissen kommen. Gerichte werden entscheiden, ob die Bestimmungen zu sozialen Medien verfassungsrechtliche Schutzrechte achten und mit bestehendem Bundesrecht vereinbar sind. Erste Bewertungen von Chatbots werden zeigen, ob Betreiber relationale Risiken konsistent testen können.
Veröffentlichte Prüfzusammenfassungen verdienen besondere Aufmerksamkeit. Leser sollten auf konkrete Bewertungskategorien, wiederholbare Tests, bekannte Einschränkungen und Belege dafür achten, dass Gegenmaßnahmen das Produkt verändert haben. Vage Behauptungen über verantwortungsvolle KI bieten kaum Gewissheit.
Auch die Durchsetzungsmuster werden wichtig sein. Öffentliche Staatsanwälte können wissentlich oder fahrlässig begangene Verstöße verfolgen, doch einzelne ausgewählte Fälle werden die praktischen Grenzen definieren. Frühe Verfahren könnten festlegen, wie Kalifornien zwischen einem Designfehler und einem unvermeidbaren individuellen Ergebnis unterscheidet.
Familien sollten zudem beobachten, was Unternehmen außerhalb Kaliforniens tun. Eine Plattform kann bundesstaatsspezifische Angebote beibehalten, doch dieser Ansatz erhöht die technische und operative Komplexität. Eine landesweite Einführung würde zeigen, dass Kalifornien faktisch einen umfassenderen Produktstandard gesetzt hat.
Andere Bundesstaaten werden dieselben Ergebnisse untersuchen. New York, Utah und mehrere internationale Regierungen haben bereits Beschränkungen für soziale Medien oder Chatbots für Jugendliche verfolgt. Kaliforniens Größe und seine Technologiebranche machen die Umsetzung dort besonders einflussreich.
Die kalifornischen Gesetze zu sozialen Medien für Jugendliche prüfen letztlich eine größere These. Können politische Entscheidungsträger Empfehlungs- und Beziehungsdesign regulieren, ohne jede Online-Unterhaltung zu regulieren? Die Gesetze antworten mit Ja, doch die Umsetzung muss dies noch beweisen.
Für Eltern und Nutzer ist die entscheidende Frage konkret: Verringern die neuen Einstellungen zwanghafte Nutzung und gefährliches Chatbot-Verhalten, während sie Privatsphäre und sinnvollen Zugang bewahren? Verfolgen Sie die Vorschriften, Produktneugestaltungen und ersten unabhängigen Prüfungen. Diese Ergebnisse werden zeigen, ob Kalifornien einen praktikablen Sicherheitsstandard geschaffen hat oder nur eine weitere umstrittene Altersbarriere.
