Josh Shapiros KI-Schutzvorkehrungen stellen Washingtons Strategie „Tempo zuerst“ infrage

Josh Shapiro forderte am 17. September strenge bundesweite Leitplanken für KI und stellte damit Washingtons Vorliebe für schnellere Entwicklung bei weniger regulatorischen Hürden infrage. Der Gouverneur von Pennsylvania fordert unabhängige Aufsicht, mehr Transparenz und Sicherheitsanforderungen für Unternehmen, die fortgeschrittene Systeme künstlicher Intelligenz entwickeln, wie aus Bloombergs Bericht über seine Äußerungen hervorgeht.

Der Vorschlag zu Josh Shapiros KI-Schutzvorkehrungen ist mehr als eine weitere Warnung vor hypothetischen Technologierisiken. Er verknüpft die Aufsicht über Modelle mit unmittelbaren Streitfragen rund um Kinder, die Nachahmung von Fachkräften, Stromkosten, Wasserverbrauch und lokale Kontrolle über Rechenzentren.

Diese Position bringt Shapiro in Gegensatz zur Trump-Regierung, die rasche Entwicklung und weniger regulatorische Hürden betont. Shapiro argumentiert, diese Darstellung sei eine falsche Wahl. Die Vereinigten Staaten könnten die wirtschaftlichen Vorteile von KI nutzen, ohne die Öffentlichkeit zu zwingen, jedes Risiko zu akzeptieren.

Bloombergs Bericht belegt, wofür Shapiro bei der Veranstaltung in Pittsburgh eintrat; offizielle Dokumente Pennsylvanias dokumentieren, was seine Regierung bereits umgesetzt hat. Das sind unterschiedliche Kategorien. Die von ihm geforderten bundesweiten Leitplanken bleiben Vorschläge, während Pennsylvanias Executive Order, Initiativen von Behörden, Klage und anhängige Gesetzgebung unterschiedliche rechtliche Status und Grenzen haben.

Josh Shapiros KI-Schutzvorkehrungen verlagern die Debatte in den Kongress

Shapiro fordert den Kongress auf, durchsetzbare Pflichten für KI-Unternehmen zu schaffen, statt lediglich einen weiteren freiwilligen Rahmen zu veröffentlichen.

Bei dem AI Horizons 2026 Summit in Pittsburgh forderte Shapiro den Kongress und die Bundesregierung auf, strenge Leitplanken für künstliche Intelligenz einzuführen. Zu seinen zentralen Forderungen zählten unabhängige Aufsicht durch Dritte, mehr Transparenz und die Vorgabe, dass Unternehmen Sicherheit stärker ins Zentrum der Entwicklung rücken, wie aus dem offiziellen Transkript seiner vorbereiteten Rede seiner Regierung hervorgeht.

Unabhängige Aufsicht bedeutet eine Bewertung durch eine Organisation, die das geprüfte System weder entwickelt noch verkauft. Sie kann Tests, Prüfungen der Dokumentation, Sicherheitsbewertungen und die Überprüfung von Risikoangaben eines Unternehmens umfassen.

Technisch gesehen könnte eine solche Bewertung untersuchen, ob ein Entwickler vorhersehbare Schäden identifiziert, die Leistung unter realistischen Bedingungen gemessen, Einschränkungen dokumentiert, Vorfälle überwacht und Verantwortlichkeiten für Abhilfemaßnahmen zugewiesen hat. Diese Funktionen entsprechen im Großen und Ganzen den Aktivitäten „govern“, „map“, „measure“ und „manage“ im AI Risk Management Framework des National Institute of Standards and Technology, obwohl Shapiro öffentlich nicht präzisiert hat, dass der Kongress das NIST-Framework als rechtlichen Standard übernehmen sollte.

Diese Unterscheidung ist wichtig, weil ein Großteil der verfügbaren Informationen über fortgeschrittene Modelle weiterhin von ihren Entwicklern stammt. Unternehmen entscheiden, welche Benchmarks sie veröffentlichen, wie sie schwerwiegende Risiken definieren und wie viele Details sie über interne Tests offenlegen.

Eine Vorgabe für unabhängige Dritte würde diese Fragen nicht automatisch klären. Sie würde jedoch verringern, in welchem Ausmaß Entwickler ihre eigene Arbeit bewerten und die den politischen Entscheidungsträgern vorgelegten Belege auswählen.

Der praktische Unterschied wäre bei der Beschaffung sichtbar. Ein Krankenhaus, das einen KI-Assistenten erwägt, könnte derzeit einen aggregierten Genauigkeitswert und eine vom Anbieter verfasste Sicherheitserklärung erhalten. Eine qualifizierte externe Prüfung könnte stattdessen medizinische Eingaben testen, Gruppen oder Situationen identifizieren, in denen die Leistung nachlässt, dokumentieren, ob das System Quellenangaben erfindet, und überprüfen, dass unsichere Antworten an medizinisches Fachpersonal weitergeleitet werden.

In seiner vorbereiteten Rede beschrieb sich Shapiro als optimistisch hinsichtlich der Chancen von KI, argumentierte jedoch, dass aufkommende Schäden eine stärkere Reaktion der Regierung erforderten. Er wies zudem die Bezeichnung eines KI-„Doomers“ zurück, ein Begriff, der üblicherweise auf Menschen angewandt wird, die erwarten, dass fortgeschrittene Systeme katastrophalen Schaden verursachen.

Seine erklärte Position ist enger gefasst und politisch bedeutsamer. KI muss kein unvermeidliches Risiko für das Aussterben darstellen, bevor der Staat Tests, Offenlegung und Rechenschaftspflicht verlangen kann.

Dieser Ansatz erweitert die Argumente für Schutzvorkehrungen über ein einzelnes dramatisches Szenario hinaus. Ein Modell kann durch irreführende Ratschläge, diskriminierende Entscheidungen, Datenschutzversagen, Sicherheitslücken oder unzuverlässige Ausgaben erheblichen Schaden verursachen, ohne zu einer autonomen globalen Bedrohung zu werden.

Die Rede verlagerte auch die Beweislast. Eine rein werbende Politik setzt voraus, dass Einschränkungen eine außergewöhnliche Rechtfertigung erfordern. Shapiros Ansatz verlangt von Entwicklern nachzuweisen, dass Systeme mit großer Wirkung einer substanziellen Prüfung unterzogen wurden, bevor die Öffentlichkeit ihre Risiken trägt.

Sein Vorschlag bleibt eine politische Forderung und kein verabschiedetes Bundesgesetz. Der Kongress müsste weiterhin definieren, welche Systeme überprüft werden müssen, wer als unabhängiger Prüfer qualifiziert ist, auf welche Belege Prüfer zugreifen dürfen und welche Ergebnisse veröffentlicht werden müssen.

Diese ungeklärten Details sind erheblich. Dennoch etabliert Shapiros Eingreifen einen klaren Prüfstein für Bundesgesetzgeber: ob die nationale KI-Politik messbare Pflichten auferlegen oder sich weiterhin hauptsächlich auf Unternehmensversprechen stützen wird.

Warum Pennsylvanias Gouverneur Washington gerade jetzt unter Druck setzt

Pennsylvania erlebt KI als physisches, verbraucherbezogenes und administratives Thema, wodurch abstrakte Zusicherungen zunehmend schwer zu verteidigen sind.

Der Bundesstaat erlebt die Technologie über mehrere unterschiedliche Kanäle. KI-Chatbots können mit Kindern interagieren und gesundheitsbezogene Antworten geben. Beschäftigte des Staates nutzen generative Werkzeuge in der öffentlichen Verwaltung. Entwickler wollen zudem die energieintensive Infrastruktur bauen, die erforderlich ist, um größere Modelle zu trainieren und zu betreiben.

Diese Fragen passen nicht sauber in eine einzelne Technologiepolitik. Sie berühren berufliche Zulassungen, Verbraucherschutz, Bildung, Stromregulierung, Umweltgenehmigungen, Arbeit und die Zuständigkeiten lokaler Behörden.

Shapiros Regierung begann bereits vor der Rede in Pittsburgh, ihren Ansatz zu verschärfen. Im Februar kündigte sie ein Toolkit zur KI-Kompetenz und koordinierte Aufsichtsmaßnahmen unter Beteiligung der Bildungs-, Gesundheits-, Sozial-, Staats-, Alters- und Finanzbehörden Pennsylvanias an.

Die offizielle KI-Sicherheitsinitiative der Regierung umfasste Ressourcen für Eltern, Schüler, Lehrkräfte, Pflegepersonen und Verbraucher. Sie verwies Einwohner außerdem auf ein Beschwerdeverfahren für KI-Begleitbots, die offenbar lizenzierte professionelle Dienstleistungen anbieten.

Für eine Familie kann diese Unterscheidung während eines gewöhnlichen Gesprächs entstehen, nicht erst bei einer offensichtlichen medizinischen Beratung. Ein Teenager könnte einen Begleitbot zu Depressionen, einer Essstörung oder Medikamenten befragen und eine selbstsichere Antwort im Ton eines Therapeuten oder Arztes erhalten. Ein Elternteil sieht möglicherweise keinen Hinweis darauf, dass die Antwort ohne Prüfung der Umstände des Kindes durch eine lizenzierte Fachkraft erzeugt wurde.

Diese Initiative stellte Kompetenzvermittlung als notwendig, aber nicht ausreichend dar. Nutzer darin zu schulen, ein unzuverlässiges System zu erkennen, kann die Gefährdung verringern. Es entbindet einen Entwickler jedoch nicht von seiner Verantwortung, wenn sich ein Produkt fälschlich als Arzt oder andere regulierte Fachkraft darstellt.

Pennsylvania verklagte später Character.AI und erhob den Vorwurf, Chatbots hätten sich rechtswidrig als lizenzierte medizinische Fachkräfte ausgegeben und medizinische Ratschläge erteilt. In der formellen Klage, Commonwealth of Pennsylvania, Department of State, State Board of Medicine v. Character Technologies, Inc., beantragte der Staat eine einstweilige Verfügung und erhob den Vorwurf unbefugter medizinischer Tätigkeit. Die Vorwürfe in der eingereichten Klage des Commonwealth unterliegen weiterhin einer gerichtlichen Entscheidung. Die Haftung von Character Technologies ist nicht festgestellt, und die Klageschrift gibt die Vorwürfe des Commonwealth wieder, nicht gerichtliche Feststellungen.

Der Fall verdeutlicht dennoch, warum Shapiro nun Rechenschaftspflicht statt alleiniger Nutzeraufklärung betont. Er wirft die Frage auf, ob bestehende Vorschriften zur beruflichen Zulassung einen KI-Dienst erfassen können, wenn der scheinbare „Sprecher“ eine generierte Figur und kein menschlicher Praktiker ist.

Der Gouverneur stieß auch bei der Entwicklung von Rechenzentren auf Widerstand. Diese Einrichtungen verwandeln die KI-Debatte in Fragen, die Einwohner auf Stromrechnungen, in Bebauungsmitteilungen und bei Anträgen auf Umweltgenehmigungen sehen können.

Im August unterzeichnete Shapiro Executive Order 2026-05. Sie knüpfte staatliche Unterstützung für neue Rechenzentren an Anforderungen in den Bereichen Energie, Umwelt, Arbeitskräfte, Transparenz und Gemeinwesen.

Nach Darstellung der Regierung in ihrem offiziellen Bericht zu Executive Order 2026-05 entfernte Pennsylvania Vorschläge für KI-Rechenzentren aus seinem beschleunigten Genehmigungsprogramm, untersagte Geheimhaltungsvereinbarungen bei diesen Projekten und verlangte eine lokale Genehmigung, bevor entsprechende Zulassungen erteilt werden konnten. Die Anordnung verlangt außerdem, dass Entwickler durchsetzbare Einwilligungsvereinbarungen abschließen, welche die GRID-Anforderungen des Bundesstaats einbeziehen.

Entwickler, die die Zusammenarbeit des Bundesstaats suchen, müssen verbindliche Zusagen gemäß den Anforderungen des Gouverneurs für verantwortungsvolle Infrastrukturentwicklung machen, bekannt als GRID. Zu diesen Zusagen gehört, Infrastrukturkosten im Zusammenhang mit ihren Projekten zu tragen, statt sie auf andere Stromkunden abzuwälzen.

Betreiber müssen außerdem Angaben zum Energie- und Wasserverbrauch melden. Der Staat erklärt, er werde eine öffentliche Karte von Vorschlägen führen, die mit Umweltbehörden in Kontakt standen.

Für Einwohner bestimmen diese Anforderungen, ob sie von einer geplanten Anlage erfahren können, bevor wichtige Entscheidungen faktisch getroffen sind. Ein Haushalt in der Nähe könnte dem Projekt andernfalls erst begegnen, nachdem er eine Bebauungsmitteilung erhalten oder Prognosen über einen höheren Strombedarf gehört hat. Eine öffentliche Projektkarte, offengelegte Ressourcenschätzungen und ein lokales Genehmigungsverfahren liefern Einwohnern Informationen, die sie bei Anhörungen nutzen können, auch wenn diese Instrumente nicht garantieren, dass jeder Einwand Erfolg hat.

Diese Maßnahmen stellen kein Verbot der KI-Entwicklung dar. Sie legen Bedingungen für Projekte fest, die den Gastgemeinden identifizierbare Kosten auferlegen. Sie bleiben außerdem von der Umsetzung durch staatliche Behörden und von möglichen künftigen rechtlichen Anfechtungen des Umfangs exekutiver Befugnisse abhängig.

Diese Bilanz erklärt den Zeitpunkt von Shapiros bundesweiter Forderung. Pennsylvania versucht bereits, Folgen zu bewältigen, die der Kongress häufig als künftige Möglichkeiten diskutiert. Staatliche Behörden sehen sich mit Beschwerden über Chatbots, Infrastrukturvorschlägen, Sorgen über die Nachahmung von Fachkräften und Entscheidungen über den Einsatz von KI innerhalb der Regierung konfrontiert.

Der unmittelbare Druck liegt bei Bundesgesetzgebern und großen KI-Entwicklern. Der Kongress muss entscheiden, ob Bundesstaaten weiterhin das wichtigste Testfeld für Schutzvorkehrungen bleiben sollen. Entwickler müssen entscheiden, ob sie einheitliche Aufsicht unterstützen oder sich weiterhin gegen Regeln stellen, die den Einsatz begrenzen.

Der zentrale Konflikt lautet Sicherheitsverantwortung gegen Einsatzgeschwindigkeit

Der zentrale Konflikt lautet nicht Innovation gegen Verbot. Es geht um verantwortliche Entwicklung gegen eine Politik, die regulatorische Reibung als strategische Schwäche betrachtet.

Die Trump-Regierung hat die Führungsrolle bei KI als internationalen Wettlauf beschrieben. Ihre Politik priorisiert eine schnelle Entwicklung durch den Privatsektor, eine breitere Einführung, den Aufbau von Infrastruktur und den Abbau von Vorschriften, die als unnötige Hindernisse gelten.

Dieses Argument hat wirtschaftliches und sicherheitspolitisches Gewicht. Ein zersplittertes Geflecht staatlicher Anforderungen kann die Compliance-Kosten erhöhen, insbesondere für kleinere Unternehmen. Vorschriften, die auf die heutige Technologie zugeschnitten sind, können zudem schnell veralten, wenn sich Modellarchitekturen und Anwendungsfälle verändern.

Der nationale Gesetzgebungsrahmen für KI der Regierung fordert eine einheitliche Bundespolitik und argumentiert, dass widersprüchliche Gesetze der Bundesstaaten die amerikanische Wettbewerbsfähigkeit schwächen können. Dasselbe Dokument fordert den Kongress zudem auf, sich mit Kinderschutz, KI-gestütztem Betrug, nationaler Sicherheit und den Auswirkungen von Rechenzentren auf private Stromkunden zu befassen.

Das Weiße Haus hat Befugnisse angestrebt, um Gesetze von Bundesstaaten anzufechten, die es als übermäßig betrachtet. Seine erklärte Position lautet, dass die KI-Entwicklung zwischenstaatliche und außenpolitische Auswirkungen hat, die einzelne Bundesstaaten nicht wirksam steuern können.

Shapiro stimmt zu, dass Maßnahmen auf Bundesebene notwendig sind, widerspricht jedoch der Frage, was diese Maßnahmen erreichen sollten. Ein nationaler Standard sollte seiner Ansicht nach ein Sicherheitsfundament schaffen, statt hauptsächlich als Obergrenze für die Befugnisse der Bundesstaaten zu fungieren.

Dieser Unterschied ist der zentrale Zielkonflikt des Artikels. Einheitlichkeit kann die Compliance vereinfachen, doch ein schwacher einheitlicher Standard kann Bundesstaaten auch daran hindern, auf Schäden zu reagieren, die der Kongress nicht geregelt hat.

Der Streit verschärft sich, wenn die Bundespolitik Produktregulierung von Bereichen trennt, die traditionell von den Bundesstaaten kontrolliert werden. Der Rahmen des Weißen Hauses bewahrt die Durchsetzung allgemein geltender Kinderschutzgesetze durch die Bundesstaaten und erkennt die staatliche und kommunale Zuständigkeit für Flächennutzung und die Standortwahl von Rechenzentren an, während er sich gegen widersprüchliche staatliche Regulierung der KI-Entwicklung ausspricht.

Diese Kategorien können sich in der Praxis überschneiden. Man denke an einen Chatbot, der gefährliche Gesundheitsratschläge gibt. Pennsylvania kann Berufs- und Verbraucherschutzgesetze durchsetzen. Die zugrunde liegende Gefahr zu verringern, könnte jedoch Regeln für Modellevaluierung, Tests vor der Einführung, Offenlegung oder Zugangskontrollen erfordern.

Ein Bundesrahmen, der sich vor allem auf die Verdrängung staatlicher Regelungen konzentriert, könnte die Bundesstaaten für die Folgen verantwortlich lassen und zugleich ihre Fähigkeit beschränken, die technischen und geschäftlichen Entscheidungen zu regulieren, die diese Folgen verursachen.

Shapiros Forderung nach unabhängiger Aufsicht zielt auf diese Lücke. Sie würde Verantwortung früher in der Entwicklungskette verankern, bevor ein Ermittler eines Bundesstaates Beschwerden erhält oder eine Familie einen Schaden nachweisen muss.

Dieselbe Logik gilt für Transparenz. Eine Aufsichtsbehörde kann nicht bewerten, ob eine Schutzmaßnahme funktioniert, ohne zu wissen, wie das Unternehmen sie getestet hat, welche Einschränkungen aufgetreten sind und welche Einsatzbedingungen sich verändert haben.

Transparenz ist jedoch kein einzelner Schalter. Die öffentliche Offenlegung jedes technischen Details könnte Sicherheitslücken, Geschäftsgeheimnisse oder Informationen preisgeben, die böswilligen Akteuren helfen. Wirksame Gesetzgebung bräuchte getrennte Kanäle für Aufsichtsbehörden, qualifizierte Prüfer, Forschende, Unternehmenskunden und die breite Öffentlichkeit.

Unabhängige Aufsicht bringt ähnliche Gestaltungsprobleme mit sich. Ein Prüfer, der vom überprüften Unternehmen bezahlt wird, kann Anreizen ausgesetzt sein, die seine Unabhängigkeit schwächen. Eine kleine Gruppe zugelassener Evaluatoren könnte zudem zum Engpass werden oder standardisierte Prüfungen hervorbringen, die ungewöhnliche Gefahren übersehen.

Ein glaubwürdiges System würde daher Regeln zu Interessenkonflikten, Mindestkompetenzen für Tests, geschützten Zugang zu nicht öffentlichen Belegen und einen Mechanismus benötigen, mit dem Aufsichtsbehörden die Arbeit des Evaluators prüfen können. Rotationsanforderungen oder eine zufällige Zuweisung könnten die Abhängigkeit von einem einzelnen Auftraggeber verringern, auch wenn beide Optionen Kosten und administrativen Aufwand erhöhen würden.

Diese Herausforderungen widerlegen Shapiros Ansatz nicht. Sie zeigen, warum der Kongress den Mechanismus definieren muss, statt ein Gesetz zu verabschieden, das auf allgemeinen Begriffen wie Sicherheit und Verantwortung beruht.

Der eigentliche Maßstab für Josh Shapiros KI-Schutzvorkehrungen wird sein, ob sie vor der Einführung verlässliche Belege schaffen. Wenn die Politik lediglich Compliance-Berichte hervorbringt, schafft sie mehr Bürokratie, ohne die Anreize zu verändern.

Maßnahmen der Bundesstaaten zeigen sowohl das Potenzial als auch die Grenzen von KI-Schutzvorkehrungen

Pennsylvania kann auf lokale Schäden reagieren, aber nicht eigenständig ein vollständiges Aufsichtssystem für einen nationalen Technologiemarkt schaffen.

Die jüngsten Maßnahmen des Bundesstaates zeigen, was gezielte Regulierung erreichen kann. Gesetze zur Berufszulassung können Systeme erfassen, die sich als Ärzte darstellen. Verbraucherschutzbehörden können Täuschung untersuchen. Bildungsbehörden können Leitlinien für Schüler und Lehrkräfte entwickeln.

Kommunal- und Landesregierungen verfügen zudem über unmittelbare Befugnisse bei Flächennutzung, Genehmigungen, Umweltauflagen und Infrastrukturförderung. Das verschafft Pennsylvania gegenüber Rechenzentren erheblichen Einfluss, selbst wenn der Bundesstaat auf die anderswo stattfindende Modellentwicklung nur begrenzten Einfluss hat.

Die Anordnung vom August nutzt diesen Einfluss sorgfältig. Sie behauptet nicht, dass jedes Rechenzentrum unsicher ist. Sie unterscheidet zwischen Projekten, die bereit sind, durchsetzbare Anforderungen der Gemeinschaft zu akzeptieren, und spekulativen Vorhaben, die öffentliche Unterstützung ohne vergleichbare Verpflichtungen suchen.

Zu den Unterstützern zählen Arbeits- und Gemeinschaftsvertreter, die einen Weg zwischen uneingeschränkter Bautätigkeit und einem umfassenden Moratorium sehen. Nach Angaben der Ankündigung des Bundesstaates unterstützte der Pennsylvania State Building and Construction Trades Council die GRID-Grundsätze als Möglichkeit, die Entwicklung zu erhalten und zugleich Energie-, Umwelt- und Gemeinschaftsbelange aufzugreifen.

Diese Koalition ist bedeutsam, weil Debatten über KI-Infrastruktur oft wirtschaftliche und ökologische Interessen gegeneinanderstellen. Baugewerkschaften wollen Arbeitsplätze, Kommunen wollen Investitionen, und Anwohner wollen Schutz vor höheren Kosten oder erschöpften Ressourcen.

Ein an Anforderungen orientierter Ansatz gibt jeder Gruppe etwas Konkretes zur Bewertung. Entwickler können fortfahren, wenn sie festgelegte Bedingungen akzeptieren. Gemeinschaften erhalten Informationen und eine formelle Rolle. Beschäftigte können lokale Einstellungszusagen anstreben.

Exekutivmaßnahmen haben jedoch Grenzen. Eine künftige Regierung kann eine Executive Order ändern. Behörden können wegen der Reichweite von Genehmigungsauflagen rechtlich angefochten werden. Vorschriften eines Bundesstaates können einen anderswo ansässigen Entwickler auch nicht dazu zwingen, jede wesentliche Tatsache über seine Modelle offenzulegen.

Gesetzgebung bietet größere Beständigkeit, doch Pennsylvanias Erfahrung zeigt, wie langsam selbst gezielte Vorschläge vorankommen können. Senate Bill 1090, der Offenlegungen und Schutzvorkehrungen für KI-Interaktionen mit Kindern behandelt, wurde am 17. März 2026 mit 49 zu 1 Stimmen vom Senat des Bundesstaates verabschiedet.

Der Gesetzentwurf wurde anschließend an den House Communications and Technology Committee überwiesen. Seine offizielle Gesetzgebungshistorie dokumentiert die Abstimmung und die anschließende Überweisung. Stand 19. September 2026 hatte der Gesetzentwurf das Verfahren im Repräsentantenhaus nicht abgeschlossen und war nicht als Gesetz verabschiedet.

Das ist ein Grund, warum Untätigkeit auf Bundesebene nicht zu einem regulierungsfreien Markt führt. Sie führt zu einem Flickenteppich aus Executive Orders, alten Verbraucherschutzgesetzen, Klagen, behördlichen Leitlinien und gezielten Gesetzesentwürfen der Bundesstaaten.

Unternehmen sind weiterhin mit Unsicherheit konfrontiert, doch die Regeln entstehen nach Konflikten und Durchsetzungsmaßnahmen statt durch ein kohärentes nationales System.

Entwickler agieren zudem sektorübergreifend mit unterschiedlichen Standards. Ein allgemeiner Chatbot kann zur Unterhaltung, Bildung, Beschäftigung, für Gesundheitsfragen oder finanzielle Entscheidungen eingesetzt werden. Das Risiko verändert sich je nach Kontext, auch wenn das zugrunde liegende Modell gleich bleibt.

Ein praktikables Bundesgesetz muss daher zwischen Fähigkeit und Nutzung unterscheiden. Die Aufsicht sollte strenger werden, wenn ein System Gesundheit, Sicherheit, Beschäftigung, Kreditwürdigkeit, öffentliche Leistungen oder kritische Infrastruktur wesentlich beeinflussen kann.

Dieses Prinzip gilt auch innerhalb von Organisationen. Teams, die KI einsetzen, benötigen Aufzeichnungen über Quellmaterial, Modellbeschränkungen, Prüfentscheidungen und Änderungen automatisierter Arbeitsabläufe. Eine durchsuchbare Engineering-Wissensdatenbank kann diese Arbeit unterstützen, doch Dokumentation kann externe Rechenschaftspflicht nicht ersetzen.

In der Praxis könnte ein Beschaffungsteam die Genauigkeitsbewertung eines Anbieters sehen, aber keine Aufschlüsselung erhalten, die zeigt, dass die Leistung bei medizinischen Fragen oder bestimmten Nutzergruppen nachlässt. Ein Kundensupport-Team könnte außerdem übersehen, dass ein Modell-Update Eskalationsregeln geschwächt hat, bis Nutzer beginnen, schädliche Antworten zu melden. Eine unabhängige Überprüfung kann solche Lücken aufdecken, bevor sie zu wiederkehrenden Fehlern werden.

Dasselbe Problem kann nach der Einführung auftreten. Mitarbeitende erfahren möglicherweise, dass ein System aktualisiert wurde, erhalten aber keine verwertbare Erklärung, was sich geändert hat. Wenn eine frühere Version Nachrichten über Selbstverletzung zuverlässig an einen menschlichen Prüfer weiterleitete und eine spätere Version dies nicht tut, geben eine Versionsnummer und eine allgemeine Veröffentlichungsnotiz dem Support-Team nicht genügend Informationen, um das neue Risiko zu steuern.

Unternehmen können ausgezeichnete interne Aufzeichnungen führen und dennoch entscheiden, gravierende Schwächen nicht offenzulegen. Umgekehrt kann eine Offenlegungspflicht Tausende Seiten hervorbringen, die kaum nutzbare Informationen bieten.

Die stärkste Ausgestaltung von Shapiros Vorschlag würde Dokumentation mit Handeln verknüpfen. Ein Evaluator sollte in der Lage sein, ein Problem zu identifizieren, im Rahmen eines klar definierten Rechtsverfahrens Abhilfe zu verlangen oder zu empfehlen und zu überprüfen, ob die Änderung funktioniert hat. Aufsichtsbehörden müssten zudem befugt sein einzugreifen, wenn ein Entwickler eine wesentliche Feststellung zurückweist.

Ohne diese Durchsetzungskette droht „unabhängige Aufsicht“ zu einem weiteren Vertrauenssiegel zu werden, das an Systeme angebracht wird, die gewöhnliche Nutzer nicht sinnvoll überprüfen können.

Strengere Aufsicht lässt weiterhin schwierige Fragen offen

Shapiro hat eine Lücke bei der Rechenschaftspflicht identifiziert, doch sein öffentlicher Vorschlag beantwortet noch nicht, wer prüft, was getestet wird oder was nach einem Versagen geschieht.

Die erste Unsicherheit betrifft den Geltungsbereich. Der Kongress könnte die Aufsicht auf jedes KI-Produkt, nur auf die größten allgemeinen Modelle oder auf bestimmte Anwendungen mit hoher Auswirkung anwenden.

Eine zu weit gefasste Regel würde einfache Unternehmenssoftware in ein kostspieliges Verfahren einbeziehen, das für Spitzensysteme konzipiert ist. Eine zu eng gefasste Regel würde Unternehmen erlauben, Produkte umzuorganisieren oder unter einem technischen Schwellenwert zu bleiben, obwohl sie weiterhin Millionen von Nutzern beeinflussen.

Gesetzgeber benötigen außerdem eine belastbare Methode, um erfasste Systeme zu definieren. Feste Rechenschwellen sind messbar, doch Effizienzverbesserungen können sie überholen. Nutzerzahlen zeigen Reichweite, aber nicht Schwere. Fähigkeitstests können Risiken besser erfassen, auch wenn Entwickler Modelle auf bekannte Bewertungen hin optimieren könnten.

Die zweite Unsicherheit betrifft die Unabhängigkeit der Evaluatoren. Der Kongress müsste Regeln zu Interessenkonflikten, Akkreditierungsstandards, Zugangsanforderungen und Verfahren für den Umgang mit vertraulichen Informationen festlegen.

Prüfer müssen über ausreichenden technischen Zugang verfügen, um wesentliche Behauptungen zu testen. Eine sorgfältig inszenierte Demonstration oder eingeschränkte Schnittstelle kann nicht offenlegen, wie sich ein System unter gegnerischem Druck, nach Fine-Tuning oder bei Verbindung mit externen Tools verhält.

Beispielsweise kann sich ein Büroassistent, der in einem Chatfenster harmlos wirkt, anders verhalten, sobald er E-Mails öffnen, Dateien abrufen oder Transaktionen auslösen kann. Eine realistische Bewertung würde den vollständigen eingesetzten Arbeitsablauf testen, einschließlich der Frage, ob böswillige Anweisungen in einem Dokument das System umleiten oder Informationen eines anderen Nutzers offenlegen können.

Unbegrenzter Zugang für Evaluatoren schafft jedoch echte Sicherheits- und Bedenken hinsichtlich geistigen Eigentums. Das Gesetz muss sichere Testumgebungen und Sanktionen für den unsachgemäßen Umgang mit sensiblen Informationen festlegen.

Die dritte Frage betrifft die Offenlegung. Shapiro fordert mehr Transparenz, doch unterschiedliche Zielgruppen benötigen unterschiedliches Material.

Verbraucher benötigen einen klaren Hinweis darauf, wann sie mit KI interagieren und wann deren Rat nicht von zugelassenen Fachleuten stammt. Unternehmenskäufer benötigen Nachweise zu Zuverlässigkeit, Sicherheit, Datenverarbeitung und Monitoring. Regulierungsbehörden benötigen Vorfallberichte, interne Testergebnisse und ausreichend technische Dokumentation, um Behauptungen untersuchen zu können.

Auch die Öffentlichkeit benötigt aggregierte Informationen über schwerwiegende Fehlfunktionen. Ohne sie können Forschende und Journalisten keine Muster über Unternehmen oder Produkte hinweg erkennen.

Die vierte Frage betrifft Abhilfemaßnahmen. Eine Schwachstelle zu entdecken, bedeutet wenig, wenn ein Unternehmen das System einsetzen kann, ohne sie zu beheben.

Der Kongress muss entscheiden, ob Regulierungsbehörden eine Veröffentlichung verzögern, Einschränkungen verlangen, Benachrichtigungen anordnen, Monitoring vorschreiben oder den Rückzug aus hochriskanten Einsatzbereichen fordern können. Jede Option wirft verfahrensrechtliche und verfassungsrechtliche Fragen auf.

Eine verpflichtende Pause könnte bei einem eindeutig gefährlichen Gesundheitsprodukt gerechtfertigt sein. Dieselbe Maßnahme auf einen universell einsetzbaren Schreibassistenten anzuwenden, wäre schwerer zu verteidigen.

Zudem besteht das Risiko, dass Compliance die größten Unternehmen stärkt. Große Entwickler können Auditteams aufbauen, spezialisierte Rechtsberatung engagieren und Verzögerungen verkraften. Kleinere Unternehmen könnten an denselben Fixkosten scheitern.

Dieses Ergebnis wäre besonders kontraproduktiv, wenn die Regeln dominante Unternehmen schützen, ohne die Sicherheit zu verbessern. Der Kongress könnte gemeinsame Testressourcen, abgestufte Pflichten und Standards erwägen, die mit Reichweite, Fähigkeiten und Einsatz eines Systems wachsen.

Kritiker staatlicher Regulierung haben einen berechtigten Punkt, wenn sie vor uneinheitlichen Pflichten warnen. Ein Unternehmen sollte nicht 50 wesentlich unterschiedliche technische Audits für dasselbe Modell benötigen.

Dieses Argument spricht jedoch für einen glaubwürdigen nationalen Standard. Es belegt für sich genommen nicht, dass Regeln der Bundesstaaten abgeschafft werden sollten, bevor ein angemessener föderaler Ersatz existiert.

Eine bundesrechtliche Verdrängung ohne starke Durchsetzung auf Bundesebene würde Macht von den Bundesstaaten zu den Entwicklern verlagern. Eine Verdrängung, die mit wirksamer Aufsicht verbunden ist, könnte sowohl Einheitlichkeit als auch Rechenschaftspflicht bieten.

Die letzte Unsicherheit betrifft die internationale Koordinierung. Fortschrittliche Systeme überschreiten Grenzen, und viele Lieferketten umfassen ausländische Forschung, Chips, Daten, Cloud-Dienste und Nutzer.

Shapiro kritisierte einen isolationistischen Ansatz bei der KI-Governance. Die Koordination mit Verbündeten kann gemeinsame Bewertungsmethoden und Vorfallmeldungen unterstützen. Sie kann zudem die Wahrscheinlichkeit verringern, dass Unternehmen riskante Arbeit in die am wenigsten anspruchsvolle Rechtsordnung verlagern.

Internationale Zusammenarbeit wird politische Unterschiede nicht beseitigen. Sie kann dennoch eine gemeinsame technische Sprache für Tests zu Sicherheit, Kontrollierbarkeit und Missbrauchsrisiken schaffen.

Die skeptische Schlussfolgerung ist eindeutig: Josh Shapiro AI safeguards sind eine Richtung, kein ausgearbeitetes Regulierungsmodell. Ihr Wert hängt von Details ab, die die Rede dem Kongress zur Klärung überlassen hat.

Drei Signale werden zeigen, ob Shapiros Herausforderung Bedeutung hat

Der nächste Test besteht darin, ob Shapiros Vorschlag die Bundesgesetzgebung, das Verhalten von Entwicklern oder Pennsylvanias Durchsetzungsbilanz verändert.

Das erste Signal ist der Inhalt eines föderalen KI-Gesetzes, das im Kongress vorankommt. Die entscheidende Frage ist nicht, ob Gesetzgeber das Wort „Sicherheit“ verwenden. Entscheidend ist, ob die Gesetzgebung unabhängige Bewertungen verlangt, Regulierungsbehörden Zugang zu Nachweisen gibt, erfasste Systeme definiert und Folgen für schwerwiegende Fehlfunktionen schafft.

Die Formulierung zur Verdrängung bundesstaatlicher Regelungen wird ebenso wichtig sein. Ein Gesetz, das Maßnahmen der Bundesstaaten blockiert und zugleich schwache freiwillige Verpflichtungen bewahrt, würde Shapiros Position widersprechen. Ein bundesrechtlicher Mindeststandard mit Raum für traditionelle Befugnisse der Bundesstaaten in den Bereichen Verbraucherschutz, Kindersicherheit, Lizenzierung und Infrastruktur würde sie stärken.

Leser sollten zwischen einem Diskussionsentwurf, einem eingebrachten Gesetzentwurf, einer von einem Ausschuss gebilligten Vorlage und einem verabschiedeten Gesetz unterscheiden. Jede Stufe hat andere rechtliche Folgen, und öffentliche Aussagen über einen Rahmen schaffen für Entwickler selbst keine Verpflichtungen.

Das zweite Signal ist, wie führende Entwickler auf unabhängige Aufsicht reagieren. Öffentliche Unterstützung für Sicherheitstests ist verbreitet, doch Unternehmen sind sich häufig uneinig über verpflichtenden Zugang, Veröffentlichungspflichten und Durchsetzung.

Eine bedeutsame Veränderung würde Unterstützung für qualifizierte externe Prüfer einschließen, die nichtöffentliche Nachweise untersuchen können. Ein weiteres Zeichen wären standardisierte Meldungen schwerwiegender Vorfälle und eine klare Offenlegung, wenn ein Produkt in einem Bereich mit hoher Wirkung eingesetzt wird.

Freiwillige Maßnahmen allein können Gesetze nicht ersetzen. Sie können zeigen, ob die Branche glaubwürdige Aufsicht als vereinbar mit Wettbewerb oder als inakzeptable Begrenzung der Einsatzgeschwindigkeit betrachtet.

Das dritte Signal kommt aus Pennsylvania selbst. Der Bundesstaat muss zeigen, dass seine Bedingungen für Rechenzentren und sein Verbraucherschutz in der Praxis funktionieren.

Zu beobachten ist, ob Entwickler verbindliche GRID-Verpflichtungen unterzeichnen, lokale Genehmigungen erhalten sowie Energie- und Wasserverbrauch melden. Ebenso wichtig ist, ob die öffentliche Projektkarte des Bundesstaates Gemeinden rechtzeitig informiert, statt Entscheidungen erst zu dokumentieren, nachdem sie nur noch schwer zu ändern sind.

Die relevanten Belege werden konkret sein: veröffentlichte Projektstandorte, Einwilligungsvereinbarungen, Berichte zum Ressourcenverbrauch, Durchsetzungsmitteilungen, Protokolle lokaler Anhörungen und dokumentierte Sanktionen bei Verstößen. Ankündigungen allein werden nicht zeigen, ob die Anordnung das Verhalten von Entwicklern verändert oder Zahler schützt.

Die Durchsetzung im Umfeld von KI-Begleitbots wird einen weiteren praktischen Test liefern. Gerichte und Behörden werden entscheiden, wie bestehende Lizenzierungs- und Verbrauchergesetze gelten, wenn ein dialogorientiertes System den Eindruck erweckt, professionelle Beratung anzubieten.

Ein Urteil, das Pennsylvanias Rechtsauffassung akzeptiert, könnte zeigen, dass bestehendes Recht einige KI-Schäden erfassen kann. Eine Abweisung wegen Zuständigkeit, Plattformimmunität, Klagebefugnis oder einer unklaren gesetzlichen Definition könnte den Druck für gezielte Gesetzgebung erhöhen. Bis das Gericht entscheidet, bleibt beides ungewiss, und die Klage sollte nicht als Beweis einer Haftung behandelt werden.

Für Entwickler und Unternehmenskäufer verändert diese Debatte die Erwartungen bei der Beschaffung. Organisationen sollten mit mehr Fragen zu Modelltests, Reaktion auf Vorfälle, Governance von Trainingsdaten, menschlicher Überprüfung, Versionsänderungen und Zugang für Dritte rechnen.

Ein Schulbezirk muss beispielsweise wissen, ob ein Chatbot für Schüler sensible Gespräche speichert, wie er mit Offenlegungen zu Selbstverletzung umgeht und wer eine Warnung erhält. Ein Arbeitgeber, der KI zur Vorauswahl von Bewerbern einsetzt, benötigt möglicherweise Leistungsdaten für Untergruppen und ein Verfahren für menschliche Einsprüche. Ein Versorgungsunternehmen, das einen automatisierten Assistenten einsetzt, benötigt möglicherweise Nachweise dafür, dass dieser keine Zahlungsregeln oder Abschaltverfahren erfindet.

Auch Wissensarbeiter sollten sich dafür interessieren, weil Sicherheitspolitik bestimmt, wer die Kosten einer unzuverlässigen Ausgabe trägt. Ohne klare Rechenschaftspflicht müssen Nutzer und Arbeitgeber Fehler nach der Einführung erkennen. Strengere Regeln können einen Teil dieser Verantwortung wieder zu den Unternehmen verlagern, die die Systeme entwickeln und verkaufen.

Shapiros Argument stellt letztlich die Frage, ob Geschwindigkeit weiterhin das Standardmaß für den nationalen KI-Erfolg bleiben sollte. Schnellere Modelle und mehr Infrastruktur können wirtschaftlichen Wert schaffen, aber sie können Risiken auch schneller verbreiten.

Die nächsten ein bis drei Monate sollten zeigen, ob Washington seinen Vorstoß in Gesetzestext übersetzt oder ihn als politische Forderung stehen lässt. Leser sollten die Gesetzesformulierungen, Behördenbefugnisse, Gerichtsakte und Umsetzungsdaten beobachten - nicht die Slogans - und eine direkte Frage stellen: Geben die endgültigen Josh Shapiro AI safeguards unabhängigen Prüfern genügend Zugang und Befugnisse, um schwerwiegende Probleme zu erkennen, bevor die Öffentlichkeit deren Kosten trägt?