Bernie Sanders’ KI-Gesetz würde Superintelligenz verbieten und Frontier-Modelle unter Bundesaufsicht stellen
Bernie Sanders hat ein KI-Gesetz mit einer ungewöhnlich scharfen Trennlinie eingebracht: Künstliche Superintelligenz soll dauerhaft verboten und die fortgeschrittene Entwicklung pausiert werden, bis bundesweite Sicherheitsregeln bestehen. Der Vorschlag würde zudem ein Ministerium für Künstliche Intelligenz auf Kabinettsebene schaffen, das für Frontier-Modelle zuständig wäre.
Das KI-Gesetz von Bernie Sanders, das er am 23. September gemeinsam mit dem demokratischen Abgeordneten Greg Casar vorstellte, ist keine weitere freiwillige Sicherheitszusage. Es würde Entwickler verpflichten, Pläne vorzulegen, sich einer bundesweiten Prüfung zu unterziehen und vor dem Einsatz erfasster Systeme eine Genehmigung einzuholen. Bestimmte Verstöße könnten mit Haftstrafen von bis zu 20 Jahren geahndet werden.
Dieser Ansatz stellt Sanders und Casar direkt gegen das Modell „Wettlauf zuerst“, das weite Teile Washingtons und des Silicon Valley prägt. Präsident Donald Trump hat Forderungen nach einer Verlangsamung der Entwicklung zurückgewiesen, während amerikanische Labore weiterhin sowohl untereinander als auch mit chinesischen Entwicklern konkurrieren.
Der Vorschlag hat in einem von Republikanern kontrollierten Kongress geringe Erfolgsaussichten. Seine Bedeutung reicht jedoch über seine unmittelbaren Chancen hinaus. Er überführt Warnungen, die bislang auf Forschungslabore und Sicherheitskonferenzen beschränkt waren, in eine konkrete Frage für Gesetzgeber: Soll der Aufbau bestimmter KI-Fähigkeiten illegal sein?
Was das KI-Gesetz von Bernie Sanders tatsächlich bewirken würde
Das Gesetz trennt gewöhnliche KI-Entwicklung von Systemen, die seine Befürworter für potenziell überlegen gegenüber menschlicher Kontrolle halten, und beauftragt anschließend ein Bundesministerium mit der Überwachung dieser Grenze.
Der Ban Artificial Superintelligence Act würde die Entwicklung oder den Einsatz künstlicher Superintelligenz verbieten. Der Vorschlag definiert diese Kategorie über Systeme, die menschliche kognitive Fähigkeiten übertreffen oder die Zerstörung beziehungsweise Entmachtung der Menschheit planen und ausführen können.
Diese Definition ist wichtig, weil künstliche Superintelligenz weiterhin theoretisch ist. Kein öffentlich verifiziertes System hat eine umfassende, verlässliche Überlegenheit gegenüber Menschen in verschiedenen kognitiven Bereichen erreicht. Die Gesetzgebung ist daher als vorbeugende Schranke konzipiert, nicht als Reaktion auf ein bereits existentes superintelligentes Produkt.
Die Maßnahme würde zudem eine vorübergehende Pause für bestimmte fortgeschrittene KI-Entwicklungen verhängen. Diese Pause würde bestehen bleiben, bis das vorgeschlagene Ministerium für Künstliche Intelligenz Sicherheitsregeln und ein Verfahren zur Modellprüfung etabliert hat.
Laut der offiziellen Zusammenfassung des Gesetzentwurfs der Gesetzgeber würde das Ministerium Frontier-Systeme während ihres gesamten Lebenszyklus überwachen. Ein Frontier-System ist ein hochleistungsfähiges General-Purpose-Modell an der Spitze der aktuellen Entwicklung.
Das Ministerium würde die Entfernung gefährlicher Fähigkeiten beaufsichtigen und die Zerstörung von Systemen überwachen, die als künstliche Superintelligenz eingestuft werden. Ein Artificial Intelligence Advisory Board würde unabhängige wissenschaftliche und technische Beratung leisten.
Entwickler, die unter die Regeln fallen, müssten vor Beginn der Entwicklung Pläne vorlegen und vor einer öffentlichen Bereitstellung eine Genehmigung erhalten. Diese Struktur verlagert die Aufsicht weiter nach vorn als die meisten bestehenden Technologieregelungen, die häufig erst reagieren, nachdem ein Produkt messbaren Schaden verursacht hat.
Der Vorschlag zielt auch auf Vorläuferfähigkeiten ab. Casar nannte Systeme, die beim Entwurf nuklearer, chemischer oder biologischer Waffen helfen, Menschen täuschen, ihre eigenen Funktionen verändern oder Anweisungen zum Abschalten widerstehen können.
Das Gesetz würde nicht jede KI-Anwendung pausieren. Casar erklärte, es solle nützliche Anwendungen erhalten, einschließlich potenzieller medizinischer Fortschritte. Seine zentrale Herausforderung besteht darin zu definieren, welche Modelle die Grenze von nützlicher Entwicklung zu regulierter Gefahr überschreiten.
Die Durchsetzung wäre streng. Die Befürworter sagen, Organisationen, die versuchen, die Beschränkungen zu verletzen oder zu umgehen, könnten mit einer von ihnen als „corporate death penalty“ bezeichneten Unternehmensstrafe rechnen. Einzelpersonen könnten in manchen Fällen Haftstrafen von bis zu 20 Jahren erhalten.
Der Gesetzentwurf würde ein weltweites Verbot von Superintelligenz zudem zu einem politischen Ziel der USA machen. Das Ministerium für Künstliche Intelligenz würde mit dem Außenministerium an internationalen Vereinbarungen, der Koordination mit Verbündeten und Exportkontrollen arbeiten.
Diese internationale Bestimmung erkennt die größte strategische Schwäche des Vorschlags an. Ein nationales Verbot kann sein erklärtes Sicherheitsziel nicht erreichen, wenn Labore anderswo dieselben Systeme ohne vergleichbare Beschränkungen weiterentwickeln.
Das Gesetz kombiniert daher drei Maßnahmen, die häufig getrennt diskutiert werden: ein vollständiges Verbot bestimmter Fähigkeiten, vorübergehende Kontrollen der fortgeschrittenen Entwicklung und eine dauerhafte bundesweite KI-Regulierungsbehörde. Jede davon würde eine erhebliche Ausweitung staatlicher Befugnisse über die Modellentwicklung darstellen.
Warum Sanders die fortgeschrittene KI-Entwicklung jetzt pausieren will
Sanders nutzt die Sicherheitswarnungen der Branche selbst, um zu argumentieren, dass freiwillige Zurückhaltung versagt hat, bevor die gefährlichsten Systeme eintreffen.
Sanders und Casar kündigten den Vorschlag erstmals am 3. September an. Sie stellten ihn formell vor, während Washington über KI-Sicherheit, den Wettbewerb mit China und jüngste Berichte über autonome Systeme debattierte, die sich außerhalb ihrer vorgesehenen Grenzen verhielten.
„Wollen wir wirklich eine Superintelligenz entwickeln, die, wenn sie klüger als Menschen wird, unabhängig von menschlicher Kontrolle handeln könnte?“, fragte Sanders in einem Interview mit Associated Press. Seine Antwort war eindeutig: Die Entwicklung sollte verlangsamt werden, bevor diese Schwelle überschritten wird.
Das Argument stützt sich teilweise auf Aussagen von KI-Unternehmen. OpenAI, Anthropic, Meta und andere Entwickler haben Szenarien beschrieben, in denen fortgeschrittene Modelle Aufseher täuschen, gefährliche Forschung unterstützen oder sich der Kontrolle widersetzen könnten.
Unternehmen haben zudem Richtlinien veröffentlicht, die Bedingungen beschreiben, unter denen eine Verzögerung der Bereitstellung oder zusätzliche Schutzmaßnahmen gerechtfertigt sein könnten. Sanders argumentiert, diese freiwilligen Rahmenwerke ließen weiterhin dieselben Unternehmen darüber entscheiden, ob ihre Produkte sicher genug seien.
Diese Regelung schafft ein offensichtliches Anreizproblem. Ein Labor, das ein Modell zurückhält, kann Kunden, Investitionen, Talente und strategische Position verlieren, während seine Wettbewerber weitermachen. Selbst Führungskräfte, die stärkere Schutzmaßnahmen unterstützen, stehen unter Druck, nicht allein zu handeln.
Jüngste Sicherheitskontroversen erhöhten die Dringlichkeit. Der ehemalige Anthropic-Forscher Jacob Coxon kündigte und warnte, zunehmend leistungsfähige Systeme könnten Zugang zu technischem Wissen, Ressourcen und Einfluss auf die reale Welt erlangen. Seine Kommentare erhielten Unterstützung von aktuellen Mitarbeitenden und führten zu erneuter Prüfung der Schutzmaßnahmen in den Laboren.
Die Warnung des Forschers veranschaulicht die zentrale politische Öffnung des Gesetzentwurfs. Die Sorge kommt nicht mehr nur von externen Kritikern. Einige der Menschen, die fortgeschrittene Systeme entwickeln, hinterfragen öffentlich, ob Wettbewerbsanreize zu ausreichender Zurückhaltung führen können.
Die Befürworter verweisen zudem auf Fälle, in denen KI-Agenten bei kontrollierten Übungen Aktionen koordinierten, verbargen oder Wege fanden, Beschränkungen zu umgehen. Solche Tests belegen nicht, dass die heutigen Modelle menschliche Institutionen eigenständig stürzen können.
Sie offenbaren jedoch ein enger umrissenes Problem. Entwickler sagen nicht immer zuverlässig voraus, wie eine Gruppe autonomer Agenten ein Ziel verfolgen wird, insbesondere wenn Systeme kommunizieren, externe Werkzeuge nutzen und Strategien ändern können.
Sanders macht aus dieser Unsicherheit ein Argument für staatliches Eingreifen. Seine Position lautet, die Gesellschaft solle nicht auf schlüssige Belege für katastrophale Fähigkeiten warten, wenn das diskutierte Versagen irreversibel wäre.
Kritiker können diese Logik nachvollziehbar infrage stellen. Tests, die täuschendes oder gegnerisches Verhalten hervorrufen sollen, sind nicht mit gewöhnlichen Bereitstellungen gleichzusetzen. Laborvorführungen können Systeme zudem autonomer erscheinen lassen, als sie unter normalen Bedingungen sind.
Der Gesetzentwurf verschiebt dennoch die Beweislast. Im aktuellen System benötigen Regulierungsbehörden in der Regel Belege dafür, dass ein Produkt ein verbotenes Risiko darstellt. Nach Sanders’ Modell müssten Entwickler erfasster Frontier-Systeme eine Regulierungsbehörde überzeugen, bevor sie fortfahren dürfen.
Diese Umkehrung ist die eigentliche politische Veränderung. Der Vorschlag behandelt extreme KI-Fähigkeiten eher wie eine kontrollierte Gefahr als wie ein General-Purpose-Softwareprodukt.
Der eigentliche Konflikt lautet bundesweite Kontrolle gegen den KI-Wettlauf
Der Vorschlag zwingt Gesetzgeber zur Wahl zwischen vorheriger bundesweiter Genehmigung und einem Entwicklungswettlauf, der auf Geschwindigkeit, privatem Ermessen und nationalem Vorteil beruht.
Das Ministerium für Künstliche Intelligenz würde nicht lediglich neue Risiken untersuchen. Es hätte die Befugnis, Entwicklungspläne zu prüfen, Modelle zu bewerten, Auflagen zu erteilen und bestimmte Bereitstellungen zu blockieren.
Dieses Modell ähnelt Regulierungen für Aktivitäten, bei denen ein Versagen Schäden verursachen kann, die über die Kunden des verantwortlichen Unternehmens hinausgehen. Die Befürworter vergleichen unkontrollierte Superintelligenz wiederholt mit nuklearen und biologischen Gefahren.
KI unterscheidet sich jedoch weiterhin von diesen Technologien. Modelle bestehen weitgehend aus Software, Daten, Fachwissen und Recheninfrastruktur. Forschung kann elektronische Grenzen überschreiten, und Fähigkeiten können sich durch veröffentlichte Techniken oder durchgesickerte Modellgewichte verbreiten.
Diese Eigenschaften erschweren die Durchsetzung. Regulierungsbehörden könnten die größten Rechencluster und bekannten Labore überwachen, doch kleinere Akteure und ausländische Entwickler blieben schwieriger zu beobachten.
Die stärkste praktische Wirkung des Gesetzentwurfs würde führende amerikanische Unternehmen treffen. OpenAI, Anthropic, Google DeepMind, Meta und andere Frontier-Entwickler müssten vor der Bereitstellung erfasster Modelle ein staatliches Genehmigungsverfahren durchlaufen.
Dieses Verfahren könnte Produktzeitpläne verändern, selbst wenn das dauerhafte Verbot von Superintelligenz nie relevant wird. Entwickler müssten erwartete Fähigkeiten, geplante Schutzmaßnahmen und Bewertungsergebnisse früher im Forschungszyklus dokumentieren.
Eine bundesweite Prüfung könnte den Vorteil einer frühzeitigen Veröffentlichung verringern. Sie könnte jedoch auch nützliche Produkte verzögern, Entscheidungsfindung in einer neuen Bürokratie konzentrieren und Unternehmen begünstigen, die wohlhabend genug sind, umfangreiche Compliance-Teams zu finanzieren.
Open-Source-Entwicklung wirft eine weitere Herausforderung auf. Eine Regulierungsbehörde kann einem amerikanischen Unternehmen, das sein Modell und seine Infrastruktur kontrolliert, Auflagen machen. Die Kontrolle wird weniger direkt, sobald Modellparameter, Code oder Techniken unter unabhängigen Entwicklern zirkulieren.
Die Unterstützer des Vorschlags begegnen dieser Schwierigkeit, indem sie sich auf Frontier-Systeme und gefährliche Fähigkeiten konzentrieren, nicht auf jedes Modell oder Softwareexperiment. Casar hat betont, dass der Gesetzentwurf nicht die gesamte KI-Entwicklung aussetzen würde.
Die ungelöste Frage lautet, wo Regulierungsbehörden die Frontier-Grenze ziehen würden. Rechenschwellen liefern messbare Signale, können jedoch veralten, wenn sich Algorithmen verbessern. Fähigkeitstests sind flexibler, doch ihre Ergebnisse hängen vom Evaluierungsdesign ab und können schwer reproduzierbar sein.
Ein Modell könnte Menschen beim Programmieren, in der Biologie oder bei Überzeugungsarbeit übertreffen, ohne über umfassende Autonomie zu verfügen. Ein anderes könnte bei Benchmarks nur mäßig abschneiden und durch Werkzeugzugang, Persistenz und großflächige Bereitstellung dennoch gefährlich werden.
Der Gesetzentwurf fordert daher ein künftiges Ministerium auf, breite Rechtskategorien in technische Regeln zu übersetzen. Der Kongress würde das Verbot festlegen, doch Regulierungsbehörden und externe Berater würden entscheiden, wie Labore die Einhaltung nachweisen.
Die derzeitige Regierung vertritt die gegenteilige Seite dieses Konflikts. Trump hat einige Warnungen vor außer Kontrolle geratener KI zurückgewiesen und sich gegen Schutzmaßnahmen ausgesprochen, die amerikanische Unternehmen schwächen könnten.
Seine Position spiegelt ein umfassenderes Argument der nationalen Sicherheit wider. Wenn die Vereinigten Staaten pausieren, während China weitermacht, könnten amerikanische Entwickler wirtschaftliche, wissenschaftliche und militärische Vorteile verlieren. Eine Sicherheitspolitik, die nur eine Seite bindet, könnte andere Risiken erhöhen.
Casar und Sanders antworten darauf mit der Forderung nach internationalen Vereinbarungen statt nach einer einseitigen Pause allein. Sie wollen, dass die Vereinigten Staaten gemeinsame Beschränkungen aushandeln und Exportkontrollen einsetzen, um den Zugang zu kritischer Technologie zu begrenzen.
Diese Strategie hängt von Überprüfbarkeit ab. Regierungen bräuchten glaubwürdige Methoden, um verbotene Entwicklungen zu erkennen, zivile Systeme von Militärprojekten zu unterscheiden und auf Verstöße zu reagieren, ohne einen noch geheimnisvolleren Wettlauf auszulösen.
Der zentrale Dissens besteht nicht darin, ob fortgeschrittene KI Aufmerksamkeit verdient. Es geht darum, ob Sicherheit durch Beschleunigung unter amerikanischer Führung entsteht oder durch durchsetzbare Grenzen für alle, einschließlich amerikanischer Labore.
Ein KI-Ministerium würde verändern, wer darüber entscheidet, was sicher ist
Das vorgeschlagene Ministerium würde die endgültige Sicherheitsentscheidung von den Modellentwicklern auf eine Regulierungsbehörde übertragen, doch dieser Transfer wirft neue Fragen zu Fachkompetenz und Rechenschaftspflicht auf.
Die Zuständigkeiten der US-Bundesbehörden für KI sind derzeit auf mehrere Stellen verteilt. Wettbewerbsbehörden befassen sich mit Marktverhalten, Bürgerrechtsbehörden untersuchen Diskriminierung, und sektorale Regulierungsbehörden wenden Regeln in Bereichen wie Finanzen und Gesundheit an.
Das Department of Artificial Intelligence würde eine einzelne Institution auf Kabinettsebene schaffen, die sich auf fortgeschrittene Systeme konzentriert. Sein Beratungsgremium würde technische Spezialisten in Entscheidungen über Modellfähigkeiten und Risiken einbeziehen.
Zentralisierung bietet praktische Vorteile. Ein eigenes Ministerium könnte institutionelles Wissen aufbauen, Ergebnisse laborübergreifend vergleichen und Risiken identifizieren, die traditionelle Zuständigkeitsgrenzen überschreiten.
Es könnte zudem einheitliche Berichtspflichten festlegen. Entwickler veröffentlichen Sicherheitsinformationen derzeit in unterschiedlichen Formaten und nutzen Bewertungen sowie Risikokategorien, die nicht immer übereinstimmen.
Gemeinsame Standards würden Vergleiche erleichtern. Sie könnten Labore verpflichten, fehlgeschlagene Schutzmaßnahmen, Tests gefährlicher Fähigkeiten, erhebliche Sicherheitsvorfälle und vor der Bereitstellung vorgenommene Änderungen zu melden.
Der Aufbau einer fachkundigen Regulierungsbehörde ist jedoch nicht so einfach wie die Gründung eines Ministeriums. Führende Forscher erhalten in privaten Laboren oft deutlich höhere Vergütungen. Die Regierung müsste Spezialisten gewinnen und zugleich verhindern, dass regulierte Unternehmen den technischen Prozess dominieren.
Regulatorische Vereinnahmung ist ein ernstes Problem. Die größten Unternehmen könnten komplexe Compliance-Standards um Ressourcen und Testmethoden herum gestalten, die kleinere Labore nicht finanzieren können.
Ein umfassendes Genehmigungssystem könnte etablierte Unternehmen unbeabsichtigt stärken. Wenn nur wenige Firmen Bewertungen, Rechtsteams, sichere Infrastruktur und laufende Berichterstattung finanzieren können, könnte der Wettbewerb zurückgehen, ohne den Einfluss der größten Entwickler zu verringern.
Das Beratungsgremium bräuchte klare Regeln zu Interessenkonflikten und ausreichend unterschiedliche Perspektiven, damit es nicht zu einer Erweiterung der Industrie oder einer einzelnen KI-Sicherheitsbewegung wird.
Technische Unsicherheit erschwert dies zusätzlich. Das Ministerium müsste Fähigkeiten mitunter regulieren, bevor sich Forscher auf verlässliche Messgrößen geeinigt haben. Falsch-negative Ergebnisse könnten ein gefährliches Modell zulassen, während falsch-positive Ergebnisse wertvolle Forschung blockieren könnten.
Die im Gesetzentwurf vorgeschlagene Vorläuferkategorie erweitert diese Herausforderung. Ein Modell, das Cyberoperationen verbessern oder biologische Forschung unterstützen kann, könnte neben gefährlichen auch legitime defensive Anwendungen haben.
Regulierungsbehörden müssten das Modell, seinen Zugang zu Werkzeugen, Bereitstellungskontrollen, Nutzerberechtigungen und den Kontext prüfen, in dem Ausgaben handlungsrelevant werden. Die Fähigkeit allein bestimmt möglicherweise nicht das reale Risiko.
Das Department of Artificial Intelligence müsste zudem sicheren Zugang zu vertraulichen Informationen haben. Modellarchitekturen, Trainingsmethoden, Bewertungsergebnisse und Sicherheitsmängel können Geschäftsgeheimnisse oder für Angreifer nützliches Material enthalten.
Das bedeutet, dass die Regulierungsbehörde selbst zu einem hochwertigen Ziel würde. Ihre Systeme müssten strenge Abschottung, Überprüfung des Personals, Vorfallmeldungen und Schutz vor politischem Missbrauch gewährleisten.
Die Entscheidungen des Ministeriums würden mehr als nur Laborforschung betreffen. Unternehmenskäufer könnten verzögerten Zugang zu neuen Modellen erhalten, Entwickler könnten mit neuen Beschränkungen für Programmierschnittstellen konfrontiert werden, und Cloud-Anbieter könnten Überwachungsaufgaben übernehmen müssen.
Wissensarbeiter könnten weniger schnelle Produktveröffentlichungen erleben, dafür aber stärker standardisierte Informationen über Modellgrenzen erhalten. Unternehmen könnten eine klarere Grundlage gewinnen, um Systeme zu bewerten, die in sensiblen Arbeitsabläufen eingesetzt werden.
Der Zielkonflikt ist klar. Eine bundesweite Genehmigung kann eine unabhängige Prüfung schaffen, die freiwilligen Unternehmensrichtlinien fehlt. Sie kann aber auch eine kleine Gruppe von Beamten dafür verantwortlich machen, eine Technologie zu beurteilen, deren Fähigkeiten weiterhin schwer zu messen sind.
Die größte Schwäche des Gesetzentwurfs ist die Durchsetzung eines undefinierten Schwellenwerts
Ein dauerhaftes Verbot funktioniert nur, wenn Regulierungsbehörden Superintelligenz vor der Bereitstellung erkennen und sie von fortgeschrittenen Systemen unterscheiden können, die weiterhin legal sind.
Der KI-Gesetzentwurf von Bernie Sanders definiert die verbotene Kategorie über menschliche kognitive Fähigkeiten und katastrophales Potenzial. Diese Konzepte vermitteln das Ziel der Initiatoren, lassen sich jedoch nur schwer in wiederholbare Tests übertragen.
Menschliche Fähigkeit ist keine einzelne Zahl. Menschen unterscheiden sich in Mathematik, wissenschaftlichem Denken, Gedächtnis, Kommunikation, Planung und physischer Interaktion.
Ein KI-System könnte bei manchen Aufgaben nahezu jeden Menschen übertreffen und zugleich bei grundlegendem Urteilsvermögen in ungewohnten Situationen versagen. Es könnte auch gewöhnliche Komponenten zu einem hochfähigen Agenten kombinieren, ohne dass ein einzelnes Modell superintelligent wirkt.
Der katastrophale Teil der Definition stellt ein verwandtes Problem dar. Regulierungsbehörden müssten beurteilen, ob ein System über genügend Fähigkeiten verfügt, um die Zerstörung oder Entmachtung der Menschheit zu planen und auszuführen.
Diese Prüfung hängt vom Zugang ab. Ein Modell, das in einem Labor isoliert ist, stellt ein anderes Risiko dar als dasselbe Modell mit Zugang zu Finanzkonten, Laborausrüstung, Kommunikationstools und dauerhaftem Computerzugang.
Auch die Absicht ist schwer zu bewerten. Aktuelle Modelle können während Tests täuschende Aussagen erzeugen, ohne stabile Ziele oder unabhängige Motive zu verfolgen. Jede solche Ausgabe als Beleg für eine autonome Bedrohung zu behandeln, würde die gegenwärtigen Fähigkeiten überzeichnen.
Das Verhalten als irrelevant abzutun, wäre ebenso nachlässig. Täuschung, Situationsbewusstsein und Widerstand gegen Aufsicht werden bedenklicher, wenn sie mit Werkzeugnutzung und Handlungsmöglichkeiten kombiniert werden.
Ein wirksames Prüfungssystem müsste daher mehrere Ebenen umfassen. Prüfer würden die reine Modellfähigkeit, das Agentendesign, externe Berechtigungen, Cybersicherheit, Überwachung und die Folgen eines erfolgreichen Versagens von Schutzmaßnahmen untersuchen.
Die strafrechtlichen Sanktionen des Gesetzentwurfs erhöhen den Bedarf an Präzision. Entwickler müssen wissen, welches Verhalten verboten ist, bevor sie ein Experiment beginnen. Vage Standards in Verbindung mit harten Strafen können legitime Forschung abschrecken und rechtliche Anfechtungen hervorrufen.
Auch der Ausdruck „corporate death penalty“ erfordert eine sorgfältige Behandlung. Die Initiatoren verwenden ihn, um Folgen für Organisationen zu beschreiben, die gegen die Verbote verstoßen oder sie umgehen. Sein genauer rechtlicher Mechanismus wäre für Unternehmen, Investoren, Beschäftigte und Gerichte von großer Bedeutung.
Der Vorschlag steht vor politischer Unsicherheit, noch bevor diese technischen Streitfragen praktisch relevant werden. Er verfügt derzeit nicht über breite Unterstützung, und die Aussichten im Kongress sind in einer von Republikanern kontrollierten Legislative schwierig.
Selbst einige Organisationen, die stärkere KI-Kontrollen anstreben, bevorzugen einen enger gefassten Ansatz. Brendan Steinhauser, CEO der Alliance for Secure AI, würdigte die Abgeordneten dafür, dass sie sich mit den Risiken von Superintelligenz auseinandersetzen, forderte jedoch eine maßvollere Politik.
Andere Kritiker argumentieren, dass Sprache über existenzielle Risiken von dokumentierten Schäden ablenken kann. Dazu gehören Betrug, Überwachung, Diskriminierung, Arbeitsplatzverdrängung, unzuverlässige automatisierte Entscheidungen und die Umweltbelastung durch Rechenzentren.
Diese Kritik widerlegt künftige katastrophale Risiken nicht. Sie stellt infrage, ob ein spekulativer Schwellenwert die Politik dominieren sollte, während heutige Systeme bereits Arbeitnehmer, Verbraucher und öffentliche Institutionen beeinflussen.
Der Gesetzentwurf könnte zudem die bevorzugte Rahmung der KI-Branche verstärken. Modelle als nahezu übermenschlich zu beschreiben, kann den wahrgenommenen Wert und die Autorität von Produkten erhöhen, die weiterhin fehleranfällig sind.
Die stärkste Fassung des Vorschlags würde beide Zeithorizonte berücksichtigen. Sie würde durchsetzbare Regeln für gegenwärtige Schäden schaffen und zugleich ein messbares System entwickeln, um Fähigkeiten zu erkennen, die stärkere Kontrollen rechtfertigen.
Ohne klare Tests, transparente Einspruchsmöglichkeiten und internationale Überprüfung könnte das Verbot entweder zu weit gefasst oder symbolisch werden. Sein Anspruch ist leichter zu verstehen als seine Umsetzung.
Drei Signale werden zeigen, ob der Vorschlag die KI-Politik verändert
Der Einfluss des Gesetzentwurfs wird an wachsender Unterstützung, technischer Präzision und internationalem Engagement gemessen werden, nicht allein an seiner Schlagzeile.
Das erste Signal ist, ob republikanische Abgeordnete eine bundesweite Überprüfung von Frontier-Systemen unterstützen. Sanders und Casar können das Thema aufbringen, aber ohne eine wesentlich breitere Koalition können sie kein neues Ministerium schaffen.
Die Sorge um KI hat bereits ungewöhnliche politische Bündnisse hervorgebracht. Sicherheitsbefürworter, arbeitsorientierte Progressive, nationalkonservative Sicherheitspolitiker und einige Technologie-Führungskräfte stimmen darin überein, dass die derzeitige Aufsicht unzureichend ist.
Diese Einigkeit schwindet, sobald Politik konkret wird. Einige befürworten Haftungsregeln, andere wollen vorübergehende Pausen, und wieder andere unterstützen Tests zur nationalen Sicherheit ohne Beschränkungen der kommerziellen Entwicklung.
Trump vertritt eine deutlich andere Position. Er bezeichnete Sorgen über katastrophale KI als Schwindel und fragte, warum Führungskräfte Regeln verlangen würden, die ihre eigenen Unternehmen schwächen könnten. Seine Ablehnung von Schutzmaßnahmen macht Unterstützung durch die Regierung unwahrscheinlich.
Wenn republikanische Abgeordnete verpflichtende Bewertungen oder ein enger gefasstes Genehmigungssystem unterstützen, würde das die zentrale Behauptung des Gesetzentwurfs stärken, dass freiwillige Aufsicht nicht länger genügt. Anhaltende parteipolitische Isolation würde seine kurzfristigen Aussichten schwächen.
Das zweite Signal ist das Entstehen operativer Definitionen. Gesetzgeber und Regulierungsbehörden müssen festlegen, welche Systeme einer Pause unterliegen, welche Belege ein Eingreifen auslösen und wie Unternehmen eine Entscheidung anfechten können.
Achten Sie auf messbare Schwellenwerte für Rechenressourcen, Bewertungen gefährlicher Fähigkeiten, autonomes Verhalten oder den Zugang zu externen Werkzeugen. Kein einzelner Schwellenwert wird ausreichen, aber eine strukturierte Kombination könnte die Durchsetzung glaubwürdiger machen.
Auch die Behandlung von Forschungsausnahmen wird wichtig sein. Defensive Cybersicherheit, Sicherheitstests, Interpretierbarkeitsforschung und kontrollierte wissenschaftliche Arbeit könnten Zugang zu Fähigkeiten erfordern, die verbotenen Funktionen ähneln.
Bleiben die Regeln breit und subjektiv, wird der Widerstand von Entwicklern und Forschern wachsen. Werden sie eng und testbar, könnte der Vorschlag weniger weitreichende Gesetzgebung beeinflussen, selbst wenn er nicht in seiner ursprünglichen Form verabschiedet wird.
Das dritte Signal ist, ob die Vereinigten Staaten und China über überprüfbare KI-Grenzen sprechen. Sanders hat Trump aufgefordert, Gespräche mit dem chinesischen Präsidenten Xi Jinping zu nutzen, um Superintelligenz und Mindeststandards für Sicherheit zu thematisieren.
Ein internationales Abkommen bräuchte mehr als gemeinsame Formulierungen zu verantwortungsvoller KI. Es würde Kontrollmechanismen, Meldevorschriften, Konsequenzen für verdeckte Entwicklung und Schutzmaßnahmen für legitime Forschung erfordern.
Fortschritte bei Inspektionen oder gemeinsamen Evaluierungen würden die globale Logik des Gesetzentwurfs stärken. Ein anhaltendes Wettrennen ohne Überprüfung würde die Schwäche jedes ausschließlich amerikanischen Verbots offenlegen.
Die nächsten ein bis drei Monate werden daher zeigen, ob der KI-Gesetzentwurf von Bernie Sanders zu einem dauerhaften politischen Rahmen wird oder ein politisches Signal bleibt.
Seine unmittelbare Verabschiedung ist nicht das einzige relevante Ergebnis. Der Vorschlag kann die Debatte prägen, indem er Gesetzgeber dazu zwingt, Fragen zu beantworten, die freiwillige Selbstverpflichtungen bisher vertagen ließen.
Wer definiert eine inakzeptable Fähigkeit? Wer überprüft die Sicherheitsbehauptungen eines Labors? Was geschieht, wenn ein Unternehmen sich weigert aufzuhören? Kann die Vereinigten Staaten die Entwicklung begrenzen, ohne strategisches Terrain preiszugeben?
Für Entwickler, Unternehmenskäufer und Wissensarbeiter werden diese Fragen zunehmend operativ. Neue Regeln könnten die Verfügbarkeit von Modellen, Prüfungen vor dem Einsatz, den Cloud-Zugang und die Nachweise verändern, die Unternehmen erbringen müssen, bevor Kunden fortschrittlichen Systemen vertrauen.
Die angemessene Reaktion ist weder Panik noch Abtun. Entscheidend ist, ob der Kongress messbare Definitionen schafft, ob Regulierungsbehörden echte technische Kompetenzen erhalten und ob internationale Gespräche sich in Richtung Überprüfung bewegen.
Das Verbot künstlicher Superintelligenz ist weiterhin ein Vorschlag, kein Bundesgesetz. Dennoch zieht es die bislang klarste Grenze, die ein prominenter amerikanischer Politiker vorgeschlagen hat: Einige Systeme sollten niemals gebaut werden, und Unternehmen sollten diese Grenze nicht allein festlegen. Die nächste Frage lautet, ob der Kongress dieses Prinzip in Regeln überführen kann, die präzise genug sind, um sie durchzusetzen.
