Anthropic unterstützt Petition zur KI-Entschleunigung, doch das Rennen kennt noch keine Bremsen

Anthropic hat eine Petition unterzeichnet, die von 1.293 Beschäftigten im Bereich Frontier AI unterstützt wird – trotz des enormen Drucks auf jedes große Labor, weiter voranzugehen. CEO Dario Amodei, mehrere Mitgründer und leitende Mitarbeitende haben ihren Namen hinzugefügt. Das Unternehmen erklärt, Regierungen sollten Instrumente vorbereiten, mit denen sich die automatisierte KI-Entwicklung verlangsamen lässt, falls die Risiken inakzeptabel werden.

Die Unterstützung ist bedeutsam, weil die Petition keinen sofortigen Stopp fordert. Sie ersucht die Vereinigten Staaten, internationale Bemühungen zu unterstützen, die eine bewusste Entschleunigung ermöglichen würden. Diese Unterscheidung grenzt die Initiative von früheren Briefen ab, die feste Pausen verlangten.

Sie legt zugleich den zentralen Konflikt offen. Anthropic argumentiert, die Gesellschaft brauche eine Notbremse, räumt aber ein, dass kein verantwortungsvolles Labor sie allein sicher betätigen könne. OpenAI, Google DeepMind, Meta und andere Frontier-Entwickler stehen vor demselben Wettlauf – selbst wenn ihre Beschäftigten die Sorgen teilen.

Anthropic macht aus einer Mitarbeiterpetition eine Unternehmensposition

Anthropic hat die Debatte über Entschleunigung von Mitarbeiterprotest zu einer offiziellen, von der Führung unterstützten Position verschoben.

Die Erklärung zur Entschleunigung besagt, führende KI-Unternehmen glaubten, sich der Automatisierung der KI-Forschung zu nähern. Ihre Unterzeichner warnen, dieser Übergang könne die Entwicklung von Fähigkeiten über die Fähigkeit der Gesellschaft hinaus beschleunigen, die daraus entstehenden Systeme zu verstehen oder zu kontrollieren.

Die Forderung des Briefs ist eng gefasst. Er ersucht die US-Regierung, internationale Bemühungen zur Entwicklung technischer und regulatorischer Instrumente zu unterstützen. Diese Instrumente würden teilnehmenden Ländern helfen, die automatisierte Entwicklung von Frontier AI bewusst zu entschleunigen.

„Frontier AI“ bezeichnet die leistungsfähigsten universell einsetzbaren Systeme, die derzeit entwickelt werden. „Automatisierte KI-Entwicklung“ geht über die Nutzung eines Chatbots für Code-Vorschläge hinaus. Gemeint sind Modelle, die wesentliche Teile der Forschung und Entwicklung übernehmen, die erforderlich sind, um ihre Nachfolger zu schaffen.

Anthropic bestätigte seine Unterstützung durch eine offizielle Unternehmensbekundung. Dem Beitrag zufolge wurde die Petition von Amodei, mehreren Mitgründern und leitenden Mitarbeitenden unterzeichnet. Die Unterstützung wurde direkt mit Anthropics jüngster Forschung zur rekursiven Selbstverbesserung verknüpft.

Diese Unterstützung verleiht der Petition ungewöhnliches institutionelles Gewicht. Beschäftigte unterzeichnen offene Briefe häufig als Privatpersonen, sodass ihre Arbeitgeber neutral bleiben können. Anthropic hat stattdessen die grundlegende Diagnose der Petition zu seiner eigenen gemacht.

Auch OpenAI unterstützte die Initiative, wie Berichte nach Veröffentlichung des Briefs nahelegten. Mitarbeitende von Google DeepMind, Meta, Microsoft, Thinking Machines und mehreren weiteren Organisationen unterzeichneten als Privatpersonen.

Die Gesamtzahl stieg nach dem Start der Petition weiter an. Die Website führte bei einer Überprüfung am 30. Juli 1.293 Beschäftigte auf, gegenüber rund 1.100, als Nachrichtenorganisationen erstmals darüber berichteten. Da die Liste weiterhin offen ist, handelt es sich um eine sich verändernde Zahl und nicht um eine feste Gesamtzahl zum Start.

Zu den Unterzeichnern gehören Forschende und Führungskräfte, die in vielen anderen politischen Fragen unterschiedlicher Meinung sind. John Schulman, Chief Scientist bei Thinking Machines, sagte, die Erklärung trage dazu bei, ein gemeinsames Bewusstsein für mögliche Koordinierungsbedarfe zu schaffen. Auch Meta AI Chief Scientist Shengjia Zhao unterzeichnete.

Ilya Sutskever, Mitgründer von Safe Superintelligence, warnte, jede Intervention müsse international funktionieren. Zugleich räumte er ein, dass eine schlechte Umsetzung die Lage verschlimmern könnte. Dieser Vorbehalt erfasst das tiefste Problem der Petition.

Die Erklärung benennt kein konkretes Modell, das eine Verlangsamung auslösen sollte. Sie enthält keinen verbindlichen Schwellenwert, keine Überwachungsbehörde, kein Inspektionssystem und keinen Durchsetzungsmechanismus. Sie fordert Regierungen auf, diese Instrumente zu entwickeln, bevor ein Notfall sie zum Improvisieren zwingt.

Damit ist Anthropics Schritt folgenreicher als eine allgemeine Sicherheitserklärung. Das Unternehmen sagt, ein internationales Bremssystem sollte existieren, obwohl es dessen vollständige Mechanik noch nicht definiert hat.

Warum Anthropics KI-Forschung den Zeitpunkt verändert hat

Die Petition kommt jetzt, weil KI Modellentwickler nicht mehr nur unterstützt. Sie beginnt, größere Teile ihrer Arbeit zu übernehmen.

Anthropics Juni-Bericht, AI builds itself, liefert die Grundlage für diese Position. Das Unternehmen beschreibt rekursive Selbstverbesserung als ein System, das seinen eigenen Nachfolger autonom entwirft und entwickelt.

Anthropic betont, dass heutige Systeme diesen Punkt noch nicht erreicht haben. Das Unternehmen erklärt außerdem, vollständige rekursive Verbesserung sei nicht unvermeidlich. Interne Daten deuteten jedoch darauf hin, dass der Entwicklungsprozess zunehmend automatisiert werde.

Stand Mai 2026 verfasste Claude Berichten zufolge mehr als 80 Prozent des Codes, der in Anthropics Codebasis übernommen wurde. Bevor Claude Code im Februar 2025 in die Forschungsvorschau ging, lag der Anteil im niedrigen einstelligen Prozentbereich.

Anthropic zufolge integrierte ein typischer Ingenieur des Unternehmens im zweiten Quartal 2026 täglich achtmal so viel Code wie 2024. Das Unternehmen weist offen darauf hin, dass das Codevolumen ein unvollkommener Maßstab für Produktivität ist. Mehr Zeilen bedeuten nicht automatisch bessere Software oder achtmal wertvollere Arbeit.

Dieser Vorbehalt ist wichtig. KI kann wiederholbaren Code, Tests, Migrationen und Dokumentation erzeugen, ohne einen entsprechenden Zuwachs bei anspruchsvollem Denken zu liefern. Ein Labor könnte daher einen deutlich höheren Output melden und seine zentralen Forschungsprobleme dennoch langsamer voranbringen.

Eine weitere interne Messung bietet eine andere Perspektive. In einer Umfrage unter 130 Anthropic-Forschungsmitarbeitenden im März 2026 schätzte der Median der Befragten den Output mit Mythos Preview auf das Vierfache. Anthropic warnte erneut, der tatsächliche Gewinn sei vermutlich geringer.

Die stärksten Belege des Unternehmens betreffen Arbeit mit klaren Zielen. In einer wiederkehrenden Optimierungsaufgabe erzielte Claude Opus 4 im Mai 2025 im Durchschnitt eine dreifache Beschleunigung. Mythos Preview erreichte Berichten zufolge bis April 2026 etwa das 52-Fache der Ausgangsleistung.

Ein qualifizierter menschlicher Forscher erzielte bei dieser Aufgabe typischerweise nach vier bis acht Stunden etwa eine vierfache Verbesserung. Anthropic warnt, das Ergebnis dürfe nicht als vergleichbarer Fortschritt für echtes Modelltraining interpretiert werden.

Die Entwicklung bleibt dennoch relevant, weil sie einen geschlossenen experimentellen Kreislauf veranschaulicht. Das Modell verändert Code, führt das Experiment aus, misst das Ergebnis und versucht es erneut. Ein Mensch legt Ziel und Bewertungsregeln fest, schreibt aber nicht jeden einzelnen Schritt vor.

Das ist keine vollständige rekursive Selbstverbesserung. Das System optimiert ein von Menschen gewähltes Ziel, statt selbst zu entscheiden, welchen Nachfolger es bauen soll. Anthropic erklärt, es bestünden weiterhin erhebliche Lücken, wenn Modelle Urteilsvermögen einsetzen, Ziele wählen oder die nützlichste Forschungsrichtung bestimmen müssen.

Doch schon Teilautomatisierung kann den Wettlauf beschleunigen, bevor vollständige Autonomie erreicht ist. Ein Labor, das Experimente schneller abschließt, kann mehr Ideen testen, schwache Ansätze früher verwerfen und früher mit dem Training seines nächsten Systems beginnen.

Dieselbe Fähigkeit kann auch der Alignment-Forschung helfen. Alignment bezeichnet die Bemühung, das Verhalten von Modellen an menschlichen Zielen und Beschränkungen auszurichten. Schnellere Experimente können neben allgemeinen Fähigkeiten auch Evaluierungen, Methoden zur Interpretierbarkeit und Schutzmaßnahmen verbessern.

Diese doppelte Nutzung erzeugt das Zeitproblem. Die Werkzeuge zur Untersuchung fortgeschrittener Systeme sind oft dieselben, die beim Bau dieser Systeme helfen. Bessere Forschungsagenten können Sicherheitsarbeit und die Entwicklung von Fähigkeiten gleichzeitig beschleunigen.

Anthropics Argument lautet daher nicht, dass bereits eine unkontrollierte Intelligenzexplosion begonnen habe. Vielmehr sollte sich die Gesellschaft vorbereiten, bevor automatisierte Forschung jeden Entwicklungszyklus spürbar verkürzt.

Der wahre Gegner ist Koordinierungsversagen

Der Hauptwettbewerb lautet nicht Anthropic gegen OpenAI. Es geht um gemeinsame Vorsicht gegen einen Wettlauf, der jedes allein handelnde Labor bestraft.

Jeder Frontier-Entwickler hat Anreize, weiterzumachen. Neue Modelle ziehen Nutzer, Unternehmensverträge, technische Talente, Kapital und strategische Partnerschaften an. Wer zurückfällt, könnte an Einfluss auf die später eingeführten Sicherheitsstandards verlieren.

Der nationale Wettbewerb fügt eine weitere Ebene hinzu. US-Politiker wollen, dass heimische Unternehmen ihren Vorsprung gegenüber chinesischen Laboren behalten. Jeder Vorschlag, der amerikanische Entwickler verlangsamt, wird Fragen auslösen, ob Wettbewerber anderswo mitziehen werden.

Anthropic erkennt dies ausdrücklich an. Seine Forschung besagt, eine isolierte Pause könne weniger vorsichtigen Akteuren ermöglichen, aufzuholen. Dieses Ergebnis könnte einen Spitzenreiter ersetzen, ohne die Gesamtrisiken zu verringern.

Eine wirksame Intervention würde mehrere gut ausgestattete Labore in mehreren Ländern erfordern, die unter vergleichbaren Bedingungen handeln. Die Beteiligten müssten wissen, dass Wettbewerber ihre Arbeit tatsächlich verlangsamt haben.

Die Überprüfung ist bei KI schwieriger als bei vielen Waffenprogrammen. Eine Raketenanlage verfügt über spezialisierte Ausrüstung und sichtbare Infrastruktur. KI-Entwicklung nutzt Rechenzentren, Chips, Software und Netzwerktechnik, die zugleich gewöhnlichen kommerziellen Zwecken dienen.

Trainingsläufe können zudem verborgen oder aufgeteilt werden. Regierungen bräuchten Überwachungsmethoden, die verbotene Entwicklung von erlaubter Bereitstellung, Evaluierung, akademischer Forschung und kleineren Experimenten unterscheiden.

Das System bräuchte einen Auslöser. Eine Regierung könnte tätig werden, wenn ein Modell eine gefährliche Cyber-Evaluierung besteht, einen festgelegten Anteil der KI-Forschung automatisiert oder komplexe Aufgaben über längere Zeiträume erledigt. Jede Option führt zu Streit über Messung und Durchsetzung.

Es bräuchte außerdem eine Regel für den Ausstieg. Eine Pause ohne klare Bedingungen für die Wiederaufnahme der Entwicklung könnte durch politische Trägheit dauerhaft werden. Eine schwache Ausstiegsregel könnte es Beteiligten erlauben, neu zu starten, bevor sich das zugrunde liegende Risiko verändert hat.

Schließlich muss eine Instanz entscheiden, ob der Auslöser erreicht wurde. Ein Labor kann nicht glaubwürdig als alleiniger Richter über seine eigenen Modelle dienen. Einer nationalen Behörde könnte der Zugang im Ausland fehlen, während die Aushandlung und Finanzierung eines internationalen Gremiums Zeit benötigen würde.

Diese Details erklären, warum die Petition nach Instrumenten statt nach einer sofortigen Verlangsamung verlangt. Ihre Autoren versuchen, eine Option zu schaffen, die derzeit nicht existiert.

Der Vorschlag ähnelt eher der Vorbereitung auf Rüstungskontrolle als gewöhnlicher Produktregulierung. Er erfordert gemeinsame Messverfahren, Inspektionsabläufe, Kommunikationskanäle und Konsequenzen bei Verschleierung. Diese Komponenten lassen sich nicht während einer schnell eskalierenden technischen Krise zusammenstellen.

Anthropics eigene Position enthält den Zielkonflikt klar. Das Unternehmen erklärt, es würde eine Verlangsamung oder vorübergehende Pause in Betracht ziehen, wenn andere Entwickler nahe der Frontier dies in überprüfbarer Weise ebenfalls täten.

Diese Bedingung ist vertretbar, aber anspruchsvoll. Ein Mechanismus, der nur funktioniert, wenn jeder wichtige Rivale kooperiert, kann an einem einzigen Verweigerer, einem versteckten Programm oder einem Streit über Fähigkeitsmessungen scheitern.

Die Alternative ist nicht einfacher. Einseitige Zurückhaltung kann zu einer Verschiebung des Wettbewerbsvorteils von der vorsichtigsten zur am wenigsten vorsichtigen Organisation führen. Das Ergebnis könnte schnellere Entwicklung unter schwächeren Schutzvorkehrungen sein.

Die breite Unterstützung für die Petition zeigt, dass Forschende dieses Kollektivhandlungsproblem erkennen. Sie zeigt nicht, dass Regierungen oder Unternehmen es gelöst haben.

Eine Petition ist keine KI-Bremse

Die stärkste Kritik ist simpel: Anthropic unterstützt eine Option, ohne zu erläutern, wie diese Option funktionieren würde.

Der Brief enthält keinen detaillierten politischen Vorschlag. Er definiert weder die Entwicklungsaktivitäten, die einer Verlangsamung unterliegen sollen, noch die betreffenden Fähigkeitsgrenzen oder die Länder, die für ein glaubwürdiges Abkommen erforderlich wären.

Er lässt zudem offen, ob „Verlangsamung“ eine Verzögerung einer öffentlichen Veröffentlichung, die Begrenzung eines Trainingslaufs, die Einschränkung von Rechenkapazität oder das Aussetzen der Forschungsautomatisierung bedeutet. Diese Eingriffe hätten unterschiedliche Kosten und Anforderungen an die Durchsetzung.

Eine Verzögerung der Veröffentlichung würde Laboren mehr Zeit für Evaluierungen geben, aber das interne Wachstum von Fähigkeiten nicht zwangsläufig verlangsamen. Eine Trainingsbeschränkung würde tiefer in die Forschung eingreifen, jedoch invasive Überwachung erfordern.

Grenzen für automatisierte Forschung stünden vor einem Klassifizierungsproblem. Coding-Assistenten tragen bereits zu gewöhnlicher Softwareentwicklung, Sicherheitsprüfungen und Modellevaluierungen bei. Regulierungsbehörden müssten harmlose Unterstützung von Systemen trennen, die die Entwicklung von Nachfolgemodellen erheblich beschleunigen können.

Kritiker hinterfragen auch, warum Labore die Regierung benötigen, um Arbeiten einzuschränken, die sie selbst kontrollieren. Der frühere Microsoft-Manager Steven Sinofsky argumentierte, Beschäftigte, die sich über die Richtung ihrer Unternehmen sorgten, könnten kündigen oder andere Arbeit suchen.

Diese Kritik verfehlt einen Teil der Logik der Petition. Ein einzelner Mitarbeiter oder ein einzelnes Unternehmen kann kein Wettrennen mit mehreren Unternehmen stoppen. Sie legt jedoch eine reale Verantwortungslücke offen, wenn Unterstützer staatliche Intervention fordern, ohne freiwillige Maßnahmen innerhalb ihrer eigenen Organisationen vorzuschlagen.

Labore könnten gemeinsame Evaluierungen veröffentlichen, mehr Informationen über KI-gestützte Forschung offenlegen und eine gemeinsame Meldung von Vorfällen einführen, bevor Regierungen handeln. Sie könnten sich auch auf vorläufige Warnschwellen einigen, ohne die Entwicklung sofort einzuschränken.

Schulmans Kommentar zur Petition unterstützt diese Richtung. Er sagte, Labore sollten freiwillig mit der Gestaltung von Koordinierungsmechanismen beginnen, noch bevor die US-Regierung eingebunden wird.

Ein weiterer Einwand betrifft Marktmacht. Komplexe Lizenzierungen, Überwachung von Rechenleistung und verpflichtende Evaluierungssysteme könnten Unternehmen begünstigen, die bereits umfangreiche Infrastruktur kontrollieren. Kleinere Labore und unabhängige Forschende könnten Schwierigkeiten haben, die Anforderungen zu erfüllen.

Ein Verlangsamungsregime könnte daher den Wettbewerb verringern, während die größten Unternehmen die Kontrolle über fortgeschrittene Systeme behalten. Diese Möglichkeit verdient Aufmerksamkeit, weil die Unternehmen, die vor Frontier-Risiken warnen, zugleich starke kommerzielle Interessen haben.

Anthropics breitere politische Position verschärft die Prüfung. Das Unternehmen hat stärkere Kontrollen für fortgeschrittene Modelle unterstützt und zugleich leistungsfähigere Claude-Systeme veröffentlicht.

Dieses Verhalten ist nicht zwangsläufig widersprüchlich. Ein Unternehmen kann der Ansicht sein, dass die wettbewerbliche Entwicklung fortgesetzt werden sollte, bis es eine koordinierte Alternative gibt. Es kann auch Regeln befürworten, die gleichermaßen für Wettbewerber gelten.

Die Konstellation schafft jedoch einen offensichtlichen Glaubwürdigkeitstest. Anthropic muss zeigen, dass seine bevorzugten Kontrollen auf messbare Risiken abzielen und nicht auf Technologien oder Wettbewerber, die seine Marktposition gefährden.

Die jüngste Haltung des Unternehmens zu Open-Weight-Modellen veranschaulicht diese Spannung. Open-Weight-Systeme ermöglichen es Nutzern, Modellparameter herunterzuladen und zu verändern. Befürworter sagen, sie verbesserten Zugang, Forschung, Wettbewerb und nationale Kontrolle über Technologie.

Anthropic argumentiert, dass die leistungsfähigsten offenen Systeme nach ihrer Veröffentlichung schwer einzudämmen sein können. Das Unternehmen lehnte es ab, sich einem separaten Branchenbrief gegen weitreichende Beschränkungen für Open Weights anzuschließen, und isolierte sich damit von mehreren großen Technologieunternehmen.

Eine Spaltung in der Branchenpolitik entkräftet Anthropics Sicherheitsargument nicht. Sie zeigt jedoch, dass die Bedeutung von „verantwortungsvoller Verlangsamung“ umstritten sein wird.

Meta, Nvidia und Befürworter offener Modelle werden sich gegen Regeln wehren, die herunterladbare Systeme strukturell benachteiligen. Labore mit geschlossenen Modellen werden argumentieren, dass irreversible Veröffentlichungen eine besondere Behandlung erfordern.

Regierungen müssen diesen Konflikt lösen, ohne Unternehmen Regeln rund um ihre eigenen Geschäftsmodelle schreiben zu lassen. Andernfalls kann ein Sicherheitsrahmen zu Industriepolitik werden, die jene Gruppe begünstigt, die den besten Zugang zu Regulierungsbehörden hat.

Die Petition sollte daher als Aufforderung verstanden werden, mit institutioneller Gestaltung zu beginnen, nicht als Beleg dafür, dass bereits ein funktionierendes Regime existiert. Ihr Wert liegt darin, die fehlende Bremse zu benennen. Ihre Schwäche ist das Fehlen eines technischen Plans, um eine solche Bremse zu bauen.

Was Anthropics Position für KI-Nutzer und Unternehmen bedeutet

Die unmittelbare Auswirkung ist kein langsamerer Claude-Veröffentlichungsrhythmus. Sie besteht in größerer Unsicherheit darüber, wie Frontier-Systeme bewertet, gesteuert und beschafft werden.

Entwickler sollten nicht erwarten, dass die Petition Modellverbesserungen im nächsten Monat stoppt. Sie schafft keine verbindliche Verpflichtung, und Anthropic hat keine Pause angekündigt, die an die Unterstützung gebunden wäre.

Die kurzfristige Veränderung wird sich in politischen Debatten zeigen. Regierungen können nun auf öffentliche Unterstützung von Beschäftigten und Führungskräften konkurrierender Labore verweisen, wenn sie Evaluierungs- oder Überwachungsanforderungen vorschlagen.

Unternehmenskäufer sollten diese Debatten verfolgen, weil Modell-Governance die Beschaffung beeinflusst. Ein Unternehmen, das Frontier-Systeme in Coding, Forschung, Kundensupport oder Sicherheit integriert, muss wissen, ob künftige Veröffentlichungen Verzögerungen oder Nutzungsbeschränkungen unterliegen könnten.

Käufer sollten außerdem Modellleistung von Modellkontinuität unterscheiden. Das am höchsten bewertete System ist nicht automatisch die sicherste langfristige Abhängigkeit, wenn sich der Zugriff nach einer Evaluierung, einem politischen Streit oder einem Sicherheitsvorfall ändern kann.

Teams können dieses Risiko durch modellunabhängige Arbeitsabläufe verringern. Sie sollten Prompts, Evaluierungen, Quellmaterialien und Entscheidungsdokumentationen außerhalb der Schnittstelle eines einzelnen Anbieters aufbewahren.

Diese Praxis ist wichtig, wenn ein Modell sein Verhalten verändert oder nicht mehr verfügbar ist. Eine durchsuchbare technische Wissensdatenbank kann den Kontext bewahren, der nötig ist, um Alternativen zu vergleichen, ohne jede Entscheidung neu rekonstruieren zu müssen.

Softwareteams sollten auch eigene Abnahmetests erstellen. Anbieter-Benchmarks bilden selten die tatsächliche Codebasis, Risikotoleranz, Freigabeprozesse oder regulatorischen Verpflichtungen eines Unternehmens ab.

Wenn automatisierte Forschung wie von Anthropic erwartet voranschreitet, werden Aktualisierungszyklen schwieriger zu steuern. Ein Modell könnte zwischen geplanten Sicherheitsprüfungen oder Beschaffungsmeilensteinen bedeutende neue Fähigkeiten gewinnen.

Unternehmen werden schnellere Evaluierungsprozesse benötigen, ohne menschliche Verantwortlichkeit aufzugeben. Dazu gehören das Testen des Modellverhaltens, die Dokumentation von Änderungen und die Festlegung, welche Aufgaben eine Genehmigung erfordern.

Wissensarbeiter stehen vor einem verwandten Problem. Schnellere Systeme können mehr Analysen, Code und Dokumente erzeugen, als Teams prüfen können. Das Ausgabevolumen wird zum Risiko, wenn die Kapazität zur menschlichen Überprüfung unverändert bleibt.

Anthropics eigene Code-Statistiken veranschaulichen dieses Ungleichgewicht. Achtmal mehr zusammengeführter Code bedeutet nicht achtmal mehr menschliche Aufmerksamkeit für Sicherheit, Architektur und Wartung.

Organisationen sollten Fehlerkorrektur, Prüfzeit, Vorfälle und nachgelagerten Nutzen neben der erzeugten Ausgabe messen. Andernfalls kann ein scheinbarer Produktivitätsgewinn zusätzliche Prüfungsarbeit verdecken.

Sicherheitsteams haben den stärksten Grund, aufmerksam zu sein. Forschungsautomatisierung kann Verteidigern helfen, Schwachstellen zu entdecken, aber sie kann auch die Kosten offensiver Experimente senken.

Ein Verlangsamungsmechanismus könnte sich letztlich zunächst auf Cyberfähigkeiten konzentrieren, weil sie durch kontrollierte Übungen bewertet werden können. Das würde beeinflussen, wie Labore agentische Coding-Tools veröffentlichen oder Zugang zu ihren leistungsfähigsten Modellen gewähren.

Für einzelne Nutzer ist die Petition vor allem ein Governance-Signal. Sie besagt, dass die Menschen, die Frontier-Systeme entwickeln, zunehmend glauben, dass Entwicklungsgeschwindigkeit eine politische Variable und keine unvermeidliche Naturgewalt geworden ist.

Die wichtige Formulierung lautet „Option, Zeit zu gewinnen“. Unterstützer sagen nicht, dass jeder Fortschritt gestoppt werden sollte. Sie argumentieren, dass die Gesellschaft reagieren können sollte, wenn gemessene Risiken schneller steigen, als sich Institutionen anpassen können.

Ob diese Option Nutzer schützt, hängt von ihrer Ausgestaltung ab. Ein transparenter Mechanismus könnte bei gefährlichen Übergängen mehr Zeit für Evaluierungen schaffen. Ein undurchsichtiger Mechanismus könnte Kontrolle zentralisieren und zugleich wenig unabhängige Belege für erhöhte Sicherheit liefern.

Drei Signale zeigen, ob Verlangsamung Realität wird

Der nächste Test besteht darin, ob Anthropic und andere Unterstützer eine kurze Erklärung in Schwellenwerte, Verifikationsmethoden und internationale Beteiligung überführen.

Das erste Signal ist eine konkrete Evaluierungsschwelle. Anthropics Forschungsbereich plant, in den kommenden Monaten politische Entscheidungsträger, Forschende, zivilgesellschaftliche Organisationen und konkurrierende Labore zusammenzubringen.

Diese Gespräche sollten mehr hervorbringen als allgemeine Grundsätze. Ein glaubwürdiger Vorschlag braucht beobachtbare Bedingungen, die einen Eingriff rechtfertigen. Dazu könnten autonome Forschungsleistung, gefährliche Cyberfähigkeiten oder ein anhaltender Betrieb ohne menschliche Korrektur gehören.

Die gewählten Messgrößen müssen einer unabhängigen Prüfung standhalten. Anthropics interne Produktivitätsdaten sind aufschlussreich, doch ein Unternehmen kann öffentliche Politik nicht allein auf private Belege stützen.

Externe Evaluatoren benötigen Zugang zu Systemen, Methoden und reproduzierbaren Ergebnissen. Sie brauchen außerdem klare Verfahren für den Umgang mit sensiblen Fähigkeiten, ohne Anleitungen zu veröffentlichen, die Missbrauch erleichtern.

Eine öffentliche Schwelle würde Anthropics Argument stärken, weil sie „zu schnell“ in eine überprüfbare Behauptung verwandeln würde. Eine fortgesetzte Abhängigkeit von allgemeinen Warnungen würde es schwächen.

Das zweite Signal ist ein Verifizierungsvorschlag, der internationale Wettbewerber einschließt. Das Kernproblem besteht nicht darin, Anthropic zum Pausieren zu bewegen. Es besteht darin festzustellen, ob andere Frontier-Programme ebenfalls langsamer geworden sind.

Ein funktionsfähiger Vorschlag muss erklären, was überwacht werden kann, welche Akteure Zugang erhalten und wie Verstöße erkannt werden. Er muss kommerzielle Cloud-Infrastruktur, private Rechenzentren und staatliche Programme berücksichtigen.

China ist für diese Frage zentral, sollte jedoch nicht als Vorwand dienen, Vorarbeiten zu vermeiden. US-Unternehmen und -Behörden können Messstandards entwickeln, bevor ein vollständiges diplomatisches Abkommen besteht.

Auch technische Überwachung kann verbessert werden, ohne sofort verbindliche Grenzen zu schaffen. Labore könnten große Trainingsläufe registrieren, standardisierte Evaluierungsergebnisse teilen oder ungewöhnlich leistungsfähige Forschungsagenten einer unabhängigen Stelle melden.

Solche Maßnahmen würden die Einhaltung nicht garantieren. Sie würden jedoch helfen zu zeigen, ob das Verifizierungsproblem beherrschbar ist oder grundsätzlich mit der heutigen Infrastruktur unvereinbar bleibt.

Eine bedeutungsvolle Beteiligung von Entwicklern außerhalb der USA würde das Argument für Verlangsamung stärken. Ein auf inländische Unternehmen beschränkter Plan würde sein zentrales Wettbewerbsrisiko ungelöst lassen.

Das dritte Signal sind freiwillige Maßnahmen der Unterstützer der Petition. Anthropic, OpenAI und andere Labore brauchen keinen Vertrag, um Transparenz zu verbessern oder Evaluierungen zu koordinieren.

Sie können Definitionen für automatisierte KI-Forschung veröffentlichen, Warnindikatoren benennen und interne Eskalationsverfahren beschreiben. Sie können außerdem offenlegen, wenn ein Modell die Geschwindigkeit der Entwicklung von Nachfolgemodellen wesentlich verändert.

Anthropic hat bereits mehr interne Belege geliefert als die meisten Wettbewerber. Der nächste Schritt sollte diese Belege mit Entscheidungen verbinden. Leser müssen wissen, welche beobachtete Veränderung das Unternehmen dazu bewegen würde, Training, Einsatz oder Veröffentlichung zu verzögern.

Freiwillige Verpflichtungen würden staatliche Aufsicht nicht ersetzen. Sie würden zeigen, dass Unterstützer Verlangsamung als operatives Sicherheitsprojekt und nicht als PR-Position betrachten.

Ein Ausbleiben von Maßnahmen würde das Argument der Kritiker stärken. Labore würden weiter um die Wette entwickeln und zugleich Regierungen bitten, ein Problem zu lösen, das sie selbst nicht in praktische Kontrollen übersetzt haben.

Die Petition hat bei einer wichtigen Aufgabe Erfolg gehabt. Sie hat gezeigt, dass die Sorge über die automatisierte KI-Entwicklung Unternehmensgrenzen, technische Rollen und langjährige politische Trennlinien überschreitet.

Die geforderte Bremse hat sie jedoch nicht geschaffen. Es gibt keinen gemeinsamen Auslöser, kein internationales Verifizierungssystem ist in Betrieb, und bislang kann keine Instanz eine koordinierte Pause durchsetzen.

Diese Lücke ist nun die eigentliche Geschichte. Anthropic hat öffentlich eingeräumt, dass die Entwicklung an der KI-Spitze möglicherweise bewusst verlangsamt werden muss, doch seine Unterstützung erhöht den Maßstab für das, was als Nächstes folgen muss.

Achten Sie auf veröffentlichte Schwellenwerte, Vorschläge für internationale Überwachung und freiwillige Verpflichtungen von KI-Laboren. Wenn diese kommen, wird die Petition einen Governance-Prozess angestoßen haben. Wenn nicht, bleibt Anthropic im selben Wettlauf – fordert Bremsen, während jeder Wettbewerber weiter beschleunigt.