Guterres' KI-Leitplanken stellen globale Zusammenarbeit gegen das KI-Rennen
António Guterres forderte am 16. September koordinierte KI-Schutzvorkehrungen und warnte, dass freiwillige Pausen Risiken, die sich über nationale Grenzen hinweg ausbreiten, nicht eindämmen können. Der Vorschlag für Guterres' KI-Leitplanken bringt Regierungen, Entwickler von Spitzen-KI und konkurrierende nationale Strategien in denselben Konflikt. Die KI-Fähigkeiten schreiten in einem globalen Wettlauf voran, während die meisten Sicherheitszusagen lokal, freiwillig oder schwer überprüfbar bleiben.
Der UN-Generalsekretär richtete seinen Appell vor der hochrangigen Woche der 81. UN-Generalversammlung in New York an die Öffentlichkeit. Er argumentierte, dass Regierungen Bürger vor KI-Risiken schützen und zugleich die Vorteile der Technologie für Bildung, Gesundheit, Entwicklung und Klimaresilienz bewahren müssten.
Sein Eingreifen war konkreter als ein allgemeiner Appell für verantwortungsvolle Innovation. Guterres wies isolierte Pausen als ausreichende Antwort zurück und forderte Kontakt, Informationsaustausch und gemeinsame Schutzvorkehrungen zwischen Ländern mit fortgeschrittenen KI-Fähigkeiten. Diese Position stellt sowohl uneingeschränkten Wettbewerb als auch die Annahme infrage, einzelne Unternehmen könnten systemische Risiken allein bewältigen.
Die zentrale Frage ist die Durchsetzung. Regierungen stimmen weitgehend darin überein, dass KI sicher, transparent und rechenschaftspflichtig sein sollte, unterscheiden sich jedoch darin, wer Grenzen setzen soll. Sie sind sich auch uneinig darüber, ob eine Verlangsamung der Entwicklung die Öffentlichkeit schützen oder wirtschaftliche und strategische Vorteile preisgeben würde.
Guterres' KI-Leitplanken führen die Debatte über freiwillige Pausen hinaus
Guterres fordert Regierungen dazu auf, verstreute Zusagen durch ein koordiniertes System zur Erkennung und Bewältigung von Risiken durch Spitzen-KI zu ersetzen.
Auf seiner Pressekonferenz im September sagte Guterres, die KI-Entwicklung schreite schneller voran als das Verständnis der Gesellschaft für ihre Gefahren. Er merkte an, dass einige Entwickler eine Pause gefordert hätten, während viele andere Leitplanken befürworteten.
Seine Antwort war keine Befürwortung eines sofortigen weltweiten Stopps. Stattdessen sagte er, freiwillige Pausen würden scheitern, wenn sie isoliert, nicht überprüfbar und ungleich angewandt seien. Ein Labor, das langsamer vorgeht, hat wenig Wirkung, wenn Wettbewerber andernorts weiterhin leistungsfähigere Modelle entwickeln.
Diese Unterscheidung definiert den Vorschlag. Eine Pause konzentriert sich auf das Entwicklungstempo, während eine Leitplanke Bedingungen festlegt, unter denen Entwicklung, Tests oder Einsatz fortgesetzt werden können. Zu diesen Bedingungen könnten unabhängige Bewertungen, Meldungen von Vorfällen, Zugriffskontrollen, Sicherheitsanforderungen oder Schwellenwerte gehören, die zusätzliche Aufsicht auslösen.
Guterres legte keinen fertigen Regulierungsrahmen vor. Er forderte ein gemeinsames Verständnis dafür, wann zunehmend leistungsfähige Systeme stärkere Schutzvorkehrungen erfordern. Das unmittelbare Ziel ist daher politische Koordinierung, nicht ein einzelnes detailliertes globales Gesetz.
Er wies Regierungen zudem die Hauptverantwortung zu. KI-Unternehmen entwickeln und betreiben die Systeme, doch Regierungen verfügen über rechtliche Befugnisse, diplomatische Kanäle und öffentliche Rechenschaftspflicht. Sein Argument lautet, dass Unternehmenszusagen diese Funktionen nicht ersetzen können, wenn Fehler Menschen außerhalb des Heimatmarkts eines Unternehmens betreffen.
Die internationale Dimension ist wichtig, weil dasselbe Modell Nutzern in vielen Ländern dienen kann. Eine Cyberfähigkeit, ein täuschendes Werkzeug für synthetische Medien oder ein automatisiertes Forschungssystem kann über Softwarezugang Grenzen überschreiten. Nationale Regeln können einen Anbieter einschränken, aber sie können Schäden, die andernorts entstehen oder verbreitet werden, nicht vollständig eindämmen.
Guterres bezeichnete KI neben der Klimakrise und zunehmender Ungleichheit als eine von drei existenziellen Bedrohungen für die Welt. Diese Beschreibung ordnet KI-Governance in die umfassendere Verantwortung der UN für kollektive Risiken ein, belegt jedoch nicht, dass jedes heutige KI-System eine existenzielle Gefahr darstellt.
Er sagte außerdem, KI werde in seinen Gesprächen mit Staats- und Regierungschefs in der folgenden Woche ein zentrales Thema sein. Er wies jedoch die Idee zurück, während der Zusammenkunft der Generalversammlung umgehend einen KI-Gipfel einzuberufen. Ein ernsthafter Gipfel würde Vorbereitung und Beteiligung von Regierungen, Unternehmen, Wissenschaftlern und der Zivilgesellschaft erfordern.
Dieser abgewogene Zeitplan ist bedeutsam. Er vermeidet, ein einzelnes diplomatisches Treffen als Lösung für ein technisches und geopolitisches Problem darzustellen. Zugleich schafft er eine schwierigere Prüfung: Die UN muss die Aufmerksamkeit während der hochrangigen Woche in einen Prozess überführen, der konkrete, überprüfbare Verpflichtungen hervorbringt.
Der Vorschlag für Guterres' KI-Leitplanken verändert damit die politische Fragestellung. Es geht nicht länger nur darum, ob fortgeschrittene KI langsamer werden sollte. Es geht darum, ob Regierungen gemeinsame Auslöser, Testmethoden und Kommunikationskanäle etablieren können, bevor Wettbewerbsdruck Zurückhaltung politisch inakzeptabel macht.
Der Druck lastet auf Regierungen und Spitzen-KI-Laboren
Regierungen stehen nun unter Druck, durchsetzbare Sicherheitserwartungen zu definieren, während KI-Labore zeigen müssen, dass ihre internen Kontrollen auch außerhalb sorgfältig gesteuerter Demonstrationen funktionieren.
Guterres richtete seine schärfste institutionelle Forderung an nationale Regierungen. Er beschrieb den Schutz der Bürger vor KI-Bedrohungen als grundlegende staatliche Verantwortung. Diese Position stellt politische Entscheidungsträger infrage, die Sicherheitsentscheidungen weitgehend den Entwicklern überlassen möchten.
Sie erhöht auch den Druck auf Spitzenlabore, also Organisationen, die die leistungsfähigsten universell einsetzbaren Modelle entwickeln. Diese Unternehmen veröffentlichen häufig Sicherheitsrahmenwerke, Modellbewertungen und Einsatzrichtlinien. Dennoch definiert jede Organisation ihre eigenen Schwellenwerte, wählt viele ihrer eigenen Tests aus und entscheidet, wie viele Belege sie offenlegt.
Eine freiwillige Verpflichtung kann aufrichtig sein und dennoch als öffentliche Politik scheitern. Wettbewerber können Risiken unterschiedlich bewerten. Neue Marktteilnehmer könnten eine Teilnahme ablehnen. Regierungen und externe Forscher verfügen möglicherweise nicht über den technischen Zugang, der nötig ist, um zu überprüfen, ob ein Unternehmen seinem erklärten Verfahren gefolgt ist.
Wettbewerbsanreize verschärfen diese Schwäche. Ein Labor, das ein Modell für zusätzliche Tests verzögert, trägt die Kosten, während ein anderer Entwickler Nutzer, Umsatz, Talente und strategischen Einfluss gewinnen kann. Sicherheit wird zu einem Problem kollektiven Handelns, bei dem individuell rationale Entscheidungen zu einem insgesamt weniger sicheren Ergebnis führen.
Die jüngste Branchendebatte veranschaulicht diesen Konflikt. Einige führende Manager haben Modellbewertungen, Überwachung und begrenzte Formen abgestimmter Taktung unterstützt. Andere warnen, weitreichende Beschränkungen würden Macht bei etablierten Laboren konzentrieren oder ausländischen Wettbewerbern Vorteile verschaffen.
Der Streit verläuft nicht einfach zwischen Sicherheitsbefürwortern und Technologieunternehmen. Er besteht auch unter KI-Entwicklern. Unternehmen unterscheiden sich darin, welchen Gefahren sie Vorrang einräumen, wie Evaluatoren arbeiten sollten und ob Regierungen technische Arbeit beaufsichtigen können, ohne den Wettbewerb einzufrieren.
Ein Anliegen ist regulatorische Vereinnahmung. Wenn eine kleine Gruppe großer Labore dabei hilft, globale Schwellenwerte festzulegen, könnten diese Regeln ihre Systeme, Ressourcen und kommerziellen Interessen widerspiegeln. Compliance-Kosten, die für etablierte Entwickler handhabbar erscheinen, könnten kleinere Unternehmen und akademische Teams ausschließen.
Cohere-CEO Aidan Gomez äußerte diese Sorge in der breiteren Debatte über abgestimmte KI-Taktung. Er argumentierte, Regeln für folgenreiche Technologie sollten nicht von einer kleinen Gruppe kommerziell ausgerichteter Unternehmen geschrieben werden. Sein Einwand beseitigt nicht den Bedarf an Schutzvorkehrungen, stellt aber infrage, wer sie gestalten darf.
Unabhängige Experten haben zudem bezweifelt, ob eingebettete Evaluatoren tatsächlich unabhängig wären. Ein Prüfer, der für Zugang, Finanzierung oder fortgesetzte Zusammenarbeit von einem Unternehmen abhängt, könnte beim Berichten über ungünstige Ergebnisse Einschränkungen unterliegen. Gemeinsame Standards sind nur dann relevant, wenn Außenstehende prüfen können, wie sie funktionieren.
Gleichzeitig fehlt Regierungen vollständige Sicht auf die Entwicklung von Spitzen-KI. Beamte wissen möglicherweise nicht, wann ein Modell eine gefährliche Fähigkeit erlangt, wie interne Bewertungen aufgebaut wurden oder ob eine gemeldete Maßnahme nach dem Einsatz wirksam bleibt. Fachwissen ist über Behörden und Länder hinweg ungleich verteilt.
Diese Asymmetrie verschafft Laboren Einfluss auf die Belege, die zur Regulierung ihrer Tätigkeit verwendet werden. Sie erklärt auch, warum Guterres politische Koordinierung mit unabhängiger wissenschaftlicher Bewertung verknüpfte. Politische Entscheidungsträger benötigen eine gemeinsame technische Grundlage, bevor sie sich auf Schwellenwerte einigen oder nationale Durchsetzung vergleichen können.
Unternehmenskunden sehen sich einem ähnlichen Druck gegenüber. Sie setzen KI zunehmend für Softwareentwicklung, Forschung, Kundensupport, Einstellung und Wissensarbeit ein. Globale regulatorische Fragmentierung kann diese Organisationen dazu zwingen, unterschiedliche Offenlegungs- und Compliance-Anforderungen über verschiedene Märkte hinweg zu bewerten.
Gute interne Aufzeichnungen helfen Teams zu verstehen, welche Systeme sensible Informationen verarbeitet haben, welche Ergebnisse Entscheidungen beeinflussten und wann sich Richtlinien änderten. Eine durchsuchbare KI-Wissensbasis kann Regulierung nicht ersetzen, aber sie kann die für Audits und Vorfallprüfungen benötigten Belege bewahren.
Die erzwungene Reaktion ist daher zweifach. Regierungen müssen durchsetzbare Anforderungen entwickeln, die internationalem Wettbewerb standhalten. KI-Labore müssen Formen von Tests und Offenlegung akzeptieren, die nicht vollständig auf Vertrauen in ihre eigenen Sicherheitsbehauptungen angewiesen sind.
Globale Koordinierung kollidiert mit dem KI-Rennen
Der Hauptkonflikt besteht zwischen koordinierter Sicherheit und einem strategischen Wettlauf, in dem jedes Land fürchtet, dass Zurückhaltung seinen Rivalen zugutekommen wird.
Guterres räumte ein, dass geopolitische Spaltungen führende Staaten dazu drängen könnten, KI möglichst schnell zu entwickeln. In diesem Umfeld könnte eine Regierung den Sicherheitsvorschlag eines anderen Landes als Versuch sehen, die eigenen Fähigkeiten einzuschränken, statt die Öffentlichkeit zu schützen.
Die Vereinigten Staaten und China prägen diese Spannung, doch Guterres sagte ausdrücklich, die Koordinierung müsse über die beiden größten Mächte hinausgehen. Andere Länder beherbergen fortgeschrittene Labore, Lieferketten für Halbleiter, Rechenzentren, Forschungseinrichtungen und bedeutende Pools technischer Fachkräfte.
Kein universeller Rahmen kann funktionieren, wenn er diese Regierungen nur als Regelnehmer behandelt. Länder mit geringerer Rechenkapazität haben ebenfalls eigene Interessen. Sie wollen Zugang zu den wirtschaftlichen Vorteilen von KI, Vertretung bei der Festlegung von Standards und Schutz vor anderswo entwickelten Systemen.
Das unterscheidet KI-Governance von einem einfachen Produktsicherheitsregime. Die zugrunde liegende Technologie betrifft wissenschaftliche Forschung, Militärplanung, Cyberoperationen, industrielle Wettbewerbsfähigkeit und Informationssysteme. Regierungen sehen in denselben Modellen sowohl kommerzielle Chancen als auch nationale Macht.
Die Vereinigten Staaten haben betont, ihre Führungsrolle gegenüber China zu bewahren und Beschränkungen zu vermeiden, die heimische Entwickler schwächen. Der politische Widerstand gegen weitreichende Taktungsmaßnahmen spiegelt Sorgen um Arbeitsplätze, Investitionen, Verteidigung und strategische Vorteile wider. Er spiegelt auch Skepsis gegenüber zentralisierter internationaler Kontrolle wider.
China verfolgt eigene Prioritäten in den Bereichen Sicherheit, Entwicklung und Governance. Jede bedeutungsvolle globale Vereinbarung müsste Mechanismen enthalten, die beide Seiten für glaubwürdig halten. Allgemeine Erklärungen zu verantwortungsvoller KI werden Streitigkeiten über Modellzugang, Halbleiterkontrollen, Inspektionen oder sensible technische Informationen nicht lösen.
Guterres verwies auf die Kommunikation während des Kalten Krieges. Die Vereinigten Staaten und die Sowjetunion hielten trotz tiefgreifender Feindseligkeit Kontakt und verhandelten Maßnahmen zur Risikominderung. Die Analogie unterstützt begrenzte Koordinierung zwischen Wettbewerbern, ohne politische Übereinstimmung zu verlangen.
KI ist jedoch nicht mit Atomwaffen gleichzusetzen. Die Spitzenentwicklung ist auf private Unternehmen, Forschungseinrichtungen, Cloud-Anbieter und Regierungen verteilt. KI-Systeme werden zudem schneller kopiert, verändert und eingesetzt als große Waffensysteme.
Die relevante Lehre ist enger gefasst. Rivalisierende Mächte können Kommunikationskanäle schaffen, wenn Unfälle, Fehlkalkulationen oder ungebremster Wettbewerb beide Seiten bedrohen. Bei KI könnten solche Kanäle der Meldung von Zwischenfällen, gemeinsamen Bewertungskonzepten oder Konsultationen vor dem Einsatz von Systemen mit ungewöhnlich gefährlichen Fähigkeiten dienen.
Ein sinnvolles Abkommen müsste beobachtbares Verhalten benennen. Regierungen könnten vergleichen, wie Labore Cyber- oder biologische Risiken bewerten, Meldepflichten für schwere Vorfälle definieren oder gleichwertige Testverfahren über verschiedene Rechtsräume hinweg anerkennen.
Die Überprüfung bleibt schwierig. Modellfähigkeiten können durch neue Prompts, Tool-Zugriff, Fine-Tuning oder die Interaktion mit externen Systemen entstehen. Ein Modell, das sich in einem kontrollierten Test beherrschbar zeigt, kann sich nach dem Einsatz oder der Einbindung in einen autonomen Workflow anders verhalten.
Der Informationsaustausch schafft einen weiteren Zielkonflikt. Regulierungsbehörden benötigen ausreichenden Zugang, um Sicherheit bewerten zu können, doch Unternehmen und Regierungen wollen geistiges Eigentum und nationale Sicherheit schützen. Ein Rahmen, der uneingeschränkte Offenlegung verlangt, wird auf Widerstand stoßen. Ein Rahmen, der vertrauliche Behauptungen akzeptiert, wird an Glaubwürdigkeit verlieren.
Die Europäische Union zeigt eine regionale Alternative. Ihr AI Act schafft rechtliche Pflichten für Anbieter und Betreiber, darunter Anforderungen für KI mit allgemeinem Verwendungszweck und systemische Risiken. Europäische Behörden begannen im August 2026 mit der Durchsetzung einschlägiger Bestimmungen im Rahmen des offiziellen AI Act framework.
Dieses System bietet ein konkretes Regulierungsmodell, ist jedoch keine globale Koordinierung. Es gilt durch europäische Rechtsbefugnisse und Marktzugang. Andere Rechtsräume können andere Schwellenwerte, Durchsetzungsstrukturen und Definitionen übernehmen.
Der Kontrast verdeutlicht den Zweck von Guterres’ KI-Leitplanken. Sie würden regionale oder nationale Gesetze nicht zwangsläufig ersetzen. Ihr praktischer Wert läge darin, eine gemeinsame Mindestterminologie für schwere Risiken zu schaffen, die keine nationale Regulierungsbehörde allein bewältigen kann.
Die UN verfügt über eine wissenschaftliche Grundlage, aber über keine globale Regulierungsbehörde
Die UN hat Institutionen für gemeinsame Evidenz und Dialog geschaffen, doch diese Institutionen können keine KI-Regeln durchsetzen oder Labore zur Offenlegung sensibler Informationen zwingen.
Der Vorschlag von Guterres entstand nicht in einem institutionellen Vakuum. Im September 2024 verabschiedeten die UN-Mitgliedstaaten den Global Digital Compact als Teil des Pact for the Future. Das Abkommen forderte internationale Zusammenarbeit, menschliche Aufsicht, Rechenschaftspflicht und evidenzbasierte KI-Governance.
Der Global Digital Compact verpflichtete Regierungen außerdem zur Einrichtung eines unabhängigen wissenschaftlichen Gremiums und eines globalen Politikdialogs. Diese Mechanismen sollten technische Evidenz mit Verhandlungen zwischen Staaten und anderen Interessengruppen verbinden.
Die Generalversammlung brachte diese Verpflichtung am 26. August 2025 voran. Die Resolution A/RES/79/325 schuf das Independent International Scientific Panel on AI und den Global Dialogue on AI Governance. Die Resolution wurde ohne Abstimmung angenommen und signalisierte breite Unterstützung für diese Institutionen.
Das Gremium besteht aus 40 Mitgliedern, die in persönlicher Eigenschaft tätig sind. Sie stammen aus allen fünf UN-Regionen und bringen Fachwissen aus Wissenschaft, Industrie, Zivilgesellschaft und technischen Bereichen ein. Der Auswahlprozess folgte einem offenen Aufruf, der mehr als 2.600 Bewerbungen aus über 140 Ländern anzog.
Sein Auftrag besteht darin, jährlich evidenzbasierte Bewertungen der Chancen, Risiken und Auswirkungen von KI zu erstellen. Die Berichte sollen den Global Dialogue informieren, in dem Regierungen Governance-Ansätze mit Industrie, Forschenden, Zivilgesellschaft und der technischen Gemeinschaft erörtern können.
Der vorläufige Bericht des Gremiums identifizierte Risiken im Zusammenhang mit dem großskaligen Einsatz von KI, darunter Schäden für die psychische Gesundheit, destruktive Anwendungen, Auswirkungen auf soziale und ökologische Systeme sowie Schwierigkeiten bei der Kontrolle fortgeschrittener Technologie. Diese Kategorien geben Diplomaten einen Ausgangspunkt, um zu entscheiden, welche Risiken eine gemeinsame Behandlung erfordern.
Die Struktur adressiert eine wiederkehrende Schwäche internationaler KI-Debatten. Regierungen verhandeln oft auf Grundlage inkompatibler Definitionen, privater Evidenz oder spekulativer Behauptungen. Eine gemeinsame wissenschaftliche Bewertung kann klären, wo Fachleute übereinstimmen, wo die Evidenz begrenzt bleibt und welche Bewertungsmethoden verbessert werden müssen.
Das Gremium ist jedoch ausdrücklich keine Regulierungsbehörde. Laut dem panel mandate kann es keine Regeln auferlegen, Standards durchsetzen oder verbindliche Politik vorschreiben. Sein Einfluss hängt von der Qualität seiner Arbeit und der Handlungsbereitschaft der Regierungen ab.
Der Global Dialogue unterliegt ähnlichen Grenzen. Er kann die Beteiligung erweitern und ein gemeinsames Verständnis entwickeln, aber keinen Staat zur Verabschiedung eines Gesetzes zwingen. Ebenso wenig kann er einen KI-Entwickler verpflichten, Modellgewichte, Trainingsdetails, interne Testergebnisse oder Zugang für externe Evaluatoren bereitzustellen.
Daraus ergibt sich der zentrale Zielkonflikt des Artikels. Inklusive Institutionen stärken die Legitimität, insbesondere für Länder, die von kleineren Technologieforen ausgeschlossen sind. Eine universelle Beteiligung kann jedoch Einigungen verlangsamen und Formulierungen hervorbringen, die breit genug sind, um widersprüchliche nationale Positionen aufzunehmen.
Eine engere Koalition könnte schneller vorankommen. Länder mit Spitzenlaboren und fortgeschrittener Recheninfrastruktur könnten technische Standards oder Notfall-Kommunikationsmechanismen etablieren. Eine solche Gruppe könnte jedoch Länder an den Rand drängen, die die Auswirkungen von KI erleben, ohne ihre Entwicklung zu kontrollieren.
Guterres scheint beide Ebenen anzustreben. Das UN-Gremium kann eine globale wissenschaftliche Bewertung liefern, während handlungsfähige Staaten direkteren Kontakt und gemeinsame Leitplanken etablieren. Die breitere Mitgliedschaft kann anschließend über Legitimität, Zugang, Entwicklung und menschenrechtliche Auswirkungen debattieren.
Dieser Ansatz ähnelt anderen internationalen Risikoregimen, die wissenschaftliche Bewertung, politische Verhandlungen und nationale Durchsetzung voneinander trennen. Er vermeidet die Vorstellung, dass eine Institution jede Funktion erfüllen kann. Zugleich schafft er mehrere Punkte, an denen Fortschritt ins Stocken geraten kann.
Wissenschaftlicher Konsens führt nicht automatisch zu politischem Konsens. Regierungen können darin übereinstimmen, dass eine Fähigkeit gefährlich ist, und sich dennoch darüber streiten, wie sie gemessen werden soll. Sie können einen Test akzeptieren, aber Inspektionen ablehnen. Sie können Meldepflichten unterstützen und dennoch Vorfälle aus Gründen der nationalen Sicherheit zurückhalten.
Die Grundlage der UN ist daher bedeutsam, aber unvollständig. Sie kann Evidenz und Verhandlungen organisieren. Sie kann noch nicht garantieren, dass die leistungsfähigsten Labore oder Regierungen denselben Regeln folgen, wenn der Wettbewerb intensiv wird.
Die schwierigste Frage lautet, wie Zurückhaltung überprüft werden kann
Eine Leitplanke ohne beobachtbare Schwellenwerte, unabhängige Tests und Folgen bei Verstößen bleibt ein weiteres freiwilliges Versprechen.
Guterres bezeichnete die Überprüfung als zentrale Schwäche einseitiger Pausen. Derselbe Maßstab gilt für jede Alternative, die er unterstützt. Eine koordinierte Schutzmaßnahme muss festlegen, was gemessen wird, wer die Evidenz prüfen kann und was geschieht, wenn ein Teilnehmer versagt.
Die erste Herausforderung besteht darin, die regulierte Fähigkeit zu definieren. Modellgröße und Trainingsrechenleistung lassen sich leichter messen als viele nachgelagerte Verhaltensweisen, sagen Risiken jedoch nicht perfekt voraus. Kleinere Modelle können durch Tools, spezialisierte Daten oder Fine-Tuning erhebliche Fähigkeiten gewinnen.
Auch Fähigkeitstests haben Grenzen. Ein Labor kann bewerten, ob ein Modell bei Cyberangriffen oder biologischer Forschung helfen kann, doch die Leistung hängt von Prompts, Zugang, unterstützender Infrastruktur und den Fähigkeiten der Evaluatoren ab. Das Bestehen eines Benchmarks belegt keine Sicherheit in allen realen Einsatzszenarien.
Die zweite Herausforderung ist die Unabhängigkeit der Evaluatoren. Unternehmen verfügen über wesentliches technisches Wissen und Systemzugang, weshalb Bewertungen ihre Kooperation erfordern. Eine vom Anbieter kontrollierte Bewertung kann jedoch nicht dieselbe Glaubwürdigkeit besitzen wie eine von einer externen Stelle entwickelte und überprüfte.
Regierungen könnten akkreditierte Evaluatoren zulassen, sichere Testumgebungen einrichten oder vertrauliche Meldungen an Regulierungsbehörden verlangen. Diese Optionen schützen sensible Informationen und ermöglichen zugleich Aufsicht. Sie hängen weiterhin von klaren Regeln zu Interessenkonflikten und ausreichender technischer Kapazität ab.
Die dritte Herausforderung ist internationale Vergleichbarkeit. Wenn ein Land Cyberrisiken bewertet und ein anderes sich auf Desinformation konzentriert, sagt ein gemeinsames Label wie „sicher“ wenig aus. Gemeinsame Leitplanken erfordern Mindestkategorien für Tests, Dokumentationsstandards und Definitionen von Zwischenfällen.
Die vierte Herausforderung ist der Zeitpunkt. Bewertungen vor der Veröffentlichung erfassen nur das bekannte Verhalten eines Modells unter Testbedingungen. Risiken können nach dem Einsatz auftreten, wenn Nutzer Modelle mit Software-Tools, sensiblen Datenbanken, Finanzsystemen oder physischer Ausrüstung verbinden.
Die Überwachung nach dem Einsatz muss daher die Prüfung vor der Veröffentlichung ergänzen. Anbieter und Betreiber benötigen einen Prozess zur Protokollierung schwerwiegender Ausfälle, zum Teilen relevanter Erkenntnisse und zur Aktualisierung von Schutzmaßnahmen. Regulierungsbehörden benötigen zudem die Befugnis, Korrekturmaßnahmen zu verlangen, wenn sich die Evidenz verändert.
Die fünfte Herausforderung sind die Konsequenzen. Ein Abkommen hat wenig Wert, wenn ein Teilnehmer einen Schwellenwert ignorieren kann, ohne Marktzugang, Lizenzen, öffentliche Aufträge, Rechenressourcen oder einen anderen bedeutsamen Vorteil zu verlieren. Die Durchsetzung muss glaubwürdig genug sein, um Verhalten zu verändern.
Eine aggressive Durchsetzung kann jedoch unbeabsichtigte Folgen haben. Regeln, die auf die Ressourcen großer Labore zugeschnitten sind, könnten etablierte Akteure festschreiben. Beschränkungen für offene Modelle könnten unabhängige Forschung begrenzen und zugleich geschlossenen Anbietern mehr Kontrolle lassen.
Governance kann auch zum Deckmantel für Protektionismus werden. Ein Land könnte ein ausländisches Modell ohne transparente Evidenz als unsicher einstufen. Ein Unternehmen könnte einen Schwellenwert unterstützen, der Wettbewerber stärker belastet als seine eigene Architektur.
Diese Bedenken sprechen für einen schrittweisen Ansatz. Regierungen können mit eng umrissenen Bereichen beginnen, in denen Schäden schwerwiegend sind, Tests machbar sind und sich Interessen überschneiden. Beispiele sind Beschränkungen für Unterstützung bei der Entwicklung biologischer Waffen oder Anforderungen zur Meldung schwerwiegender, modellgestützter Cybervorfälle.
Sie können durch gemeinsame Übungen auch gegenseitiges Vertrauen aufbauen. Unabhängige Teams könnten vergleichbare Modelle unter geschützten Bedingungen anhand derselben Risikokategorien testen. Regulierungsbehörden könnten die Ergebnisse dann vergleichen, ohne die öffentliche Veröffentlichung sensibler technischer Details zu verlangen.
Keine dieser Maßnahmen garantiert Kontrolle über künftige Systeme. Die Oxford-Forscherin für Technologieregulierung Sandra Wachter bezeichnete umfassende globale Koordinierung unter den derzeitigen geopolitischen Bedingungen als äußerst unrealistisch. Diese Skepsis sollte zentral bleiben und nicht nur als Fußnote erscheinen.
Der Vorschlag für KI-Leitplanken von Guterres ist daher kein Beleg dafür, dass bereits ein durchsetzbares System existiert. Er fordert Regierungen dazu auf, sich dem Überprüfungsproblem direkt zu stellen. Der Erfolgsmaßstab ist keine weitere Grundsatzerklärung. Er ist beobachtbare Zusammenarbeit, die verändert, wie Hochrisikosysteme getestet, veröffentlicht und überwacht werden.
Drei Signale werden zeigen, ob Zusammenarbeit real wird
Der nächste Test besteht darin, ob politische Aufmerksamkeit zu konkreten Institutionen, technischen Verfahren und Beteiligung der Länder und Unternehmen führt, die die Spitzenentwicklung vorantreiben.
Das erste Signal ist der Inhalt von Guterres’ Gesprächen während der hochrangigen Woche der Generalversammlung. Eine allgemeine Unterstützung für sichere KI würde wenig hinzufügen. Das stärkere Signal wäre eine Einigung handlungsfähiger Staaten, regelmäßigen Kontakt aufzubauen, Informationen über schwere Vorfälle auszutauschen oder gemeinsame Bewertungskategorien zu entwickeln.
Beteiligung ist ebenso wichtig wie Sprache. Ein Prozess, der entweder die Vereinigten Staaten oder China ausschließt, kann den von Guterres beschriebenen strategischen Wettlauf nicht bewältigen. Er müsste zudem Beiträge anderer Länder mit fortschrittlicher Forschung, Recheninfrastruktur und regulatorischen Kapazitäten einbeziehen.
Wenn Regierungen einen dauerhaften Kanal mit benannten Teilnehmern und einem klar definierten Umfang ankündigen, gewinnt das zentrale Argument an Gewicht. Wenn sie nur allgemeine Erklärungen vorlegen, bleibt die Lücke zwischen diplomatischer Besorgnis und operativer Koordinierung bestehen.
Das zweite Signal ist, wie das Unabhängige Internationale Wissenschaftliche Gremium seine Vorarbeit in wiederholbare Bewertungen überführt. Sein jährlicher Berichtsauftrag kann eine gemeinsame Faktenbasis schaffen – jedoch nur, wenn es die Qualität der Evidenz, ungelöste Meinungsverschiedenheiten und praktische Bewertungsmethoden erläutert.
Das Gremium sollte danach beurteilt werden, ob Regulierungsbehörden, Forschende und Unternehmen seine Kategorien nutzen können. Ein Bericht, der nachgewiesene Schäden von unsicheren zukünftigen Risiken unterscheidet, würde die politische Debatte stärken. Klare Methoden würden es Regierungen zudem erschweren, nur jene Ergebnisse auszuwählen, die bestehende Positionen stützen.
Seine Unabhängigkeit verdient eine kritische Prüfung. Die Mitglieder handeln in persönlicher Eigenschaft und müssen relevante Interessen offenlegen, doch das Gremium benötigt weiterhin Zugang zu Spitzensystemen und aktuellen Erkenntnissen. Seine Glaubwürdigkeit wird von transparenten Methoden und der erkennbaren Bereitschaft abhängen, sowohl alarmistische als auch verharmlosende Behauptungen infrage zu stellen.
Wenn das Gremium nützliche Testkonzepte veröffentlicht, die Regierungen übernehmen, wird der UN-Prozess über das bloße Zusammenbringen von Akteuren hinausgehen. Bleibt es von nationalen Regulierungsbehörden und Laborbewertungen abgekoppelt, wird sein Einfluss vor allem beratend sein.
Das dritte Signal ist, ob Regierungen jeder gemeinsamen Verpflichtung Überprüfung und Konsequenzen beifügen. Achten Sie auf unabhängige Bewertungen, standardisierte Vorfallberichte, geschützten Zugang für Regulierungsbehörden und klar definierte Schwellenwerte für stärkere Schutzmaßnahmen.
Die Debatte über eine Verlangsamung der KI zeigt bereits eine vorsichtige Einigung bei Tests und Überwachung. Sie offenbart jedoch auch tiefe Differenzen über das vollständige Tempo, die Unabhängigkeit von Prüfern, den Wettbewerb und die Kontrolle über die Festlegung von Standards.
Eine eng gefasste, überprüfbare Vereinbarung wäre bedeutsamer als eine ehrgeizige, aber nicht durchsetzbare Pause. Regierungen könnten mit Modellbewertungen für katastrophalen Missbrauch im Cyber- oder Biobereich beginnen, gefolgt von vertraulicher Berichterstattung und koordinierten Reaktionen auf schwerwiegende Vorfälle.
Das Fehlen von Konsequenzen würde dieses Signal schwächen. Eine Verpflichtung, die Teilnehmern erlaubt, Beweise zurückzuhalten oder Schwellenwerte neu zu definieren, nachdem ein Modell sie enttäuscht hat, würde das von Guterres kritisierte freiwillige System wiederherstellen.
Unternehmen sollten diese Entwicklungen beobachten, weil fragmentierte Regulierung die Compliance-Kosten erhöht und globale Bereitstellungen erschwert. Entwickler sollten sich dafür interessieren, weil Sicherheitsgrenzwerte den Zugang zu Rechenleistung, Testanforderungen, Veröffentlichungszeitpläne und rechtliche Risiken prägen können.
Auch Wissensarbeiter und gewöhnliche Nutzer haben ein Interesse daran. Leitplanken können beeinflussen, ob KI-generierte Inhalte gekennzeichnet werden, ob automatisierte Entscheidungen einer menschlichen Prüfung unterliegen und wie Anbieter reagieren, wenn Modelle schweren Schaden verursachen. Schlecht konzipierte Regeln können zudem nützliche Werkzeuge einschränken, ohne die Systeme mit dem höchsten Risiko zu adressieren.
Die Frage ist nicht, ob jedes Land identische KI-Gesetze verabschieden wird. Dieses Ergebnis ist weder realistisch noch notwendig. Die unmittelbare Frage lautet, ob rivalisierende Regierungen sich auf eine kleine Gruppe von Risiken einigen können, denen niemand allein begegnen möchte.
Guterres hat die Wahl klar formuliert: Isolierte Zurückhaltung kann eine grenzüberschreitende Technologie nicht kontrollieren, während uneingeschränkter Wettbewerb einen Wettlauf nach unten begünstigt. Nun müssen Regierungen zeigen, ob Guterres’ KI-Leitplanken zu messbaren Verpflichtungen werden können – statt zu einer weiteren diplomatischen Absichtserklärung.
Achten Sie auf die nächsten drei Schritte: formelle Kommunikation zwischen Staaten mit führender KI, technisch nützliche Arbeit des UN-Wissenschaftsgremiums und Verpflichtungen, die durch unabhängige Überprüfung gestützt werden. Diese Signale werden zeigen, ob globale Zusammenarbeit beginnt, den Wettlauf einzudämmen, oder lediglich dessen Gefahren beschreibt.
