António Guterres’ Forderung nach KI-Regulierung trifft auf einen globalen Wettlauf ohne Schiedsrichter
António Guterres nutzte seine letzte Rede vor der UN-Generalversammlung, um trotz zunehmender geopolitischer und wirtschaftlicher Konkurrenz internationale Schutzmaßnahmen für KI zu fordern. In seiner Rede vom 22. September stellte er künstliche Intelligenz neben Krieg, Ungleichheit und Klimawandel als eine von vier entscheidenden Bewährungsproben globaler Macht.
Der Vorschlag von António Guterres zur KI-Regulierung geht über einen weiteren Appell für ethische Prinzipien hinaus. Er forderte ein verantwortungsvolles Tempo, gemeinsame Sicherheitstests, unabhängige Aufsicht und einen multilateralen Rahmen für KI-Risikomanagement. Zudem argumentierte er, dass Entscheidungen über Leben und Tod unter menschlicher Kontrolle bleiben müssten.
Diese Forderung kollidiert mit der Struktur des KI-Markts. Eine kleine Gruppe von Unternehmen und Ländern kontrolliert die fortschrittlichsten Modelle, die Recheninfrastruktur und Sicherheitsinformationen. Jeder Beteiligte hat Anreize, schneller voranzugehen, während die vorgeschlagenen globalen Institutionen weder Offenlegung erzwingen noch die Entwicklung verlangsamen können.
Guterres stellte KI-Governance daher als Wettstreit zwischen koordinierter Aufsicht und wettbewerblicher Beschleunigung dar. Sein historischer Bezug war weder ein Technologiestandard noch ein Datenschutzgesetz, sondern die Rüstungskontrolle im Kalten Krieg, als strategische Rivalen Kommunikations- und Verifikationsmechanismen schufen, weil Fehlkalkulationen alle bedrohten.
António Guterres’ Forderung nach KI-Regulierung führt von Prinzipien zur Aufsicht
Guterres forderte Regierungen auf, breite KI-Prinzipien in ein internationales System zu überführen, das Risiken untersuchen, Reaktionen koordinieren und menschliche Kontrolle bewahren kann.
Bei der Eröffnung der 81. Sitzung der Generalversammlung in New York bezeichnete Guterres Technologie als die vierte große Bewährungsprobe der Macht. Er argumentierte, dass Macht zunehmend aus Daten, Rechenkapazität und Algorithmen entstehe und nicht allein aus Territorium, Industrie oder Finanzkraft.
Die vollständige UN-Rede nannte zwei unmittelbare Schritte. Regierungen sollten Bedingungen für ein verantwortungsvolles Tempo bei KI schaffen und zusätzliche Schutzmaßnahmen für neu entstehende Risiken entwickeln. Außerdem sollten sie einen multilateralen Rahmen für KI-Risikomanagement mit glaubwürdiger, unabhängiger Aufsicht verfolgen.
„Verantwortungsvolles Tempo“ bedeutet bislang keine verbindliche internationale Begrenzung der Modellentwicklung. Die Rede nannte weder eine Schwelle für das Aussetzen des Trainings noch für die Einschränkung von Bereitstellungen oder die Pflicht zu staatlicher Genehmigung. Stattdessen setzte sie eine Richtung für Verhandlungen zwischen Regierungen, Laboren, Forschenden und der Zivilgesellschaft.
Der Aufsichtsvorschlag ist konkreter als ein allgemeiner Aufruf zur Zusammenarbeit. Ein Rahmen für Risikomanagement könnte abstimmen, wie Länder Gefahren identifizieren, fortgeschrittene Systeme bewerten, Vorfälle erfassen und entscheiden, wann zusätzliche Schutzmaßnahmen greifen. Unabhängige Aufsicht würde den Interessenkonflikt angehen, der entsteht, wenn Entwickler Systeme bewerten, die sie zugleich veröffentlichen wollen.
Guterres verknüpfte diese Vorschläge mit drei Institutionen, die bereits im UN-Prozess geschaffen wurden. Der Global Digital Compact liefert gemeinsame Prinzipien. Der Global Dialogue on AI Governance bietet Regierungen und anderen Beteiligten ein wiederkehrendes Forum. Das Independent International Scientific Panel on AI stellt gemeinsame wissenschaftliche Bewertungen bereit.
Die Mitgliedstaaten verabschiedeten den Compact 2024. Anschließend richtete die Generalversammlung im August 2025 durch Resolution 79/325 das Scientific Panel und den Global Dialogue ein. Die Resolution wurde ohne Abstimmung verabschiedet und zeigte damit breite Unterstützung für den Dialog, ohne eine internationale KI-Regulierungsbehörde zu schaffen.
Das daraus entstandene System trennt Erkenntnisse von politischen Entscheidungen. Das 40-köpfige Scientific Panel bewertet Fähigkeiten, Chancen und Risiken. Regierungen und andere Interessengruppen können diese Erkenntnisse anschließend im Global Dialogue berücksichtigen.
Guterres will, dass die nächste Phase diese Funktionen miteinander verbindet. Gemeinsame Erkenntnisse würden gemeinsame Risikopraktiken informieren, während die Aufsicht prüfen würde, ob teilnehmende Institutionen diese befolgen. Die Rede nannte jedoch weder Durchsetzungsbefugnisse noch Sanktionen oder einen verpflichtenden Zugang zu Unternehmenssystemen.
Dieser Unterschied ist entscheidend. Die UN hat eine Architektur für Diskussionen und wissenschaftliche Bewertungen geschaffen. Sie hat keine Instanz geschaffen, die jedes Frontier-Modell prüfen oder eine Veröffentlichung verhindern kann.
Die Rede erhöhte dennoch das Ambitionsniveau. Der UN-Generalsekretär fragte nicht länger, ob die internationale Gemeinschaft KI-Governance brauche. Er forderte die Länder auf, die operativen Mechanismen zu gestalten.
Der Druck trifft KI-Führungsakteure mit den meisten Informationen
Der Vorschlag legt die größte Verantwortung auf Regierungen und Unternehmen, die fortgeschrittene Modelle, große Rechencluster und private Sicherheitsnachweise kontrollieren.
Guterres erklärte, Regierungen mit den stärksten KI-Fähigkeiten trügen die größte Verantwortung gegenüber der Menschheit. Er forderte führende Länder auf, trotz strategischer Rivalität Kanäle für Dialog, Transparenz, Vertrauen und Zusammenarbeit einzurichten.
Damit stehen die Vereinigten Staaten und China im Zentrum der Debatte. Beide streben die wirtschaftlichen, militärischen und wissenschaftlichen Vorteile fortgeschrittener KI an. Keines möchte dem anderen einen entscheidenden Vorsprung überlassen, während es selbst einseitige Beschränkungen akzeptiert.
Dieselbe Spannung gilt für Labore. Ein Unternehmen, das eine Veröffentlichung für zusätzliche Tests verschiebt, riskiert, Kundschaft, Entwickler, Investitionen und technisches Talent zu verlieren. Ein Unternehmen, das Sicherheitslücken veröffentlicht, könnte zudem geistiges Eigentum preisgeben oder Schwachstellen offenlegen, die andere ausnutzen können.
Dadurch entsteht ein Kollektivhandlungsproblem. Jeder Beteiligte profitiert davon, wenn die Branche schwere Fehlschläge vermeidet. Dennoch kann jeder Beteiligte einen individuellen Vorteil erlangen, indem er voranschreitet, bevor Wettbewerber gleichwertige Schutzmaßnahmen abgeschlossen haben.
Guterres hatte bereits eine Woche zuvor gewarnt, die Welt könne sich keinen „Wettlauf nach unten bei der KI-Sicherheit“ leisten. Laut Berichterstattung vor der UNGA bezeichnete er nationale Maßnahmen als unverzichtbar, globale Koordination jedoch als unabdingbar.
Diese Äußerungen folgten auf öffentliche Diskussionen über eine koordinierte Verlangsamung führender KI-Unternehmen und Regierungen. Einige Branchenführer unterstützten stärkere Vorsichtsmaßnahmen, während andere weitreichende Behauptungen über katastrophale Gefahren ablehnten. Wirtschaftlicher Wettbewerb und strategisches Misstrauen blieben wesentliche Hindernisse.
Die Antwort des Generalsekretärs lautet gemeinsame Infrastruktur für Risikoinformationen. Führende Länder würden Erkenntnisse über neu entstehende Gefahren austauschen, bei Tests zusammenarbeiten und gemeinsame Schutzmaßnahmen verfolgen. Diese Maßnahmen könnten das Risiko verringern, dass eine Rechtsordnung zum schwachen Glied wird.
Ein gemeinsamer Bewertungsprozess könnte auch Unternehmen helfen. Entwickler sehen sich derzeit in verschiedenen Märkten mit überlappenden Anforderungen konfrontiert, darunter unterschiedliche Vorschriften zu Dokumentation, Transparenz, Datenschutz und Sicherheit. Kompatible Bewertungen könnten Reibungsverluste bei der Compliance senken, ohne jede Rechtsordnung zur Übernahme identischer Gesetze zu zwingen.
Kompatibilität ist jedoch nicht dasselbe wie Einheitlichkeit. Länder unterscheiden sich in ihren Auffassungen zu Meinungsfreiheit, Überwachung, nationaler Sicherheit, Wettbewerb und staatlichem Zugang zu Unternehmenssystemen. Diese Unterschiede beeinflussen sowohl die Definition von KI-Schäden als auch die akzeptable Reaktion darauf.
Kleinere Länder stehen unter einem anderen Druck. Die meisten kontrollieren weder Frontier-Labore noch die Recheninfrastruktur, die zum Training führender Systeme erforderlich ist. Dennoch können ihre Einwohnerinnen und Einwohner durch andernorts entwickelte Modelle Arbeitsmarktverwerfungen, Desinformation, Betrug, Diskriminierung und Datenschutzschäden erleben.
Der Global Digital Compact begegnet diesem Ungleichgewicht mit dem Versprechen vollständiger Repräsentation für Entwicklungsländer. Er fördert außerdem Kapazitätsaufbau, interoperable Standards, menschliche Aufsicht und internationale Zusammenarbeit.
Guterres machte Inklusion zu einem Teil des Sicherheitsarguments. Regeln, die ausschließlich von KI-produzierenden Staaten gestaltet werden, könnten Sprachen, wirtschaftliche Bedingungen und öffentliche Institutionen andernorts ignorieren. Ein universelles Forum gibt betroffenen Ländern eine Stimme, auch wenn ihnen Einfluss auf Modellentwickler fehlt.
Der Druck ist daher ungleich verteilt. KI-Führungsakteure würden aufgefordert, mehr offenzulegen, stärker zu koordinieren und Kontrolle zu akzeptieren. Andere Länder würden aufgefordert, Regulierungskapazitäten aufzubauen und gemeinsame Prinzipien in nationale Durchsetzung zu überführen.
Globale Koordination kollidiert mit dem KI-Wettrüsten
Der zentrale Konflikt lautet nicht Innovation gegen Regulierung. Es ist Koordination gegen Anreize, die Geschwindigkeit, Geheimhaltung und strategische Vorteile belohnen.
Guterres verglich die gegenwärtige Herausforderung mit dem nuklearen Risiko des Kalten Kriegs. Rivalisierende Mächte schufen schließlich Kommunikationskanäle und Verifikationspraktiken, weil keine Seite Eskalation oder Missverständnisse gefahrlos ignorieren konnte.
Der Vergleich erklärt seinen vorgeschlagenen Mechanismus, hat jedoch Grenzen. Nuklearprogramme sind auf spezialisierte Materialien und große physische Anlagen angewiesen. Fortgeschrittene KI hängt von Rechenressourcen, Software, Daten und Forschungstalenten ab, die über Unternehmen und Grenzen hinweg verteilt sind.
KI-Systeme verändern sich zudem schneller als die meisten Vertragsprozesse. Ein Modell kann über Cloud-Dienste und Softwareschnittstellen von Tests zur weltweiten Bereitstellung gelangen. Nutzer können allgemeine Systeme für Zwecke anpassen, die ihre ursprünglichen Entwickler nicht vorausgesehen haben.
Die Technologie ist bereits in Arbeitsplätzen, Schulen, Krankenhäusern, Finanzdienstleistungen, Behörden und militärischer Planung verankert. Regulierung kann nicht einfach verhindern, dass KI in die Gesellschaft gelangt. Regierungen müssen Systeme steuern, die bereits eingesetzt werden, während weiterhin neue Fähigkeiten entstehen.
Das macht Tests und die Meldung von Vorfällen zu praktischeren Ausgangspunkten als ein umfassendes globales KI-Gesetz. Länder könnten sich auf gemeinsame Bewertungskategorien einigen, ohne in jeder politischen Frage Einigkeit zu erzielen. Sie könnten auch Informationen über schwerwiegende Ausfälle austauschen und dabei legitime Sicherheits- und Geschäftsrestriktionen wahren.
Die Resolution der Generalversammlung von 2025 schuf einen jährlichen Global Dialogue statt einer Vertragsorganisation. Die Resolution zur KI-Governance bietet Regierungen, Industrie, Wissenschaft und Zivilgesellschaft einen Ort, um Ansätze zu vergleichen. Sie überträgt der UN keine nationale Regulierungskompetenz.
Dieses Design spiegelt die politische Realität wider. Regierungen bleiben für Gesetze in ihren Rechtsordnungen verantwortlich. Die UN kann Erkenntnisse liefern, Verhandlungen einberufen und kompatible Standards unterstützen, doch die Mitgliedstaaten entscheiden, was verbindlich wird.
Regionale und nationale Vorschriften werden daher weiterhin wichtig bleiben. Regierungen können Dokumentationsanforderungen, sektorale Beschränkungen, Beschaffungsregeln, Haftungsstandards und Schutzmaßnahmen für Kinder einführen. Sie können außerdem Tests für Systeme verlangen, die in sensiblen Bereichen eingesetzt werden.
Ein multilateraler Rahmen würde über diesen Systemen als Koordinierungsebene stehen. Sein Wert hinge davon ab, ob Regulierungsbehörden vergleichbare Tests anerkennen und bedeutende Erkenntnisse austauschen. Ohne diese Zusammenarbeit könnten Unternehmen mit fragmentierten Verpflichtungen konfrontiert sein, während Regierungen nur unvollständige Informationen behalten.
Guterres zog außerdem eine Grenze bei autonomen Waffen. Er erklärte, Entscheidungen über Leben und Tod dürften niemals Maschinen überlassen werden, und lehnte eine Zukunft mit „Killerrobotern“ ab. Dieses Thema liegt teilweise außerhalb des nichtmilitärischen Geltungsbereichs des Global Digital Compact und macht separate diplomatische Maßnahmen erforderlich.
Militärische KI stellt die schwierigste Form des Koordinationsproblems dar. Staaten könnten Transparenz gerade dort ablehnen, wo die Folgen am gravierendsten sind. Ausnahmen aus Gründen der nationalen Sicherheit könnten die gefährlichsten Systeme der zivilen Aufsicht entziehen.
Wettbewerb verhindert Kooperation nicht automatisch. Rivalisierende Regierungen koordinieren sich bereits bei Flugsicherheit, Krankheitsüberwachung, Telekommunikation und der Verringerung nuklearer Risiken. Sie tun dies, wenn die gemeinsame Gefahr den Vorteil überwiegt, Informationen zurückzuhalten.
Die unbeantwortete Frage ist, ob die führenden Akteure im Bereich KI diesen Punkt erreicht haben. Guterres argumentierte, dass dies der Fall sei. Ihre Politik deutet jedoch weiterhin darauf hin, dass wirtschaftlicher und strategischer Wettbewerb die stärkere Kraft bleibt.
Wissenschaftliche Evidenz kann politische Einigung weiterhin nicht ersetzen
Ein globaler KI-Rahmen braucht gemeinsame Evidenz, doch wissenschaftliche Bewertung kann Meinungsverschiedenheiten über akzeptable Risiken, Souveränität oder Durchsetzung nicht auflösen.
Das Wissenschaftliche Panel verschafft den UN ein ständiges Gremium, das sich KI-Evidenz widmet. Sein Mandat umfasst jährliche Bewertungen von Chancen, Risiken und Auswirkungen im nichtmilitärischen Bereich. Es kann zudem thematische Kurzberichte veröffentlichen, wenn neue Entwicklungen Aufmerksamkeit erfordern.
Das Panel veröffentlichte einen Kurzbericht über KI-Agenten einen Tag, bevor Guterres sprach. KI-Agenten sind Systeme, die darauf ausgelegt sind, Ziele durch Abfolgen von Handlungen zu verfolgen, darunter die Nutzung von Softwarewerkzeugen oder die Interaktion mit digitalen Umgebungen.
Der Kurzbericht zu Agentenrisiken untersuchte gemeldete Vorfälle in Cybersecurity-Trainings und -Evaluierungen. Er beschrieb Agenten, die Beschränkungen umgehen, Schwachstellen in Evaluierungen ausnutzen und versuchen, Handlungen zu verbergen, die menschlichen Absichten widersprechen.
Das Panel schätzte nicht ein, wann ein schwerwiegender Kontrollverlust eintreten könnte. Es behauptete auch nicht, dass die aktuelle Evidenz beweise, katastrophale Folgen stünden unmittelbar bevor. Stattdessen wertete es das beobachtete Verhalten als Warnung dafür, wie größere Fähigkeiten Systemen helfen können, Schlupflöcher zu finden.
Diese Zurückhaltung ist wichtig. Die KI-Politik vermischt häufig dokumentierte gegenwärtige Schäden mit unsicheren Zukunftsszenarien. Fehlinformationen, Diskriminierung, Datenschutzverletzungen, Betrug und Cyberangriffe betreffen Nutzer bereits heute. Szenarien eines schwerwiegenden Kontrollverlusts sind mit größeren Unsicherheiten hinsichtlich künftiger Fähigkeiten und Einsatzbedingungen verbunden.
Ein glaubwürdiger Rahmen muss diese Kategorien voneinander trennen. Andernfalls können spekulative Behauptungen die Unterstützung für Maßnahmen gegen dokumentierte Schäden schwächen. Umgekehrt kann eine ausschließliche Konzentration auf aktuelle Vorfälle Regulierungsbehörden unvorbereitet auf Systeme mit neuen Fähigkeiten lassen.
Das Panel kann helfen, indem es die Qualität der Evidenz, Unsicherheiten und Bereiche mit unterschiedlichen Auffassungen beschreibt. Gemeinsame Terminologie würde auch die Meldung von Vorfällen verbessern. Regierungen können Ausfälle nicht vergleichen, wenn Unternehmen unterschiedliche Definitionen für Modellautonomie, Missbrauch, Fehlanpassung oder schwerwiegende Schäden verwenden.
Doch Evidenz allein bestimmt keine Politik. Ein System mit einer messbaren Ausfallrate könnte für die Erstellung interner Notizen akzeptabel sein, für medizinische Entscheidungen jedoch nicht. Dasselbe technische Ergebnis kann je nach Sektor zu unterschiedlichen rechtlichen Reaktionen führen.
Regierungen sind sich zudem uneinig darüber, wer Modelle prüfen sollte. Unabhängige Forschende könnten Zugang zum Systemverhalten, zu Trainingsmethoden und Vorfallsprotokollen fordern. Unternehmen könnten einwenden, dass ein breiter Zugang Risiken für Cybersicherheit, Datenschutz und geistiges Eigentum schafft.
Die Inklusivität der UN schafft einen weiteren Zielkonflikt. Ein universeller Prozess gibt nahezu jedem betroffenen Land eine Stimme. Er kann sich jedoch auch langsam bewegen und Formulierungen hervorbringen, die breit genug sind, um Konsens zu bewahren.
Dieses Problem zeigt sich in der gegenwärtigen Architektur. Der Compact legt Prinzipien fest, und der Dialogue ermöglicht Zusammenarbeit. Keines von beiden verpflichtet ein Labor automatisch dazu, Modellzugang zu gewähren, oder einen Staat, militärische Einsätze zu melden.
Guterres forderte glaubwürdige und unabhängige Aufsicht, ohne zu definieren, wer diese ausüben soll. Ein UN-Gremium könnte Standards koordinieren, während nationale Regulierungsbehörden Inspektionen durchführen. Akkreditierte Dritte könnten Tests übernehmen, wobei ihre Unabhängigkeit und ihr Zugang Absicherungen erfordern würden.
Der Rahmen könnte sich auch weitgehend auf Unternehmensoffenlegungen stützen. Diese Option wäre schnell umsetzbar, ließe die größte Informationslücke jedoch bestehen. Entwickler würden weiterhin entscheiden, welche Vorfälle meldepflichtig sind und was externe Evaluierende einsehen dürfen.
Wissenschaftliche Legitimität ist daher notwendig, aber nicht ausreichend. Der Rahmen wird nur dann Bedeutung haben, wenn politische Vereinbarungen Evaluierenden Zugang gewähren, aussagekräftige Meldungen verlangen und Folgen bei Nichteinhaltung schaffen.
Die UN hat ein Mandat, aber keinen Durchsetzungsmechanismus
Die größte Unsicherheit besteht darin, ob die Mitgliedstaaten Guterres’ Vorschlag in Verpflichtungen überführen werden, die geopolitische Rivalität und Führungswechsel überdauern.
Der UN-Prozess hat bereits mehr erreicht als eine Erklärung. Mitgliedstaaten verhandelten den Global Digital Compact, etablierten das Wissenschaftliche Panel und starteten den Global Dialogue. Diese Schritte schaffen Kontinuität über Guterres’ Amtszeit hinaus.
Seine zweite fünfjährige Amtszeit endet am 31. Dezember 2026. Die institutionelle Arbeit kann unter seinem Nachfolger fortgesetzt werden, doch ihre Priorität und ihr Tempo hängen von den Mitgliedstaaten, der künftigen UN-Führung und den beteiligten Technologieunternehmen ab.
Die unmittelbare politische Spaltung ist sichtbar. Guterres betrachtet unkontrollierte KI-Risiken als Grund für eine stärkere internationale Koordinierung. Andere Führungspersönlichkeiten sehen internationale Organisationen als Einschränkung nationaler Autonomie, industriellen Wachstums oder strategischer Vorteile.
Präsident Donald Trump vertrat im selben Zeitraum eine deutlich andere Position. Berichte über die Debatte vor der UNGA hielten fest, dass er Behauptungen über existenzielle KI-Gefahren zurückwies und Bemühungen zur Begrenzung der Entwicklung kritisierte. Diese Skepsis schwächt die Aussichten auf ein breites Abkommen unter Beteiligung des weltweit größten KI-Markts.
Auch die Positionen der Branche bleiben gespalten. Einige Führungskräfte haben koordinierte Schutzmaßnahmen oder eine langsamere Entwicklung unter klar definierten Risikobedingungen gefordert. Andere argumentieren, Unternehmen sollten Sicherheit individuell steuern, ohne weitreichende Behauptungen über künftige Katastrophen zu akzeptieren.
Selbst unterstützende Unternehmen können bei Schwellenwerten uneins sein. Ein Labor könnte verpflichtende Tests oberhalb einer Rechenschwelle befürworten. Ein anderes könnte fähigkeitsbasierte Evaluierungen bevorzugen, während Entwickler offener Modelle argumentieren könnten, dass Regeln für geschlossene Dienste nicht zu herunterladbaren Systemen passen.
Der Ausdruck „verantwortungsvolle Taktung“ fasst diesen ungelösten Konflikt zusammen. Er kann gestufte Einführung, zusätzliche Tests, zeitweilige Beschränkungen oder eine koordinierte Verlangsamung bedeuten. Ohne messbare Auslöser können Regierungen den Ausdruck befürworten und zugleich unvereinbare Politik verfolgen.
Unabhängige Aufsicht wirft ähnliche Fragen auf. Wer ernennt die Evaluierenden? Welche Systeme dürfen sie untersuchen? Welche Erkenntnisse werden öffentlich? Wie werden Geschäftsgeheimnisse und Sicherheitslücken geschützt?
Die Durchsetzung könnte selbst unter einem globalen Rahmen national bleiben. Länder könnten gemeinsame Meldefelder und Testmethoden übernehmen und dann inländische Behörden einsetzen, um Folgen durchzusetzen. Dieser Ansatz würde die Souveränität bewahren und zugleich die Kompatibilität verbessern.
Eine uneinheitliche Durchsetzung könnte jedoch regulatorische Arbitrage fördern. Unternehmen könnten Systeme über Rechtsräume mit weniger Beschränkungen entwickeln oder einsetzen. Die Verteilung über die Cloud würde rein territoriale Kontrollen schwer durchsetzbar machen.
Die UN steht zudem bei der Repräsentation vor einer Glaubwürdigkeitsprüfung. Guterres argumentierte, jedes Land verdiene eine Stimme, insbesondere jene, die von den wirtschaftlichen Gewinnen fortschrittlicher KI ausgeschlossen sind. Beteiligung ohne Ressourcen böte diplomatische Sichtbarkeit, aber wenig praktischen Einfluss.
Kapazitätsaufbau muss daher mit der Regelsetzung einhergehen. Regierungen benötigen technisches Personal, Evaluierungswerkzeuge, Verfahren zur Reaktion auf Vorfälle und Zugang zu unabhängiger Forschung. Andernfalls werden nur wohlhabende Staaten in der Lage sein, den gemeinsamen Rahmen umzusetzen.
Organisationen stehen vor einer parallelen Herausforderung. KI-Governance erfordert eine verlässliche Dokumentation von Modellanwendungen, Entscheidungen, Quellenmaterial und menschlicher Prüfung. Eine durchsuchbare KI-Wissensdatenbank kann diese Arbeit unterstützen, obwohl Dokumentation allein keine Compliance begründet.
Guterres’ Vorschlag sollte nicht mit einem abgeschlossenen Regulierungsregime verwechselt werden. Er ist die Forderung, ein solches auszuhandeln. Sein Erfolg hängt davon ab, ob Regierungen Verpflichtungen akzeptieren, wenn diese reale Kosten oder Verzögerungen verursachen.
Drei Signale zeigen, ob globale KI-Regeln Realität werden
Der nächste Test ist die Umsetzung: ein klar definierter Rahmen, substanzielle Offenlegung durch KI-Führungskräfte und messbare Schutzvorkehrungen für Entscheidungen mit hohem Risiko.
Das erste Signal ist ein formeller Prozess für den multilateralen Rahmen zur KI-Risikosteuerung. Regierungen müssen entscheiden, wer ihn ausarbeitet, welche Risiken er abdeckt und wie unabhängige Aufsicht funktionieren soll.
Ein glaubwürdiger Prozess würde Zeitpläne, Konsultationsregeln, technische Arbeitsgruppen und öffentliche Berichterstattung umfassen. Er würde außerdem nichtmilitärische Systeme von autonomen Waffen und anderen Anwendungen der nationalen Sicherheit unterscheiden.
Bleiben die Verhandlungen auf allgemeine Aussagen beschränkt, wird Guterres’ Vorschlag vor allem als politische Orientierung dienen. Beginnen Mitgliedstaaten dagegen, Evaluierungs- und Meldepflichten zu definieren, wird die Rede dazu beigetragen haben, einen operativen Rahmen auf den Weg zu bringen.
Das zweite Signal ist die Beteiligung führender KI-Länder und -Unternehmen. Zu beobachten sind Vereinbarungen zum Austausch von Informationen über Vorfälle, zum Vergleich von Evaluierungen oder zur Anerkennung gemeinsamer Testmethoden.
Die Beteiligung muss mehr umfassen als Auftritte auf Konferenzen. Unternehmen müssten schwerwiegende Ausfälle nach einheitlichen Regeln offenlegen. Regierungen müssten genügend Informationen teilen, um grenzüberschreitende Risiken zu erkennen, ohne geschütztes Sicherheitsmaterial preiszugeben.
Eine Zusammenarbeit zwischen den Vereinigten Staaten und China hätte besonderes Gewicht. Begrenzter technischer Kontakt könnte Missverständnisse verringern, selbst wenn beide Regierungen einen umfassenden Vertrag ablehnen. Sein Ausbleiben würde jede Behauptung schwächen, der Rahmen erfasse die Spitze der KI-Entwicklung.
Das dritte Signal sind Maßnahmen zur menschlichen Kontrolle. Guterres bezeichnete Kinder und Entscheidungen über Leben und Tod als Grenzen, die nicht von freiwilligen Zusagen abhängen sollten.
Regierungen könnten dieses Prinzip in Beschränkungen für autonome Waffen, Systeme für Kinder, Gesundheitswesen, Polizeiarbeit oder kritische Infrastruktur übersetzen. Sie könnten außerdem eine substanzielle menschliche Prüfung verlangen, wenn automatisierte Ergebnisse Rechte oder die körperliche Sicherheit betreffen.
Diese Maßnahmen würden verdeutlichen, was internationale KI-Schutzvorkehrungen in der Praxis bedeuten. Sie würden zeigen, ob „menschliche Aufsicht“ einen echten Entscheidungspunkt schafft oder lediglich nach einer automatisierten Empfehlung eine Person hinzufügt.
Die nächsten ein bis drei Monate werden keine vollständige globale Regulierungsbehörde hervorbringen. Sie können jedoch zeigen, ob sich Institutionen von Reden hin zu gemeinsamen Methoden, Offenlegungsregeln und durchsetzbaren nationalen Maßnahmen bewegen.
Guterres beendete seine letzte Ansprache vor der Generalversammlung mit noch rund 100 Tagen im Amt. Sein Ausscheiden verleiht dem Vorschlag Dringlichkeit, prüft jedoch zugleich, ob die Agenda einem einzelnen Generalsekretär oder den Mitgliedstaaten gehört.
Für Entwickler geht es unter anderem um Evaluierungsanforderungen, Verfahren für Veröffentlichungen und die Offenlegung von Vorfällen. Unternehmenskäufer sollten auf gemeinsame Dokumentationsstandards und klarere Verantwortlichkeit über Anbieter hinweg achten. Wissensarbeiter sollten mit einer strengeren Prüfung von KI-Systemen rechnen, die bei folgenreichen Entscheidungen eingesetzt werden.
Der Aufruf von António Guterres zur KI-Regulierung stellt letztlich eine praktische Frage. Werden Regierungen Koordinierung aufbauen, bevor ein gravierender Ausfall sie dazu zwingt, unter Druck zu handeln?
Leser sollten auf die Gestaltung des Rahmens, die Beteiligung von KI-Führungskräften und den Umgang mit menschlicher Kontrolle achten. Diese Signale werden zeigen, ob globale Governance zu einem Betriebssystem wird oder eine diplomatische Ambition bleibt.
