Trumps KI-Sicherheitspolitik isoliert die USA bei der UN, während Branchenführer Leitplanken fordern
Trumps KI-Sicherheitspolitik stand in deutlichem Kontrast zu den Botschaften, die Technologie-Manager und internationale Vertreter während zweitägiger Treffen bei den Vereinten Nationen vermittelten.
Präsident Donald Trump erklärte vor der Generalversammlung, die Vereinigten Staaten lehnten eine globale Kontrolle über fortgeschrittene künstliche Intelligenz ab. Einen Tag später forderten die Führungsspitzen von OpenAI, Anthropic und Hugging Face den Sicherheitsrat auf, Risiken anzugehen, die kein Unternehmen und kein Land allein bewältigen kann.
Der Kontrast war ungewöhnlich direkt. Das Land, in dem die meisten führenden KI-Unternehmen ansässig sind, widersetzte sich internationalen Leitplanken, während Manager dieser Unternehmen mehr Koordination forderten.
Dabei handelte es sich nicht um eine formelle Abstimmung, nach der die Vereinigten Staaten als einziges abweichendes Mitglied dastanden. Auch verabschiedete der Sicherheitsrat keine verbindlichen globalen KI-Regeln. Die Isolation war politischer und rhetorischer Natur, nicht die einer dokumentierten Ein-Land-Minderheit.
Diese Unterscheidung ist wichtig. Die Vereinten Nationen bauen wissenschaftliche und diplomatische Institutionen rund um KI auf, doch ihr entstehender Rahmen bleibt weitgehend unverbindlich. Ohne aktive Beteiligung der USA werden diese Institutionen kaum Einfluss auf die Unternehmen ausüben können, die die leistungsfähigsten Modelle entwickeln.
Der zentrale Konflikt ist nun klar. Washington betrachtet die schnelle Entwicklung als strategischen Wettlauf, insbesondere gegen China. Viele Regierungen und KI-Führungskräfte sehen denselben Wettlauf als Grund, gemeinsame Schutzvorkehrungen zu etablieren, bevor der Wettbewerbsdruck freiwillige Zurückhaltung überfordert.
Was sich bei den Vereinten Nationen tatsächlich verändert hat
Die UN-Treffen machten aus einem abstrakten politischen Streit eine sichtbare Spaltung zwischen dem Weißen Haus und führenden amerikanischen KI-Managern.
Trump sprach am 22. September 2026 in New York vor der 81. Sitzung der Generalversammlung. Seine Position lehnte internationale Kontrolle ab und stellte wettbewerbliche Führungsrolle über abgestimmte Zurückhaltung.
„Die Vereinigten Staaten lehnen jeden Versuch, ein globalistisches Kontrollsystem aufzubauen, vollständig ab“, hieß es laut dem offiziellen Bericht des Weißen Hauses zu KI.
Trump bezeichnete die Technologie in seiner Rede zudem als „Super Intelligence“. Die rhetorische Änderung unterstrich seinen Versuch, fortgeschrittene KI als nationale Errungenschaft und nicht als globales Governance-Problem darzustellen.
Ein ausführlicheres Transkript zeigt, wie eng diese Darstellung die KI-Entwicklung mit geopolitischem Wettbewerb verknüpft. Trump sagte, wer Superintelligenz gewinne, „gewinne“, und behauptete, die Vereinigten Staaten führten vor China.
Anschließend lehnte er Einschränkungen ab, die die Entwicklung verlangsamen könnten. „Wir werden sie fördern, nicht einschränken“, sagte Trump und versprach zugleich eine Prüfung durch das Justizministerium.
Dieser Ansatz ist enger gefasst als das Sicherheitssystem, das andere Regierungen und KI-Führungskräfte vorgeschlagen haben. Die Aufsicht des Justizministeriums befasst sich üblicherweise mit Wettbewerb, Betrug, Bürgerrechten und kriminellem Verhalten, nachdem klar erkennbare Verstöße erfolgt sind.
Sicherheitsvorschläge für Frontier-KI konzentrieren sich auf ein anderes Problem. Sie zielen auf Tests, Überwachung, Offenlegung und Koordination, bevor ein hochleistungsfähiges Modell schweren Schaden verursacht.
Am folgenden Tag hielt der Sicherheitsrat eine hochrangige Sitzung zu KI und internationaler Sicherheit ab. OpenAI-CEO Sam Altman nahm persönlich teil. Anthropic-CEO Dario Amodei und Hugging Face-CEO Clément Delangue waren per Fernzugriff zugeschaltet.
Auch Yoshua Bengio, Ko-Vorsitzender des unabhängigen internationalen wissenschaftlichen UN-Gremiums für KI, sollte die Ratsmitglieder informieren. Das Treffen brachte wissenschaftliche Evidenz, Unternehmensmacht und internationale Sicherheit in einem Raum zusammen.
Die einprägsamsten Aussagen stellten die Logik nationaler Kontrolle infrage. Altman sagte, kein einzelner Mensch, kein Unternehmen und kein Land solle die stärksten Modelle nutzen, um allen anderen sein Weltbild aufzuzwingen.
Amodei warnte, schlecht gesteuerte KI könne zu einem Risiko für die gesamte Menschheit werden. Delangue konzentrierte sich auf das Ungleichgewicht zwischen Organisationen, die fortgeschrittene Systeme kontrollieren, und Gemeinschaften, die ihren Auswirkungen ausgesetzt sind.
Semafors Bericht zur KI-Sicherheit erfasste den Widerspruch. In den Vereinigten Staaten ansässige Manager forderten globale Schutzvorkehrungen, nachdem der US-Präsident die Prämisse dahinter verworfen hatte.
Die Abfolge machte es schwieriger, die Meinungsverschiedenheit als Debatte zwischen Regierungen und Industrie zu behandeln. Mehrere einflussreiche Branchenführer standen der Position der UN näher als der öffentlichen Botschaft des Weißen Hauses.
Das ist die eigentliche Veränderung. KI-Governance trennt Regulierer und Unternehmen nicht länger auf vorhersehbare Weise. Sie spaltet die Regierung der Vereinigten Staaten von einigen Unternehmen, deren Erfolg ihren technologischen Vorsprung trägt.
Warum Trumps KI-Sicherheitspolitik nun mit der Industrie kollidiert
Trumps KI-Sicherheitspolitik behandelt Geschwindigkeit als Schutz, während mehrere Frontier-Labore ungebremste Geschwindigkeit zunehmend als Gefahr beschreiben.
Die Position des Weißen Hauses beginnt mit einer vertrauten strategischen Behauptung. Wenn die Vereinigten Staaten die Entwicklung verlangsamten, könnten China oder ein anderer Rivale die wirtschaftlichen und militärischen Vorteile leistungsfähigerer KI erlangen.
Nach dieser Logik schaffen Einschränkungen Risiken, indem sie amerikanische Unternehmen schwächen. Wachstum, Infrastrukturinvestitionen und schnelle Bereitstellung werden zu Teilen der nationalen Sicherheitspolitik.
Die Regierung misstraut zudem internationalen Gremien, die die US-Souveränität einschränken könnten. Trumps Rede vor der Generalversammlung verband KI-Governance mit seiner umfassenderen Ablehnung globaler Besteuerung und zentralisierter internationaler Kontrolle.
Dieses Argument besitzt politische Schlagkraft, weil die Vereinten Nationen keine gleichwertige Einhaltung garantieren können. Ein Land, das strenge Grenzen befolgt, könnte an Boden verlieren, wenn Wettbewerber sie ignorieren.
KI-Labore stehen vor demselben Koordinierungsproblem. Ein Unternehmen, das ein Modell für Sicherheitstests zurückhält, riskiert, Kunden, Investitionen, Beschäftigte und Markteinfluss an einen schnelleren Rivalen zu verlieren.
Mehrere Branchenführer argumentieren jedoch inzwischen, dass Wettbewerb gemeinsame Regeln notwendiger mache. Kein Labor kann Zurückhaltung wahren, wenn jeder Wettbewerber erwartet, dass die anderen weiter beschleunigen.
Anthropics Amodei hat einen kontinuierlichen Zugang für unabhängige Prüfer vorgeschlagen. Solche Prüfer würden Sicherheitspraktiken innerhalb von Frontier-Laboren überwachen, statt sich vollständig auf öffentliche Aussagen zu verlassen.
Er hat sich zudem für gemeinsame Tests zu Cybersicherheits- und biologischen Risiken eingesetzt. Ehrgeizigere Vorschläge würden Systeme begrenzen, die zu rekursiver Selbstverbesserung fähig sind – also Modelle, die die Entwicklung besserer Nachfolger erheblich beschleunigen können.
OpenAIs Altman unterstützte öffentlich unabhängige Bewertungen und einen bundesweiten Sicherheitsrahmen. Diese Position löst nicht jede Meinungsverschiedenheit über Durchsetzung, Transparenz oder Haftung.
Sie zeigt jedoch, dass die politische Spaltung nicht einfach Regierung gegen Wirtschaft lautet. Die führenden Unternehmen wollen Spielraum für Innovation, doch einige wollen zugleich Regeln, die verhindern, dass jedes Labor mit maximaler Geschwindigkeit antritt.
Die Debatte über eine Verlangsamung der KI-Entwicklung verdeutlicht die Koordinierungsherausforderung. OpenAI, Anthropic, SpaceXAI und andere Branchenvertreter haben Unterstützung dafür geäußert, bestimmte Formen der Entwicklung zu verlangsamen.
Ihre Vorschläge unterscheiden sich erheblich. Einige betreffen unabhängige Tests, andere enge Verbote gefährlicher Anwendungen oder weitergehende Grenzen für das Entwicklungstempo.
Meta hat sich einer vergleichbaren abgestimmten Verlangsamung nicht angeschlossen. Das ist bedeutsam, denn jede Vereinbarung, die nur ausgewählte Frontier-Labore umfasst, könnte Talente und Kapital zu Unternehmen außerhalb dieser Vereinbarung lenken.
Der internationale Wettbewerb schafft eine noch größere Lücke. Beschränkungen für US-Unternehmen würden Entwickler in China, Europa, dem Nahen Osten oder auf aufstrebenden KI-Märkten nicht automatisch binden.
Deshalb entstand der Streit bei der UN gerade jetzt. Fähigkeiten und Bedenken entwickeln sich schneller als die Institutionen, die sie steuern sollen.
Das Weiße Haus sieht diese Beschleunigung und schließt daraus, dass die Vereinigten Staaten schneller laufen müssen. Sicherheitsbefürworter sehen dieselbe Beschleunigung und folgern, dass ein Wettlauf ohne gemeinsame Regeln zunehmend gefährlich wird.
Keine Seite kann dem stärksten Argument der anderen ausweichen. Regulierung kann strategische Vorteile verschieben, doch uneingeschränkter Wettbewerb kann freiwillige Sicherheitszusagen instabil machen.
Die ungelöste Frage lautet, ob Regierungen gegenseitige Schutzvorkehrungen entwickeln können, ohne eine umfassende internationale Autorität zu schaffen, die Washington ablehnen wird.
KI-Manager wiesen die Forderung nach einseitiger Kontrolle zurück
Die Botschaft der Branche bei der UN stellte sowohl staatliche als auch unternehmerische Kontrolle infrage, nicht nur die regulierungsfeindliche Position des Weißen Hauses.
Altmans Warnung vor konzentrierter Macht hatte besonderes Gewicht, weil OpenAI die technologische Grenze mitdefiniert, die Regierungen zu steuern versuchen.
Sein Argument forderte die Vereinten Nationen nicht dazu auf, ein Unternehmen als vertrauenswürdigen Verwalter auszuwählen. Es wies die Annahme zurück, dass irgendein Unternehmen allein über die Risiken entscheiden sollte, denen die Menschheit durch fortgeschrittene KI ausgesetzt ist.
Diese Haltung spiegelt ein entstehendes Legitimationsproblem wider. Frontier-Labore treffen Entscheidungen mit Folgen, die weit über ihre Kunden, Beschäftigten und Heimatländer hinausreichen.
Ein in den Vereinigten Staaten trainiertes Modell kann innerhalb weniger Stunden Nutzer weltweit unterstützen. Es kann jedoch auch Cybersicherheits-, biologische, Propaganda- oder Überwachungsrisiken über Grenzen hinweg schaffen.
Nationale Regulierungsbehörden können inländische Unternehmen beaufsichtigen, doch sie können diese Auswirkungen nicht vollständig eindämmen. Internationale Organisationen können Regierungen koordinieren, verfügen aber über begrenzte Durchsetzungsmacht gegenüber privaten Laboren.
Delangues Fokus auf Asymmetrie greift diese Lücke auf. Eine kleine Zahl von Unternehmen verfügt über die Recheninfrastruktur, technischen Talente und proprietären Informationen, die nötig sind, um Frontier-Systeme zu verstehen.
Die meisten Regierungen besitzen keine vergleichbare Expertise. Viele können Modellschutzvorkehrungen nicht unabhängig testen oder Aussagen von Entwicklern überprüfen.
Der Präsident der UN-Generalversammlung sprach Anfang September eine verwandte Warnung aus. Große Technologieunternehmen agierten zunehmend wie quasi-souveräne Akteure, sagte er in einer Rede zur KI-Governance.
Diese Beschreibung erfasst mehr als die Größe von Unternehmen. Diese Unternehmen legen Zugangsrichtlinien fest, entscheiden über Veröffentlichungszeitpläne, definieren zulässige Nutzung und bestimmen, welche Vorfälle offengelegt werden sollen.
Ihre internen Entscheidungen können Wahlen, militärische Planung, Arbeitsmärkte, wissenschaftliche Forschung und öffentliche Informationen beeinflussen. Dennoch haben viele Länder, die von diesen Entscheidungen betroffen sind, keine bedeutsame Rolle bei ihrer Gestaltung.
Nach Angaben der UN haben 118 Länder bisher nicht an wichtigen Diskussionen zur KI-Governance teilgenommen. Weniger als ein Drittel der Entwicklungsländer verfügt über eine nationale KI-Strategie.
Diese Zahlen zeigen, warum der Streit über existenzielle Risiken hinausgeht. Regierungen sorgen sich auch um wirtschaftliche Ausgrenzung, kulturellen Einfluss, ungleiche Infrastruktur und Abhängigkeit von ausländischen Plattformen.
Die Manager legten keinen einheitlichen Regulierungsplan vor. OpenAI, Anthropic und Hugging Face haben unterschiedliche Geschäftsmodelle und verschiedene Auffassungen von Offenheit.
Hugging Face unterstützt ein breites Ökosystem gemeinsam genutzter Modelle und Entwicklungswerkzeuge. OpenAI und Anthropic setzen stärker auf kontrollierten Zugang zu proprietären Frontier-Systemen.
Diese Unterschiede werfen praktische Fragen dazu auf, wer überwacht werden sollte. Regeln für geschlossene Labore könnten die offene Entwicklung belasten, ohne die größten Konzentrationen von Rechenleistung zu erfassen.
Regeln, die auf Modellfähigkeiten abzielen, stehen vor einem weiteren Problem. Regierungen bräuchten verlässliche Tests, die auch bei veränderten Architekturen und Trainingsmethoden aussagekräftig bleiben.
Dennoch einigten sich die Unternehmen auf ein Prinzip. Mit zunehmender Leistungsfähigkeit wächst der Bedarf an Governance, die über einseitige Unternehmenszusagen hinausgeht.
Diese Einigkeit setzt Trumps KI-Sicherheitspolitik unter Druck. Die Regierung argumentiert, globale Kontrollen würden die amerikanische Führungsrolle behindern, doch amerikanische Führungskräfte warnen vor konzentrierter einseitiger Macht.
Ihre Aussagen belegen nicht, dass jedes vorgeschlagene Risiko unmittelbar bevorsteht. Sie belegen jedoch, dass die Labore, die der Technologie am nächsten stehen, Koordinierung als ernsthafte politische Notwendigkeit ansehen.
Die UN kann Normen schaffen, sie aber nicht allein durchsetzen
Die KI-Institutionen der UN können gemeinsame Erwartungen definieren, doch ihr Einfluss hängt von der Beteiligung mächtiger Regierungen und führender Labore ab.
Die Generalversammlung richtete im August 2025 durch Resolution 79/325 das Unabhängige Internationale Wissenschaftliche Gremium für Künstliche Intelligenz ein.
Das Gremium soll eine gemeinsame wissenschaftliche Bewertung der Chancen, Auswirkungen und Risiken von KI liefern. Es verschafft Regierungen ohne große technische Behörden Zugang zu einer gemeinsamen Evidenzbasis.
Dieselbe Resolution unterstützt einen Globalen Dialog zur KI-Governance. Dieser Prozess bringt Regierungen und andere Interessengruppen zusammen, um Prioritäten zu bestimmen und gemeinsame Verständnisse zu entwickeln.
Diese Gremien schließen eine tatsächliche institutionelle Lücke. Die Klimapolitik verfügt über den Zwischenstaatlichen Ausschuss für Klimaänderungen, während die globale öffentliche Gesundheit etablierte wissenschaftliche und diplomatische Strukturen hat.
Der KI-Governance fehlte ein vergleichbares Forum mit breiter Beteiligung. Die einflussreichsten Sicherheitsinitiativen umfassten bislang kleinere Gruppen von Regierungen, Laboren oder technischen Experten.
Der UN-Rahmen stellt jedoch keine verbindliche globale Regulierung dar. Resolutionen der Generalversammlung drücken in der Regel gemeinsame Positionen aus und schaffen Prozesse, statt gegenüber Unternehmen durchsetzbare Verpflichtungen aufzuerlegen.
Der Sicherheitsrat kann unter bestimmten Umständen gemäß der UN-Charta verbindliche Entscheidungen treffen. Das Treffen am Mittwoch war jedoch eine Unterrichtung und nicht die Verabschiedung eines KI-Durchsetzungsregimes.
Deshalb erfordert der Ausdruck „UN-KI-Regeln“ Vorsicht. Die Organisation baut derzeit eher Wissen, Normen und diplomatische Koordinierung auf als unmittelbar anwendbares technisches Recht.
Unverbindliche Regeln sind dennoch wichtig. Sie können Terminologie vereinheitlichen, nationale Gesetzgebung beeinflussen, Beschaffung steuern und Erwartungen an verantwortungsvolles unternehmerisches Handeln festlegen.
Internationale Normen können nach einem Zwischenfall zudem zu Bezugspunkten werden. Regierungen, Gerichte, Kunden und Investoren können fragen, ob ein Unternehmen Praktiken befolgt hat, die in verschiedenen Rechtsordnungen anerkannt sind.
Normen verlieren jedoch an Wirkung, wenn das einflussreichste Land den Prozess offen ablehnt. Die Vereinigten Staaten beherbergen OpenAI, Anthropic, Google, Meta, Microsoft und mehrere große Anbieter von Rechenleistung.
Diese Organisationen kontrollieren bedeutende Teile der Lieferketten für Modelle, Cloud-Dienste und Halbleiter. Jeder globale Sicherheitsrahmen ohne Unterstützung der USA beginnt mit einer großen operativen Lücke.
Auch Chinas Beteiligung bleibt unverzichtbar. Die bilaterale Rivalität erschwert die Koordinierung, insbesondere weil fortschrittliche Modelle militärische, nachrichtendienstliche und wirtschaftliche Anwendungen haben.
Der stärkste realistische Ansatz könnte mit engen Verboten beginnen. Regierungen könnten Unterstützung für biologische Waffen, Angriffe auf kritische Infrastruktur oder vollständig autonome tödliche Entscheidungen ins Visier nehmen.
Selbst enge Vereinbarungen erfordern Überprüfung. Staaten brauchen die Gewissheit, dass Rivalen vergleichbare Systeme testen und relevante Fehlschläge melden.
Die Bewertung von Modellen bleibt unvollkommen. Ein System kann sich während Tests sicher verhalten und nach der Einführung, einer Änderung oder der Verbindung mit externen Tools andere Ergebnisse liefern.
Die Technologie überschreitet zudem rechtliche Kategorien. Dasselbe Modell kann einem Forscher helfen, Krankheiten zu verstehen, einem Angreifer bei der Entwicklung schädlicher Materialien helfen oder eine Regierung bei der Überwachung unterstützen.
Diese Unsicherheit spricht für eine stärkere Überwachung, begrenzt aber auch die Behauptungen, die Regulierer aufstellen sollten. Kein Rahmen kann bescheinigen, dass ein Universalmodell in jeder Hinsicht sicher ist.
Die Vereinten Nationen können nationale Politiken besser miteinander vereinbar machen. Sie können technische Regulierungsbehörden, Gerichte, Prüfer und Durchsetzungsstellen in wichtigen KI-produzierenden Ländern nicht ersetzen.
Ohne Zustimmung der USA können andere Staaten dennoch Standards entwickeln. Sie können diese Standards in Beschaffung, Regeln für den Marktzugang und nationales Recht aufnehmen.
Das Ergebnis würde einer regulatorischen Fragmentierung ähneln. Unternehmen könnten in verschiedenen Rechtsordnungen unterschiedliche Offenlegungs-, Test- und Zugangsanforderungen befolgen müssen.
Dieses Ergebnis würde die KI-Entwicklung nicht stoppen. Es würde die Compliance-Kosten erhöhen und zugleich die folgenreichsten Sicherheitsentscheidungen zwischen nationalen Systemen aufteilen.
Die Spaltung setzt Regierungen, Unternehmen und Unternehmenskäufer unter Druck
Die Meinungsverschiedenheit zwingt alle Beteiligten zu entscheiden, ob Sicherheit ein freiwilliges Versprechen, eine Marktanforderung oder eine rechtliche Pflicht ist.
Der erste Druck trifft die US-Verbündeten. Viele unterstützen sowohl die technologische Führungsrolle Amerikas als auch stärkere internationale KI-Schutzvorkehrungen.
Sie müssen nun entscheiden, ob sie Governance-Systeme ohne Washington aufbauen. Ein Vorangehen kann den Schwung erhalten, birgt jedoch das Risiko, Standards zu schaffen, die amerikanische Unternehmen oder Regulierer später ablehnen.
Auf eine Einigung mit den USA zu warten, verursacht andere Kosten. Führende Systeme werden sich weiter verbessern, während internationale Verhandlungen unvollständig bleiben.
Europäische Regierungen haben bereits Erfahrung damit, über Marktzugang globale Technologiepraktiken zu beeinflussen. Ihr Ansatz kann über die eigenen Grenzen hinaus praktische Standards schaffen.
Ein aggressives Compliance-System könnte jedoch das Misstrauen des Weißen Hauses gegenüber internationaler Kontrolle vertiefen. Es könnte KI-Governance auch zu einer weiteren Quelle von Handelskonflikten machen.
Der zweite Druck trifft KI-Unternehmen. Öffentliche Unterstützung für Schutzvorkehrungen wirft Fragen dazu auf, was diese Unternehmen tun werden, bevor Regierungen handeln.
Ein Labor kann nicht glaubwürdig unabhängige Aufsicht fordern und zugleich den Zugang vorenthalten, der für eine aussagekräftige Bewertung erforderlich ist. Es muss festlegen, welche Systeme, Tests und Vorfälle von dieser Verpflichtung erfasst werden.
Unternehmen müssen auch erklären, wie Sicherheitsentscheidungen mit Veröffentlichungsplänen zusammenhängen. Ein Modell erst nach dem Auftreten eines schweren Problems zu verzögern, ist etwas anderes als vorab festgelegte Schwellenwerte einzuhalten.
Der dritte Druck trifft Unternehmenskunden. Unternehmen verlassen sich zunehmend auf KI-Anbieter für Programmierung, Forschung, Kundensupport, Dokumentenanalyse und automatisierte Entscheidungen.
Sie können nicht davon ausgehen, dass die öffentliche Sicherheitssprache eines Anbieters durchsetzbaren Schutz schafft. Kunden benötigen Vertragsbedingungen zu Datennutzung, Meldung von Vorfällen, Zugriffskontrollen und Modelländerungen.
Besonders wichtig ist dies, wenn KI-Systeme über vernetzte Software Handlungen ausführen können. Ein autonomer Agent ist ein System, das mit begrenztem menschlichem Eingreifen mehrere Schritte plant und ausführt.
Größere Autonomie kann die Produktivität steigern, erweitert jedoch auch die Folgen von Fehlern. Die falsche Antwort eines Chatbots unterscheidet sich von einem Agenten, der Datensätze ändert, Nachrichten versendet oder Software modifiziert.
Unternehmenskäufer sollten den Governance-Streit daher als operatives Thema betrachten. Abweichende Regeln können beeinflussen, welche Modelle verfügbar bleiben und welche Nachweise Anbieter erbringen müssen.
Beschaffungsteams könnten von Anbietern Evaluationsergebnisse verlangen, bevor Gesetzgeber sie fordern. Versicherer und Prüfer können durch Risikobewertungen und Deckungsbedingungen ähnlichen Druck erzeugen.
Entwickler stehen vor einer verwandten Herausforderung. Sicherheitsbeschränkungen auf der Modellebene können das Verhalten von Anwendungen ohne vorherige Ankündigung verändern.
Eine aktualisierte Richtlinie könnte einen Workflow blockieren, der zuvor funktioniert hat. Ein Modell-Update könnte auch Zuverlässigkeit, Tool-Nutzung oder Widerstandsfähigkeit gegen manipulierte Anweisungen verändern.
Teams sollten das Modell eines Anbieters nicht als feste Komponente behandeln. Sie benötigen Bewertungen, die an ihre eigenen Anwendungen und Daten gebunden sind.
Wissensarbeiter sind weniger sichtbaren Risiken ausgesetzt. KI-generierte Zusammenfassungen, Analysen und Empfehlungen können Entscheidungen prägen, auch wenn keine formelle Automatisierung stattfindet.
Ein Modell, das Belege selbstsicher auslässt, kann einen Bericht, eine Einstellungsentscheidung, ein medizinisches Gespräch oder eine Finanzprüfung beeinflussen. Dies sind Governance-Fragen, auch ohne eine extreme Katastrophe.
Trumps KI-Sicherheitspolitik betont den nationalen Wettbewerb, doch Nutzer erleben Risiken über einzelne Produkte und Workflows. Diese Lücke macht institutionelle Schutzvorkehrungen für gewöhnliche Technologieentscheidungen relevant.
Die Debatte schafft zudem Druck für klarere Nachweise. Unternehmen profitieren, wenn sich politische Argumente auf ferne Szenarien konzentrieren, die weiterhin schwer zu testen sind.
Regierungen profitieren, wenn sie breite Schutzvorkehrungen beschreiben, ohne technische oder rechtliche Mechanismen zu konkretisieren. Beide Seiten sollten messbare Verpflichtungen nachweisen müssen.
Ein glaubwürdiges System würde festlegen, wer Modelle bewertet, welchen Zugang Bewerter erhalten, welche Vorfälle offengelegt werden müssen und was geschieht, sobald ein Schwellenwert überschritten wird.
Solange diese Details fehlen, bleiben Aussagen zur Unterstützung von Innovation oder Sicherheit unvollständig. Der Konflikt bei der UN hat Positionen offengelegt, die Umsetzung jedoch nicht geklärt.
Der Sicherheitsansatz enthält weiterhin große Unsicherheiten
Das Weiße Haus unterschätzt die Risiken mangelnder Koordinierung, doch Sicherheitsbefürworter haben noch nicht bewiesen, dass ihre weitreichendsten Vorschläge umsetzbar sind.
Das Argument für Zusammenarbeit beginnt mit einer starken Beobachtung. Wettbewerbsdruck kann Unternehmen dazu drängen, Systeme zu veröffentlichen, bevor jedes ernsthafte Risiko verstanden wurde.
Dieses Muster zeigt sich in vielen Branchen. Sicherheitsinvestitionen schaffen häufig gemeinsame Vorteile, während Verzögerungen und Kosten bei dem Unternehmen anfallen, das sie vornimmt.
Gemeinsame Regeln können diesen Anreiz korrigieren. Sie verhindern, dass ein verantwortungsvoller Teilnehmer Kosten trägt, die weniger vorsichtige Wettbewerber vermeiden.
KI schafft zusätzliche Schwierigkeiten, weil Forscher nicht jede Fähigkeit vor dem Training vorhersagen können. Unerwartetes Verhalten kann durch Skalierung, neue Tools oder andere Einsatzbedingungen entstehen.
Unsicherheit wirkt jedoch in beide Richtungen. Sie spricht für Vorsicht, bestätigt aber nicht jede Behauptung über existenzielle Gefahren.
Die öffentliche Diskussion vermischt häufig kurzfristige Schäden mit spekulativen Szenarien. Betrug, Diskriminierung, Datenschutzverletzungen, Cyberangriffe und unzuverlässige Automatisierung sind bereits beobachtbar belegt.
Die Auslöschung der Menschheit durch autonome KI beruht auf weitergehenden Annahmen über künftige Fähigkeiten, Zugang, Kontrolle und Absicht. Diese Annahmen verdienen Untersuchung, sollten jedoch nicht als gesicherte Tatsache dargestellt werden.
Die Unterscheidung ist für die Ausgestaltung der Politik wichtig. Regeln gegen Cybermissbrauch können Zugriffskontrollen, Überwachung und Berichterstattung erfordern.
Regeln gegen den Kontrollverlust über übermenschliche Systeme könnten Entwicklungsgrenzen, Überwachung von Rechenleistung oder Beschränkungen rekursiver Selbstverbesserung erfordern.
Jede Sorge unter „KI-Sicherheit“ zusammenzufassen, kann zu weitreichenden Vorschlägen mit unklaren Prioritäten führen. Es kann Gegnern auch ermöglichen, dokumentierte Schäden abzutun, indem sie das spekulativste Szenario angreifen.
Auch die Unterstützung der Industrie verdient genaue Prüfung. Große Labore können Regulierung bevorzugen, die die Hürden für kleinere Wettbewerber erhöht.
Anforderungen an kostspielige Audits, spezialisierte Sicherheitsteams und umfangreiche Berichterstattung können Unternehmen stärken, die diese bereits finanzieren können.
Ein gerechter Rahmen sollte Verpflichtungen daher nach Fähigkeit und Risiko staffeln. Er sollte nicht annehmen, dass jedes offene Modell, Startup oder jede Geschäftsanwendung dieselbe Gefahr darstellt.
Warnungen von Unternehmen können auch strategischen Interessen dienen. Ein Unternehmen, das seine Technologie als potenziell weltverändernd beschreibt, kann damit den Eindruck technischer Führungsstärke verstärken.
Das macht seine Bedenken nicht falsch. Es bedeutet, dass Regulierungsbehörden unabhängige Belege benötigen, statt sich auf die von ihnen regulierten Unternehmen zu verlassen.
Das wissenschaftliche Gremium der UN kann helfen, Belege von der Positionierung von Unternehmen zu trennen. Seine Glaubwürdigkeit wird von transparenten Methoden, vielfältiger Expertise und einem klaren Umgang mit Unsicherheit abhängen.
Auch politische Unabhängigkeit wird wichtig sein. Regierungen könnten Erkenntnisse bevorzugen, die entweder eine rasche Entwicklung oder strengere Kontrolle rechtfertigen.
Trumps Position enthält einen eigenen Widerspruch. Er lehnte internationale Beschränkungen ab, sagte jedoch zugleich, die Vereinigten Staaten würden KI sicher und verantwortungsvoll entwickeln.
Diese Behauptungen brauchen einen Mechanismus. Ein Eingreifen des Justizministeriums kann systematische Modelltests, die Offenlegung von Vorfällen oder spezialisierte technische Aufsicht nicht ersetzen.
Die Regierung verfügt möglicherweise über nationale Sicherheitsmaßnahmen, die in der Rede nicht beschrieben wurden. Ihr öffentliches Argument vor der UN erklärte nicht, wie solche Maßnahmen grenzüberschreitende Risiken adressieren würden.
Sicherheitsbefürworter tragen die entgegengesetzte Beweislast. Sie müssen zeigen, dass Koordination wechselseitig, überprüfbar und eng genug gefasst sein wird, um sinnvolle Entwicklung zu erhalten.
Eine schlecht konzipierte Verlangsamung könnte die Entwicklung in weniger transparente Rechtsräume verlagern. Sie könnte zudem die Kontrolle bei Regierungen und Unternehmen konzentrieren, die bereits über die meisten Ressourcen verfügen.
Die überzeugendste Schlussfolgerung lautet nicht, dass eine der beiden Seiten die Governance-Frage gelöst hat. Sie lautet, dass einseitige Kontrolle kein Problem beantworten kann, das durch voneinander abhängige Systeme und globalen Wettbewerb entsteht.
Drei Signale werden zeigen, ob die Spaltung dauerhaft ist
Die nächste Phase hängt von konkreten Verpflichtungen ab, nicht von einer weiteren Runde von Reden über Innovation oder Verantwortung.
Das erste Signal ist, ob das Weiße Haus einen detaillierten nationalen Sicherheitsrahmen veröffentlicht. Ein solcher Rahmen sollte Testschwellen, Zugang für Evaluatoren, Meldung von Vorfällen und die Verantwortung für die Durchsetzung benennen.
Ein öffentliches Dokument würde klären, ob Trump alle Schutzmaßnahmen ablehnt oder gezielt internationale Kontrolle zurückweist. Diese Positionen haben sehr unterschiedliche Folgen.
Nationale Regeln könnten auch eine Grundlage für die Koordinierung mit Verbündeten schaffen. Regierungen benötigen keine identischen Gesetze, wenn ihre Systeme miteinander vereinbare Sicherheitsergebnisse erzielen.
Veröffentlicht die Regierung messbare Anforderungen, wird die Spaltung bei der UN enger wirken, als Trumps Rede vermuten ließ. Bietet sie lediglich allgemeine Aufsicht, wird sich die Kluft vertiefen.
Das zweite Signal ist, ob OpenAI, Anthropic und andere Labore fortlaufende unabhängige Bewertungen umsetzen. Öffentliche Unterstützung wird erst dann bedeutsam, wenn externe Experten dauerhaften Zugang erhalten.
Evaluatoren benötigen mehr als inszenierte Demonstrationen. Sie benötigen ausreichend technische Informationen, wiederholbare Tests und Schutz vor kommerziellem Druck.
Unternehmen sollten zudem erklären, was geschieht, wenn eine Bewertung inakzeptable Risiken entdeckt. Tests ohne Folgen für eine Veröffentlichung werden zu einer Dokumentationsübung.
Gemeinsame Verpflichtungen würden die Argumentation stärken, dass die Branche durchsetzbare Koordinierung will. Uneinheitliche Beteiligung würde bestätigen, dass Wettbewerbsanreize weiterhin Sicherheitsversprechen dominieren.
Metas Reaktion wird besonders wichtig sein. Ein Rahmen, der einen der größten KI-Entwickler ausschließt, hätte Schwierigkeiten, zum Branchenstandard zu werden.
Die Beteiligung chinesischer Labore wäre noch bedeutsamer. Die ambitioniertesten Koordinierungsvorschläge hängen davon ab, dass Rivalen glauben, andere unterlägen vergleichbaren Beschränkungen.
Das dritte Signal ist, ob der UN-Prozess allgemeine Grundsätze in eng gefasste, überprüfbare Prioritäten überführt. Der nächste Global Dialogue und die Überprüfung des Global Digital Compact im Jahr 2027 bieten wichtige Foren.
Eine kurze Liste messbarer Ziele wäre glaubwürdiger als eine weitreichende Erklärung. Biologische Schutzmaßnahmen, Cyber-Bewertungen und die Meldung von Vorfällen bieten mögliche Ausgangspunkte.
Regierungen müssen festlegen, welche Systeme unter die jeweiligen Anforderungen fallen. Sie müssen zudem erklären, wie die Einhaltung bewertet wird, ohne sensibles geistiges Eigentum offenzulegen.
Die UN sollte der Versuchung widerstehen, eine Autorität zu beanspruchen, die sie nicht besitzt. Ihr vergleichbarer Vorteil liegt darin, Staaten zusammenzubringen, Belege zu organisieren und gemeinsame Erwartungen zu etablieren.
Nationale Regierungen müssen rechtliche Verbindlichkeit schaffen. Unternehmen müssen technischen Zugang gewähren. Forschende müssen prüfen, ob die vorgeschlagenen Schutzmaßnahmen tatsächlich funktionieren.
Leser sollten beobachten, wie diese drei Gruppen die Verantwortung aufteilen. Ein System, in dem jeder Beteiligte erwartet, dass ein anderer handelt, wird das bestehende Vakuum erhalten.
Die Auseinandersetzung bei der UN legte ein tieferes Problem offen als eine Meinungsverschiedenheit über Regulierung. Die Vereinigten Staaten wollen die strategischen Vorteile der KI-Führung nutzen, ohne weitreichende internationale Kontrolle zu akzeptieren.
Viele andere Regierungen wollen Einfluss auf Systeme nehmen, die außerhalb ihrer Grenzen entwickelt wurden. Führende US-Manager sagen zunehmend, diese Regierungen hätten einen legitimen Grund, sich zu beteiligen.
Trumps KI-Sicherheitspolitik kann sich noch zu einem detaillierten nationalen Rahmen entwickeln, der begrenzte internationale Koordinierung unterstützt. Sie kann aber auch eine Beschleunigungspolitik bleiben, die vor allem durch allgemeine Versprechen verantwortungsvoller Entwicklung gestützt wird.
Die nächsten ein bis drei Monate sollten zeigen, welchen Weg Washington gewählt hat. Achten Sie auf veröffentlichte Standards, unabhängigen Zugang für Evaluatoren und konkrete UN-Prioritäten für die Governance.
Diese Signale werden zeigen, ob der Streit in der Generalversammlung nur vorübergehendes Theater war oder der Beginn einer dauerhaften Spaltung in der Governance.
