USA und Russland schwächten einen KI-Waffenpakt durch die Streichung menschlicher Zielprüfung
Die Vereinigten Staaten und Russland haben Berichten zufolge während der Verhandlungen im September einen KI-Waffenpakt der Vereinten Nationen geschwächt und trotz wachsender Besorgnis über automatisierte Kriegsführung mehrere Schutzvorkehrungen gestrichen.
Die gestrichene Formulierung verpflichtete Menschen dazu, von KI erzeugte militärische Ziele vor einem Angriff zu überprüfen, wie drei von berichteten Überarbeitungen zitierte Personen sagten. Die Verhandler entfernten außerdem Anforderungen, wonach militärische KI vorhersehbar und zuverlässig funktionieren muss. Auch eine Klausel, die ethische Erwägungen forderte, wurde gestrichen.
Das Außenministerium, das russische Außenministerium und die Vereinten Nationen reagierten nicht auf Anfragen der Publikation. Dieses Schweigen lässt wichtige Details außerhalb der vertraulichen Verhandlungen unbestätigt.
Die berichteten Änderungen legen jedoch eine klare Spaltung offen. Viele Regierungen und humanitäre Gruppen wollen durchsetzbare Beschränkungen, die menschliche Kontrolle bewahren. Die Vereinigten Staaten und Russland bevorzugen größeren nationalen Ermessensspielraum bei der Entwicklung und dem Einsatz militärischer KI.
Dieser KI-Waffenpakt zwischen den USA und Russland ist kein Vertrag, und seine derzeitige Formulierung schafft kein verbindliches Recht. Dennoch stellt er den weitesten Fortschritt dar, den jahrelange Verhandlungen der Vereinten Nationen auf dem Weg zu gemeinsamen Regeln erzielt haben.
Der Konflikt geht daher über einen einzelnen umstrittenen Entwurf hinaus. Es handelt sich um einen Wettstreit zwischen verbindlichen Anforderungen an menschliche Kontrolle und freiwilligen Prinzipien, die von Militärmächten geprägt werden, welche operative Flexibilität anstreben.
Was sich beim KI-Waffenpakt zwischen den USA und Russland änderte
Der Entwurf verlor Schutzvorkehrungen für den Moment, in dem die Empfehlung eines Algorithmus zur Entscheidung für einen Angriff wird.
Die Verhandlungen fanden laut dem Bericht der Washington Post Anfang September in Genf statt. Die Sitzungen befassten sich mit tödlichen autonomen Waffensystemen, also Waffen, die Ziele mit unterschiedlichem Grad menschlicher Beteiligung auswählen oder bekämpfen können.
Drei mit den Gesprächen vertraute Personen sagten, die amerikanischen und russischen Delegationen hätten während einer nichtöffentlichen Sitzung auf Änderungen gedrängt. Berichten zufolge wurden die Kameras der Vereinten Nationen ausgeschaltet und Beobachter der Zivilgesellschaft aus dem Raum entfernt.
Jede der beiden Delegationen brachte dem Bericht zufolge etwa zehn Juristen mit, nahezu doppelt so viele wie die diplomatische Präsenz anderer Teilnehmer. Ihre vorgeschlagenen Änderungen trafen so schnell ein, dass kleinere Delegationen Mühe hatten, dem sich wandelnden Text zu folgen.
Die folgenschwerste Streichung betraf die Zielprüfung. Eine frühere Bestimmung verlangte, dass ein Mensch die von KI erzeugten militärischen Ziele prüft, bevor ein Angriff erfolgen konnte.
Diese Anforderung betraf sowohl KI-gestützte Entscheidungshilfesysteme als auch autonomere Waffen. Ein Entscheidungshilfesystem könnte Überwachungsdaten analysieren, mutmaßliche Ziele priorisieren, Risiken einschätzen oder einen Angriff empfehlen, ohne selbst physisch eine Waffe abzufeuern.
Die Streichung der Überprüfungsklausel erlaubt nicht automatisch Maschinen, ohne Aufsicht zu töten. Das bestehende humanitäre Völkerrecht bindet Staaten und Militärpersonal unabhängig von der verwendeten Technologie weiterhin.
Die Streichung beseitigt jedoch eine vorgeschlagene Verfahrensschutzvorkehrung. Sie schreibt nicht länger vor, dass eine Person ein von KI erzeugtes Ziel unabhängig prüfen muss, bevor Gewalt eingesetzt wird.
Die Delegationen strichen Berichten zufolge auch Formulierungen, die einen vorhersehbaren und zuverlässigen Betrieb verlangten. Diese Begriffe sind wichtig, weil Systeme des maschinellen Lernens sich anders verhalten können, wenn die Bedingungen auf dem Schlachtfeld von Trainings- und Testumgebungen abweichen.
Sie entfernten außerdem eine Klausel, die Militärs dazu anhielt, beim Einsatz KI-gestützter Waffen ethische Aspekte zu berücksichtigen. Ethische Formulierungen können schwer durchzusetzen sein, doch ihre Streichung verengt die im Entwurf formulierten Erwartungen.
Diese Änderungen sind gemeinsam bedeutsam. Menschliche Prüfung, Zuverlässigkeit und ethische Bewertung betreffen unterschiedliche Phasen derselben Kette – vom Systemdesign über die Zielauswahl bis zur Genehmigung eines Angriffs.
Der Entwurf bleibt Teil eines konsensbasierten Prozesses. Dutzende teilnehmende Staaten müssen zustimmen, bevor strengere Regeln vorankommen können, was großen Gegnern erhebliche Blockademacht verleiht.
Die Regierungen sollen im November nach Genf zurückkehren. Sie werden prüfen, ob der Prozess ein formelles Mandat erhalten sollte und ob die Verhandlungen hin zu rechtsverbindlichen Regeln voranschreiten können.
Dieses Treffen wird zeigen, ob die gestrichenen Bestimmungen ausgeschlossen bleiben, in überarbeiteter Form zurückkehren oder Gegenstand einer separaten Vereinbarung werden. Es wird auch offenlegen, wie viel Widerstand kleinere Staaten aufrechterhalten können.
Die fehlende Regel zur menschlichen Prüfung ist am wichtigsten
Ein menschlicher Genehmigungsschritt hat wenig Wert, wenn die prüfende Person nicht über genügend Informationen, Befugnisse und Zeit verfügt, um die Empfehlung der Maschine abzulehnen.
Die gestrichene Anforderung ging über die bloße Platzierung einer Person irgendwo in der Befehlskette hinaus. Sie betraf die Frage, ob Menschen konkrete, von einem KI-System erzeugte Ziele überprüfen müssen, bevor Waffen eingesetzt werden.
Diese Unterscheidung ist zentral für die Regulierung militärischer KI. Menschliche Kontrolle kann alles bezeichnen – von der Festlegung allgemeiner Einsatzparameter bis zur Prüfung jedes empfohlenen Ziels unmittelbar vor einem Angriff.
Diese Anordnungen schaffen sehr unterschiedliche Schutzvorkehrungen. Ein Kommandeur, der ein allgemeines Einsatzgebiet genehmigt, bewertet nicht zwangsläufig jede Person, jedes Fahrzeug oder jedes Gebäude, das ein Algorithmus identifiziert.
Die Zielauswahl umfasst zudem rechtliche und kontextbezogene Bewertungen, die Mustererkennungssysteme nicht allein anhand von Statistiken treffen können. Einsatzkräfte müssen militärische Ziele von Zivilisten unterscheiden und den erwarteten Kollateralschaden bewerten.
KI kann Sensordaten, Kommunikation, Bildmaterial, Standortverläufe und andere Daten mit hoher Geschwindigkeit zusammenführen. Anschließend kann sie Objekte oder Personen anhand von Korrelationen bewerten, die aus früheren Beispielen gelernt wurden.
Diese Geschwindigkeit bietet einen militärischen Vorteil. Sie kann jedoch auch Automatisierungsbias erzeugen, der entsteht, wenn Menschen eine computergestützte Empfehlung akzeptieren, ohne ein aussagekräftiges unabhängiges Urteil anzuwenden.
Eine prüfende Person, die innerhalb weniger Minuten mit Hunderten vorgeschlagener Ziele konfrontiert wird, könnte Ergebnisse mechanisch genehmigen. Der Mensch bleibt formal beteiligt, doch der operative Prozess hat die Entscheidung bereits zur Maschine hin verlagert.
Ein Briefing zur militärischen KI von Human Rights Watch vom Juni 2026 benannte dieses Risiko. Es warnte, dass Geschwindigkeit und Umfang erforderliche Vorsichtsmaßnahmen erschweren oder unmöglich machen können.
Die Organisation argumentierte, dass probabilistische Ergebnisse die vom humanitären Völkerrecht verlangten qualitativen Bewertungen nicht ersetzen können. Sie empfahl zudem ein Moratorium für den Einsatz von KI als Grundlage für Entscheidungen zur Zielauswahl.
Diese Position geht über den berichteten Entwurf der Vereinten Nationen hinaus. Dennoch verdeutlicht sie, warum die gestrichene Formulierung zur Prüfung mehr Gewicht hatte als ein allgemeines Versprechen verantwortungsvollen Einsatzes.
Eine nützliche Schutzvorkehrung würde definieren, welche Informationen Prüfer erhalten, einschließlich der Evidenz des Systems, Unsicherheiten, Datenbeschränkungen und Gründe für die Empfehlung eines Ziels. Sie würde außerdem Zeit für Beratung sichern.
Prüfer müssten befugt sein, einen Angriff zu verzögern oder abzusagen, ohne unter Druck zu stehen, mit der Geschwindigkeit der Maschine mitzuhalten. Sie bräuchten Schulungen sowohl zum Militärrecht als auch zu Fehlermodi des Systems.
Auch die endgültige Entscheidung müsste dokumentiert werden. Ohne Protokolle, die die Empfehlung, die zugrunde liegenden Daten, die menschliche Reaktion und die Genehmigung durch die Befehlskette zeigen, wird Rechenschaftspflicht nach Schäden an Zivilisten schwierig.
Keines dieser unterstützenden Details wird durch die Formulierung „human in the loop“ garantiert. Ein nomineller Genehmigungsknopf kann einen automatisierten Prozess verschleiern, statt ihn zu begrenzen.
Die gestrichene Bestimmung war daher notwendig, aber nicht ausreichend. Ihre Wiederherstellung würde eine Mindesterwartung festlegen, während detaillierte Standards darüber entscheiden würden, ob die Prüfung tatsächlich substanziell ist.
Militärische Geschwindigkeit kollidiert mit menschlichem Urteil
Der operative Anreiz hinter schwächeren Regeln ist Geschwindigkeit, während die rechtliche und humanitäre Sorge darin besteht, dass Geschwindigkeit das Urteilsvermögen verdrängt.
Militärorganisationen nutzen KI zunehmend für Geheimdienstanalyse, Logistik, Überwachung, Cyberoperationen und Gefechtsplanung. Nicht alle diese Anwendungen bergen dasselbe Risiko.
Die Automatisierung von Wartungsplänen unterscheidet sich grundlegend davon, Menschen als potenzielle Ziele einzustufen. Erstere kann die Effizienz verbessern, während Letztere irreversible Entscheidungen über Leben und Tod beeinflussen kann.
Amerikanische Beamte haben offen eine schnellere Zielauswahl betont. Ein Pentagon-Vertreter sagte der Associated Press, KI könne Truppen helfen, Ziele schneller zu identifizieren und nachfolgende Angriffe zu beschleunigen.
Andere Militärführer haben Vorsicht betont. Admiral Frank Bradley, Leiter des U.S. Special Operations Command, sagte, Menschen müssten darauf vertrauen können, dass KI Gewalt nur dort lenkt, wo sie beabsichtigt ist.
Vertreter des Kommandos haben KI außerdem als Instrument zur Verringerung routinemäßiger Verwaltungsarbeit beschrieben. Ein Beschaffungsverantwortlicher sagte, das Ziel sei, das Urteilsvermögen von Einsatzkräften zu verbessern und nicht zu ersetzen.
Diese Positionen offenbaren eine interne Spannung und keine einfache Entscheidung zwischen Übernahme und Ablehnung. Militärführer wollen rechnergestützte Geschwindigkeit, zugleich aber Vertrauen, Kontrolle und rechtliche Verantwortung bewahren.
Bei Einsätzen mit hohem Volumen wird die Spannung schärfer. Die Washington Post berichtete, dass das US-Militär einen Anthropic-Chatbot nutzte, um in den ersten 24 Stunden eines Krieges bei der Identifizierung von fast 1.000 Zielen zu helfen.
Diese Berichterstattung belegt nicht, dass der Chatbot Ziele eigenständig auswählte oder Angriffe genehmigte. Sie zeigt jedoch, warum Überprüfungsverfahren neben formaler Befugnis auch den Umfang berücksichtigen müssen.
Eine Person kann eine Flut von Empfehlungen nicht sinnvoll bewerten, wenn operative Zeitpläne für jede Entscheidung nur Sekunden erlauben. Schnellere Ergebnisse können die Beratung verringern, selbst wenn die Genehmigung menschlich bleibt.
Die Genfer Gespräche der Vereinten Nationen im Juni brachten mehr als 100 Staaten, internationale Organisationen und Gruppen der Zivilgesellschaft zusammen.
Österreich, Brasilien, Chile, Mexiko, Sierra Leone, Costa Rica und Kuba gehörten zu den Regierungen, die während dieser Diskussionen menschliches Urteil und Rechenschaftspflicht betonten.
Russland lehnte neue Beschränkungen ab und bezeichnete einige Vorschläge als westlich geführte Initiativen. Das Land argumentierte, militärische KI solle innerhalb des bestehenden zwischenstaatlichen Expertenprozesses für konventionelle Waffen bleiben.
Die Vereinigten Staaten und Israel nahmen laut dem Bericht über das Treffen teil, reichten jedoch keine formellen Redebeiträge ein. Ihre Anwesenheit klärte ihre bevorzugten Mindestschutzvorkehrungen nicht.
Das praktische Argument für nationale Flexibilität ist unkompliziert. Kommandeure wollen nicht, dass weit gefasste internationale Formulierungen defensive Automatisierung untersagen oder rechtmäßige Einsätze verlangsamen.
Das Gegenargument ist ebenso konkret. Wenn jeder Staat für sich selbst definiert, was „angemessenes“ menschliches Urteil bedeutet, bietet die Formulierung wenig Schutz vor minimaler oder rein symbolischer Prüfung.
Deshalb waren auch Vorhersehbarkeit und Zuverlässigkeit umstritten. Diese Anforderungen können den Einsatz begrenzen, wenn Systeme nicht unter realistischen Bedingungen auf dem Schlachtfeld validiert wurden.
Schlachtfelder umfassen beschädigte Sensoren, täuschende Signale, unvollständige Geheimdienstinformationen, unbekannte Umgebungen und Gegner, die Algorithmen manipulieren wollen. Eine in kontrollierten Tests gemessene Leistung übersteht diese Bedingungen möglicherweise nicht.
Die Streichung ausdrücklicher Zuverlässigkeitsformulierungen gibt Regierungen mehr Ermessensspielraum bei akzeptabler Leistung. Sie erschwert zugleich die Festlegung einer gemeinsamen Schwelle, bevor Systeme tödliche Entscheidungen beeinflussen.
Freiwillige Normen konkurrieren mit verbindlichen Grenzen
Der zentrale diplomatische Streit dreht sich darum, ob mächtige Militärs Zurückhaltung zusagen oder Regeln akzeptieren sollten, auf die sich andere Staaten gegen sie berufen können.
Die Vereinigten Staaten förderten zuvor freiwillige Grundsätze für verantwortungsvolle militärische KI. Ihre politische Erklärung von 2023 forderte klar definierte Einsatzzwecke, verantwortungsvolle Befehlsketten, Tests und angemessenes menschliches Urteilsvermögen.
Mehr als 50 Staaten haben diesen Rahmen unterstützt. Er schuf eine gemeinsame Sprache, aber weder einen Vertrag noch ein Durchsetzungssystem oder ein unabhängiges Inspektionsverfahren.
Freiwillige Erklärungen können dennoch Beschaffung, Ausbildung und Militärdoktrin beeinflussen. Sie können Regierungen helfen, sich auf Erwartungen zu verständigen, bevor politische Unterstützung für verbindliches Recht besteht.
Ihre Schwäche zeigt sich, wenn sich strategische Anreize verändern. Ein Staat kann flexible Formulierungen neu auslegen, seine nationale Politik überarbeiten oder praktische Schutzmaßnahmen zurücknehmen, ohne gegen eine rechtliche Verpflichtung zu verstoßen.
Die berichteten Änderungen in Genf spiegeln diese Spaltung wider. Die Vereinigten Staaten und Russland sind geopolitische Rivalen, verfügen jedoch beide über hochentwickelte Streitkräfte und schätzen Freiheit bei der Waffenentwicklung.
Keines der beiden Länder unterstützt nach dem von Kampagnenorganisationen favorisierten Ansatz einen verbindlichen internationalen Vertrag zur Einschränkung autonomer Waffen. Ihr gemeinsames Interesse liegt darin, andere Staaten daran zu hindern, enge Regeln festzuschreiben.
Diese Übereinstimmung bedeutet nicht, dass ihre Militärdoktrinen identisch sind. Sie bedeutet, dass beide Regierungen davon profitieren, nationale Entscheidungsfreiheit zu bewahren, während sich Technologie und Anwendungen auf dem Schlachtfeld weiterentwickeln.
Konsensregeln verstärken ihren Einfluss. Nicole van Rooijen von Stop Killer Robots argumentierte, Washington und Moskau könnten Fortschritte blockieren, die von einer großen Mehrheit der Staaten unterstützt werden.
Kleinere Länder mögen strenge Schutzmaßnahmen befürworten, verfügen jedoch nicht über gleichwertige Rechtsabteilungen und diplomatischen Druck. Geschlossene Redaktionssitzungen können dieses Ungleichgewicht vertiefen, wenn Änderungen rasch eingebracht werden.
Vertragsbefürworter verweisen auf Chemiewaffen, biologische Waffen, Antipersonenminen und Streumunition als Präzedenzfälle. Diese Regime unterscheiden sich bei Mitgliedschaft und Durchsetzung, doch jedes trug dazu bei, bestimmte Verhaltensweisen zu stigmatisieren.
Richard Lennane, Abrüstungsberater beim Internationalen Komitee vom Roten Kreuz, hat argumentiert, dass Verträge Normen und Verhalten prägen und nicht nur durch Bestrafung wirken.
Die Vereinten Nationen und das Rote Kreuz erneuerten im August ihren gemeinsamen Appell. Sie forderten Verbote für einige autonome Waffen und Beschränkungen für andere.
Ihr Vorschlag würde Systeme verbieten, deren Auswirkungen nicht ausreichend verstanden, vorhergesagt oder erklärt werden können. Er würde zudem Systeme untersagen, die darauf ausgelegt sind oder dazu verwendet werden, Menschen direkt anzugreifen.
Andere autonome Systeme blieben unter Beschränkungen hinsichtlich Zieltypen, Einsatzdauer, geografischem Umfang und menschlicher Aufsicht zulässig. Diese Struktur vermeidet es, jede automatisierte Funktion als gleichermaßen gefährlich zu behandeln.
Der US-russische Pakt zu KI-Waffen liegt zwischen diesen Ansätzen. Er kann eine freiwillige politische Erklärung bleiben, zur Grundlage für Vertragsverhandlungen werden oder durch Konsens ins Stocken geraten.
Dieser unklare rechtliche Status erklärt, warum Formulierungen jetzt wichtig sind. Frühe Kompromisse werden häufig zu Bezugspunkten für spätere Vereinbarungen, nationale Richtlinien, Beschaffungsverträge und Militärhandbücher.
Wenn die menschliche Überprüfung von Zielen aus der gemeinsamen Ausgangsbasis verschwindet, müssen Befürworter bei jeder späteren Etappe darum kämpfen, sie wiederherzustellen. Das Weglassen kann allmählich zum akzeptierten diplomatischen Ausgangspunkt werden.
Der Entwurf lässt weiterhin entscheidende Fragen offen
Der Bericht benennt gestrichene Schutzmaßnahmen, legt jedoch weder den vollständigen Entwurf noch die Vorschläge jeder Delegation oder die endgültige rechtliche Bedeutung umstrittener Formulierungen offen.
Die Washington Post stützte ihren Bericht auf drei mit vertraulichen Verhandlungen vertraute Personen. Die genannten Regierungen und die Vereinten Nationen gaben keine Stellungnahmen zur Aufnahme ab.
Leser sollten daher zwischen berichteten Details und öffentlich bestätigten diplomatischen Aufzeichnungen unterscheiden. Die Streichungen sind glaubwürdig berichtet, doch die vollständige Verhandlungsgeschichte ist noch nicht verfügbar.
Es bleibt unklar, ob die Vereinigten Staaten und Russland identische Änderungen vorgeschlagen oder einander nur selektiv unterstützt haben. Ihre Gründe für die Ablehnung jeder Klausel wurden nicht veröffentlicht.
Der Öffentlichkeit fehlt zudem ein Textvergleich, der jede Überarbeitung nebeneinander zeigt. Ein solcher Vergleich würde offenlegen, ob Schutzmaßnahmen vollständig gestrichen, an anderer Stelle verschoben oder durch allgemeinere Formulierungen ersetzt wurden.
Auch der Begriff „menschliche Überprüfung“ bedarf einer Definition. Eine Anforderung kann für jedes Ziel, bestimmte Zielklassen oder nur für Situationen gelten, in denen ein KI-System entscheidende Informationen liefert.
Ebenso kann ein „KI-generiertes Ziel“ die ursprüngliche Identifizierung durch eine Maschine, eine priorisierte Empfehlung oder ein Zielpaket meinen, das aus mehreren menschlichen und automatisierten Eingaben zusammengestellt wurde.
Diese Unterscheidungen beeinflussen die operativen Folgen. Eine enge Definition könnte Regierungen erlauben, viele algorithmusgestützte Entscheidungen als von Menschen erzeugt einzustufen und damit die Schutzmaßnahme zu umgehen.
Der Bericht belegt auch nicht, dass eines der beiden Länder derzeit Waffen erlaubt, Menschen ohne menschliche Genehmigung anzugreifen. Gegen eine Klausel zu verhandeln beweist keine konkrete Einsatzpolitik.
Diese Ungewissheit sollte die Sorge nicht schmälern. Diplomatischer Widerstand zeigt dennoch, welche Beschränkungen Regierungen international nicht akzeptieren wollen.
Die nationale Politik fügt eine weitere ungeklärte Ebene hinzu. Das Pentagon überarbeitet derzeit Directive 3000.09, seine Richtlinie zur Autonomie in Waffensystemen.
Ein nationales Sicherheitsmemorandum vom Juni ordnete Berichten zufolge eine Aktualisierung innerhalb von 90 Tagen an. Bis Ende September war keine überarbeitete öffentliche Fassung erschienen.
Die Richtlinie von 2023 verlangte angemessenes menschliches Urteilsvermögen beim Einsatz von Gewalt. Sie enthielt zudem Prüfanforderungen für einige autonome und teilautonome Waffensysteme.
Die Beziehung zwischen der ausstehenden nationalen Überarbeitung und der Verhandlungsposition in Genf bleibt unbekannt. Ähnliche Streichungen würden auf eine koordinierte Verschiebung hin zu größerem operativem Ermessensspielraum hindeuten.
Abweichende Formulierungen würden zeigen, dass Washington Schutzmaßnahmen im Inland akzeptiert, sich aber gegen internationale Verpflichtungen wehrt. Diese Position könnte militärische Flexibilität schützen, würde jedoch die amerikanische Interessenvertretung im Ausland schwächen.
Russlands Politik ist schwieriger zu bewerten, weil die öffentliche Transparenz bei Entwicklung, Erprobung und Einsatz weiterhin begrenzt ist. Behauptungen vom Schlachtfeld lassen sich oft nicht unabhängig überprüfen.
Humanitäre Gruppen stehen ebenfalls vor einer Beweislücke. Die Vereinten Nationen und das Rote Kreuz haben erklärt, autonome Waffen entwickelten sich rasch weiter, ohne definitive Aussagen zu bestimmten Einsätzen auf dem Schlachtfeld zu treffen.
KI-gestützte Entscheidungsunterstützung ist leichter zu dokumentieren als vollständig autonome tödliche Operationen. Dennoch können Entscheidungsunterstützungssysteme beeinflussen, wer angegriffen wird, insbesondere unter Zeitdruck.
Die verantwortungsvolle Schlussfolgerung ist enger gefasst als die alarmierendste Interpretation. Der Entwurf hat Berichten zufolge wichtige Barrieren verloren, während die genaue operative Wirkung von Definitionen und Umsetzung abhängt.
Drei Signale, auf die vor den November-Gesprächen zu achten ist
Die Verhandlungen im November, die überarbeitete Richtlinie des Pentagons und Forderungen nach öffentlichem Entwurfstext werden entscheiden, ob diese Episode zu einer dauerhaften politischen Kehrtwende wird.
Das erste Signal ist, ob Regierungen vor oder während des Treffens in Genf wieder eine ausdrückliche Anforderung zur Zielüberprüfung aufnehmen. Ihre Formulierung sollte eine informierte menschliche Bewertung vor jedem Angriff verlangen.
Eine wiederhergestellte Klausel würde die These stärken, dass die Streichungen im September vorläufige Verhandlungsmanöver waren. Ein fortgesetzter Ausschluss würde eine schwächere internationale Ausgangsbasis bestätigen.
Die Details werden wichtiger sein als die Bezeichnung. Eine sinnvolle Überprüfung erfordert ausreichend Zeit, relevante Beweise, Informationen über Unsicherheit und die Befugnis, eine KI-Empfehlung abzulehnen.
Das zweite Signal ist die überarbeitete Richtlinie des Pentagons zu autonomen Waffen. Sie sollte zeigen, ob die Vereinigten Staaten nationale Verpflichtungen beibehalten, die den international gestrichenen ähneln.
Achten Sie auf Formulierungen zu menschlichem Urteilsvermögen, Tests, Zuverlässigkeit, Rechtsprüfungen, Genehmigungen auf hoher Ebene und Ausfällen unter gegnerischen Bedingungen. Definitionen und Ausnahmen werden besonders wichtig sein.
Wenn die Richtlinie starke nationale Kontrollen bewahrt, wird Washington Fragen dazu beantworten müssen, warum es ähnliche internationale Formulierungen abgelehnt hat. Wenn sie diese schwächt, wird die politische Verschiebung umfassender sein.
Das dritte Signal ist Transparenz rund um den Verhandlungstext. Staaten, Journalisten und zivilgesellschaftliche Gruppen benötigen einen öffentlichen Vergleich der umstrittenen Entwürfe und vorgeschlagenen Änderungen.
Transparenz würde unabhängigen Experten erlauben, Behauptungen aller Seiten zu prüfen. Sie würde auch zeigen, ob kleinere Delegationen ausreichend Zeit und Ressourcen erhielten, um schnelle Überarbeitungen zu bewerten.
Der internationale Prozess bleibt fragil, selbst wenn sich alle drei Signale verbessern. Konsensverhandlungen erlauben es einigen einflussreichen Staaten, Vorgaben zu verzögern oder vorgeschlagene Regeln einzuengen.
Dennoch würde die Wiederherstellung menschlicher Überprüfung eine klare Untergrenze festlegen. Sie würde besagen, dass maschinell generierte Zielauswahl nicht ohne verantwortliches menschliches Urteilsvermögen direkt zu einem Angriff führen darf.
Für Entwickler reicht diese Debatte über Waffenhardware hinaus. Militärische KI-Systeme hängen von kommerziellen Modellen, Cloud-Plattformen, Datenpipelines, Evaluierungswerkzeugen und Softwareauftragnehmern ab.
Ingenieure könnten aufgefordert werden, Unsicherheit zu dokumentieren, Prüfprotokolle zu bewahren, die Systemautonomie zu begrenzen oder Schnittstellen zu gestalten, die einer automatischen Zustimmung entgegenwirken. Politische Formulierungen können zu Produktanforderungen werden.
Unternehmenskäufer sollten dieselben Fragen der Rechenschaftspflicht beobachten. KI für hochriskante Anwendungen benötigt Aufzeichnungen darüber, was das System empfohlen hat, welche Beweise es nutzte und wer das Ergebnis genehmigte.
Wissensarbeiter, die einen sich schnell entwickelnden politischen Prozess verfolgen, können eine persönliche Wissensdatenbank mit Entwurfsformulierungen, offiziellen Stellungnahmen und datierten Überarbeitungen führen. Diese Praxis erleichtert es, stille Änderungen zu erkennen.
Der US-russische Pakt zu KI-Waffen wird nur dann Bedeutung haben, wenn seine Schutzmaßnahmen dem Kontakt mit militärischen Anreizen standhalten. Der November wird zeigen, ob menschliche Überprüfung verhandelbar bleibt oder zu einer Mindestregel wird.
Die unmittelbare Frage ist einfach: Werden Regierungen den Text veröffentlichen und verlangen, dass eine Person KI-generierte Ziele prüft, bevor Gewalt eingesetzt wird?
