KI-Warnung des UN-Sicherheitsrats rückt terroristische Bedrohung 25 Jahre nach 9/11 neu ins Blickfeld
Die KI-Warnung des UN-Sicherheitsrats markierte den 25. Jahrestag von 9/11 mit einer klaren Schwerpunktverlagerung. Terrornetzwerke haben heute Zugang zu generativer KI, kommerziellen Drohnen, verschlüsselter Kommunikation und digitalen Finanzierungsinstrumenten, die es 2001 noch nicht gab.
Der Rat trat am 11. September 2026 in New York zusammen, um der Opfer zu gedenken und die nach den Anschlägen aufgebaute internationale Reaktion zu prüfen. Seine Botschaft war nicht bloß symbolisch. Systeme zur Terrorismusbekämpfung, die auf Reisedaten, Banküberweisungen und zentralisierten Organisationen beruhen, müssen nun anpassungsfähigen digitalen Netzwerken begegnen.
Dieser Wandel schafft einen schwierigen Zielkonflikt. Regierungen benötigen bessere Instrumente, um terroristische Aktivitäten zu erkennen, doch dieselben Systeme können invasive Überwachung, diskriminierendes Profiling und übermäßige Inhaltsentfernung ermöglichen. Im Zentrum steht daher der Konflikt zwischen Sicherheitskapazitäten und Bürgerrechten, nicht zwischen Regierungen und Technologieunternehmen.
Was die KI-Warnung des UN-Sicherheitsrats tatsächlich verändert hat
Der Rat verankerte neue Technologien in seiner zentralen Agenda zur Terrorismusbekämpfung, statt sie als separates technologiepolitisches Thema zu behandeln.
Bei seiner Briefingveranstaltung zum 25. Jahrestag bekräftigte der Sicherheitsrat, dass internationaler Terrorismus weiterhin eine der schwerwiegendsten Bedrohungen für Frieden und Sicherheit darstellt. Die Mitglieder verabschiedeten zudem eine Erklärung des Ratspräsidenten, die zu koordiniertem Handeln auf nationaler, regionaler und internationaler Ebene aufruft.
Natalia Gherman, die UN-Untergeneralsekretärin und Leiterin des Counter-Terrorism Committee Executive Directorate, kurz CTED, legte die zentrale institutionelle Einschätzung vor. CTED unterstützt den Rat bei der Bewertung, wie Staaten dessen Vorgaben zur Terrorismusbekämpfung umsetzen.
Gherman erklärte, die Staaten hätten seit 2001 echte Fortschritte erzielt, warnte jedoch, dass ihre Reaktionen sich anpassen müssten, wenn sich der Terrorismus verändere. Ihre Formulierung ist bedeutsam, weil sie eine bequeme Lesart der vergangenen 25 Jahre zurückweist.
Das nach 9/11 aufgebaute System konzentrierte sich stark auf formelle Organisationen, grenzüberschreitende Reisen, Finanzkontrollen und den Informationsaustausch zwischen Regierungen. Diese Maßnahmen bleiben wichtig. Digitale Werkzeuge ermöglichen es kleinen Gruppen und einzelnen Sympathisanten jedoch inzwischen, Aufgaben zu erledigen, für die früher größere Organisationen nötig waren.
Generative KI kann Material kostengünstig erstellen, übersetzen, personalisieren und vervielfältigen. Verschlüsselte Dienste können räumlich verstreute Beteiligte verbinden. Kommerzielle Drohnen können Aufklärung leisten oder Nutzlasten transportieren, während virtuelle Vermögenswerte und Online-Zahlungssysteme Finanzermittlungen erschweren können.
Keines dieser Werkzeuge schafft automatisch terroristische Fähigkeiten. Ihre Bedeutung ergibt sich aus ihrer Kombination. Ein Netzwerk kann einen Dienst zur Rekrutierung, einen anderen für private Koordination und einen weiteren für Finanzierung oder operative Recherche nutzen.
Diese modulare Struktur verringert den Nutzen, eine einzelne Plattform oder Führungsperson zu stören. Zugleich wird es schwieriger, Absichten von gewöhnlicher Technologienutzung zu unterscheiden.
Der Propagandabericht von CTED vom September 2026 beschreibt Propaganda als operative Infrastruktur und nicht als bloße Kommunikation. Diese Unterscheidung erweitert das Problem über extremistische Beiträge und Videos hinaus.
Laut CTED kann Propaganda Rekrutierung, Radikalisierung, Finanzierung, Planung und Herrschaftsausübung unterstützen. Dem Bericht zufolge nutzen terroristische Akteure KI, um Botschaften zuzuschneiden, mehrsprachige Zielgruppen zu erreichen und Spendenkampagnen zu unterstützen.
KI-generierte Medien machen zudem Experimente günstiger. Eine Gruppe kann viele Versionen einer Botschaft produzieren, ihre Sprache für unterschiedliche Gemeinschaften anpassen und testen, welche Rahmung Resonanz erzeugt.
Menschliche Propagandisten konnten diese Dinge bereits tun. KI verändert die dafür erforderliche Geschwindigkeit, Menge und Personalausstattung.
Die Warnung des Rates belegt nicht, dass KI herkömmliche terroristische Methoden ersetzt hat. Sie zeigt auch nicht, dass KI-generierte Propaganda durchgehend wirksam ist. Sie erkennt an, dass sich der technologische Zugang schneller verändert hat als viele staatliche Schutzvorkehrungen.
Das ist der eigentliche politische Wandel. Die Frage lautet nicht mehr, ob terroristische Akteure mit Verbraucher-KI experimentieren werden. Entscheidend ist, ob öffentliche Institutionen schädliche Nutzung erkennen können, ohne den weitverbreiteten Zugang als Beleg für kriminelle Absichten zu behandeln.
Warum KI die Ökonomie terroristischer Aktivitäten verändert
KI ist relevant, weil sie die Kosten für Kommunikation, Zielansprache, Übersetzung und Experimente in dezentralisierten Netzwerken senkt.
Terroristische Organisationen haben kommerzielle Technologien seit Langem für ihre eigenen Zwecke angepasst. Das Internet ermöglichte globale Verbreitung. Soziale Plattformen brachten Empfehlungssysteme, durchsuchbare Gemeinschaften und direkten Kontakt zu potenziellen Rekruten hinzu.
Generative KI fügt eine Produktionsebene hinzu. Sie kann innerhalb von Sekunden Texte, synthetische Stimmen, übersetzte Skripte, veränderte Bilder und personalisierte Antworten erzeugen.
Diese Fähigkeit garantiert keine glaubwürdige Propaganda. Modelle produzieren Fehler, wiederholen Stereotype und verweigern mitunter schädliche Anfragen. Die Ergebnisse benötigen weiterhin Verbreitungskanäle und Zielgruppen, die bereit sind, sich damit auseinanderzusetzen.
Doch Qualität ist nur ein Teil des Risikos. Menge ist entscheidend, wenn Akteure nach besonders empfänglichen Nutzern suchen, Moderationssysteme überfluten oder zahlreiche austauschbare Identitäten aufrechterhalten.
Automatisierte Übersetzung ist besonders bedeutsam für Gruppen, die Zielgruppen außerhalb ihrer ursprünglichen Sprachgemeinschaften erreichen wollen. Sie kann die Abhängigkeit von qualifizierten Übersetzern verringern und die schnelle Wiederverwendung von Material ermöglichen, nachdem ein Konto verschwunden ist.
Personalisierung schafft ein weiteres Problem. Statt ein ideologisches Dokument an alle zu senden, kann ein Akteur Tonfall und Beispiele an Interessen, Standort, Alter oder Beschwerden einer Person anpassen.
Dieser Ansatz ähnelt gewöhnlichem digitalem Marketing. Die zugrunde liegende Technologie ist nicht exklusiv für Extremisten, was breite technische Verbote schwer gestaltbar macht.
Die bestehende IKT-Übersicht der UN nennt Rekrutierung, Ausbildung, Planung, Vernetzung, Mittelbeschaffung und logistische Unterstützung als Aktivitäten, die durch Kommunikationstechnologie ermöglicht werden. Sie weist zudem darauf hin, dass KI die Terrorismusbekämpfung durch Moderation, Biometrie, Überwachung und Ermittlungen unterstützt.
Diese Doppelnutzung definiert das Problem. Dieselbe Modellfamilie kann Notfallwarnungen übersetzen, gewalttätige Bilder identifizieren oder Ermittlern bei der Auswertung von Beweisen helfen. Sie kann aber auch böswillige Akteure unterstützen.
Bei Drohnen zeigt sich ein ähnliches Muster. Kostengünstige unbemannte Fluggeräte unterstützen Fotografie, Landwirtschaft, Inspektionen, Kartierung und Notfallhilfe. Ihre Verfügbarkeit schafft jedoch auch Möglichkeiten für Überwachung, Schmuggel und Angriffe.
Verschlüsselte Plattformen bergen einen weiteren Konflikt der Doppelnutzung. Sichere Kommunikation schützt Journalisten, Unternehmen, Menschenrechtsverteidiger und gewöhnliche Nutzer. Sie kann jedoch auch operative Gespräche vor Ermittlern verbergen.
Der kombinierte Effekt ist wichtiger als jede einzelne Technologie. Eine kleine Zelle könnte öffentliche KI für die Medienproduktion, Verschlüsselung zur Koordination, eine Drohne zur Aufklärung und konventionelle Materialien für einen Angriff nutzen.
Dieser Ablauf verteilt das Risiko auf Dienste mit unterschiedlichen Betreibern und Richtlinien. Kein einzelnes Unternehmen sieht die vollständige Kette.
Regierungen stehen vor derselben Fragmentierung. Eine Finanzbehörde könnte ungewöhnliche Transaktionen bemerken, während eine Plattform extremistische Inhalte sieht und die örtliche Polizei Drohnenaktivitäten beobachtet. Diese Signale zusammenzuführen, erfordert rechtliche Befugnisse, kompatible Daten und institutionelles Vertrauen.
Die internationale Koordination erschwert das Problem zusätzlich. Plattformen operieren grenzüberschreitend, Cloud-Daten können in einer anderen Rechtsordnung gespeichert sein, und die rechtlichen Definitionen terroristischer Inhalte unterscheiden sich.
Diese Hürden sind nicht neu. KI verstärkt sie, indem sie die Menge an Material erhöht, die Ermittler und Moderatoren bewerten müssen.
Der wirtschaftliche Wandel begünstigt auch wiederholtes Scheitern. Böswillige Akteure können viele schwache Ergebnisse testen, bis eines funktioniert. Verteidiger hingegen tragen die Folgen, wenn ein Erkennungssystem rechtmäßige Meinungsäußerungen fälschlich markiert.
Diese Asymmetrie erklärt den Druck hinter der KI-Warnung des UN-Sicherheitsrats. Angreifer können fehlgeschlagene Konten, abgelehnte Prompts und schlechte Inhalte hinnehmen. Regierungen und Plattformen müssen bei jedem Eingriff Genauigkeit, Legitimität und Rechte berücksichtigen.
Sicherheitskapazität kollidiert nun mit Bürgerrechten
Die wirksamste Reaktion auf Terrorismus ist nicht zwangsläufig die umfassendste, denn wahllose Automatisierung kann die Rechte beschädigen, die sie zu schützen vorgibt.
KI kann Plattformen dabei helfen, Bilder zu klassifizieren, bekanntes extremistisches Material abzugleichen, koordiniertes Verhalten zu erkennen und Fälle für die menschliche Prüfung zu priorisieren. Strafverfolgungsbehörden können sie zudem nutzen, um Beweismittel zu organisieren oder Zusammenhänge in großen Datensätzen zu erkennen.
Diese Anwendungen versprechen Geschwindigkeit. Sie werfen aber auch ernste Fragen zu Fehlalarmen, Verzerrungen, Erklärbarkeit und Rechenschaftspflicht auf.
Ein Fehlalarm bei der Inhaltsmoderation kann rechtmäßige Berichterstattung, politische Meinungsäußerungen, Satire oder die Dokumentation von Menschenrechtsverletzungen entfernen. Ein Fehlalarm in der Polizeiarbeit kann jemanden Ermittlungen, Haft oder Reisebeschränkungen aussetzen.
Der Kontext bleibt für automatisierte Systeme besonders schwer zu erfassen. Dasselbe gewalttätige Bild kann Propaganda, Journalismus, akademische Forschung oder von Ermittlern gesichertes Beweismaterial sein.
Sprache schafft eine weitere Fehlerquelle. Moderationswerkzeuge funktionieren bei Dialekten, regionalen Bezügen und ressourcenärmeren Sprachen oft unterschiedlich gut. Terroristische Akteure können diese Lücken ausnutzen, während gewöhnliche Sprecher falsch eingestuft werden können.
Der Sicherheitsrat hat diese Spannung seit Jahren anerkannt. Bei einem KI-Briefing 2023 erklärten Technologiespezialisten gegenüber CTED, dass KI-Systeme zwar besser würden, aber weiterhin unvollkommen und verzerrt seien.
Die Teilnehmer befürworteten die Verbindung von KI-Kompetenz, Social-Media-Kompetenz, Gegen-Narrativen, Schutzmaßnahmen und menschlicher Prüfung. Sie stellten automatisierte Erkennung nicht als vollständige Lösung dar.
Diese Zurückhaltung ist wichtig. KI kann Material für die Prüfung priorisieren, doch ein Konfidenzwert ist kein rechtliches Urteil. Er belegt weder Absicht noch Organisationszugehörigkeit oder die Vorbereitung von Gewalt.
Eine Ausweitung der Überwachung schafft ein verwandtes Problem. Regierungen könnten argumentieren, dass fortgeschrittene Bedrohungen umfassenderen Zugang zu Kommunikation, Identitätsdaten und Verhaltensdaten erfordern. Ein solcher Zugang kann sich von gezielten Ermittlungen zu routinemäßiger Überwachung der Bevölkerung entwickeln.
Biometrische Systeme werfen besonders sensible Fragen auf. Gesichtserkennung und andere automatisierte Identitätswerkzeuge können helfen, Verdächtige zu identifizieren, doch Fehler können bestimmte Gemeinschaften unverhältnismäßig stark treffen.
Die Geschichte der Terrorismusbekämpfung gibt Regierungen einen weiteren Grund zur Vorsicht. Notstandsbefugnisse bestehen oft länger fort als die Bedingungen, die sie hervorgebracht haben. Für Ausnahmefälle beschaffte Technologien können zu normalen Verwaltungsinstrumenten werden.
Starke Aufsicht erfüllt daher neben einer moralischen auch eine operative Funktion. Ein als willkürlich wahrgenommenes System wird weniger Zusammenarbeit von Gemeinschaften erhalten, deren Informationen Ermittler benötigen.
Völkerrecht und Menschenrechte spielten in der Botschaft des Rates zum Jahrestag eine wichtige Rolle. Die Erklärung des Ratspräsidenten verknüpfte gemeinsame Maßnahmen zur Terrorismusbekämpfung mit der UN-Charta und dem Völkerrecht.
Diese Sprache setzt eine Grenze, legt jedoch keine technischen Schutzvorkehrungen fest. Sie überlässt es den Regierungen zu entscheiden, welche Daten erhoben werden dürfen, wie lange sie gespeichert werden können und wann automatisierte Bewertungen eine menschliche Bestätigung erfordern.
Technologieunternehmen stehen vor einer eigenen Version dieses Zielkonflikts. Aggressive Filterung kann die Verbreitung bekannten terroristischen Materials reduzieren. Sie kann Nutzer jedoch auch auf kleinere Plattformen mit weniger Sicherheitsressourcen und geringerer Sichtbarkeit drängen.
Kleineren Diensten fehlen oft große Trust-and-Safety-Teams. Sie sind möglicherweise auf gemeinsame Datenbanken, Drittanbieter oder automatisierte Tools angewiesen, die nur begrenzte Erklärungen liefern.
Die UN hat versucht, diese Kapazitätslücke durch Zusammenarbeit mit der Industrie und Fachorganisationen zu schließen. Eine Technologiepartnerschaft zwischen CTED und Tech Against Terrorism aus dem Jahr 2025 konzentrierte sich auf Online-Rekrutierung, Anstiftung, Planung und neue Technologien.
Solche Partnerschaften können Fachwissen über die größten Plattformen hinaus verbreiten. Sie benötigen jedoch auch Governance-Regeln, die verhindern, dass private Datenbanken zu globalen Watchlists ohne Rechenschaftspflicht werden.
Die zentrale Herausforderung besteht nicht darin, sich entweder für Privatsphäre oder Sicherheit zu entscheiden. Sie besteht darin, Beweisschwellen, Einspruchsmechanismen, unabhängige Aufsicht und eng gefasste rechtliche Zwecke festzulegen, bevor automatisierte Systeme eingesetzt werden.
Ohne diese Kontrollen kann die Reaktion neue Missstände schaffen und das Vertrauen in öffentliche Institutionen untergraben. Dieses Ergebnis würde die langfristige Prävention schwächen, selbst wenn die kurzfristigen Durchsetzungszahlen steigen.
Die Warnung ist eindeutig, doch die Belege bleiben begrenzt
Die UN hat zunehmende KI-Experimente dokumentiert, doch die öffentlich verfügbaren Belege stützen noch nicht jede dramatische Behauptung über KI-gestützten Terrorismus.
Die Sprache des Rates umfasst mehrere Ebenen von Aktivitäten. Dazu zählen der Einsatz von KI zur Erstellung von Propaganda, zur maßgeschneiderten Rekrutierung, zur Mittelbeschaffung, zur Erforschung schädlicher Methoden und zur Unterstützung der Anschlagsplanung.
Diese Aktivitäten bergen nicht das gleiche Risiko. Das Erstellen eines übersetzten Posters ist nicht gleichbedeutend mit dem Entwurf einer funktionsfähigen Waffe oder der Durchführung eines Anschlags.
Öffentliche Berichterstattung fasst diese Kategorien häufig in der Behauptung zusammen, Terroristen „nutzen KI“. Diese Formulierung kann zutreffen, sagt jedoch wenig über Fähigkeiten, Umfang oder operative Wirkung aus.
Für die Politik ist diese Unterscheidung wichtig. Unterschiedliche Aktivitäten erfordern unterschiedliche Reaktionen.
Plattformen können verbotene Propaganda durch Kontodurchsetzung, Verhaltensanalysen und gemeinsame Hashes für bereits identifiziertes Material bekämpfen. Ein Hash ist ein digitaler Fingerabdruck, mit dem bekannte Dateien abgeglichen werden.
Versuche, schädliche technische Informationen zu erlangen, können Modellschutzmaßnahmen, Monitoring und sorgfältig definierte Eskalationsprozesse erfordern. Bedrohungen durch Drohnen betreffen Luftfahrtvorschriften, Detektionsausrüstung, den Schutz kritischer Infrastruktur und physische Sicherheit.
Die Finanzierung erfordert Zusammenarbeit zwischen Banken, Zahlungsdienstleistern, Anbietern virtueller Vermögenswerte und Ermittlern. Würde man alle vier Probleme als Content-Moderation behandeln, blieben erhebliche Lücken.
Die Messung bleibt schwierig. Öffentlich sichtbares Material erfasst nur einen Teil terroristischer Aktivitäten. Geschlossene Kommunikation ist schwerer zu bewerten, während Regierungen operative Belege möglicherweise zurückhalten.
Forschende müssen außerdem zwischen erfolgreicher Nutzung und Experimenten unterscheiden. Eine Gruppe kann aus propagandistischen Gründen technologische Raffinesse behaupten, ohne eine nennenswerte Fähigkeit nachzuweisen.
Generative Modelle liefern mitunter fehlerhafte Anweisungen. Das beseitigt die Gefahr nicht, denn selbst unzutreffende Ausgaben können Fachbegriffe liefern oder Nutzer zu weiterer Recherche führen.
Behauptungen, wonach ein Chatbot eigenständig fortgeschrittene Anschläge ermöglicht, erfordern jedoch eine sorgfältige Prüfung. Fachwissen, Materialien, Tests, Logistik und physischer Zugang bleiben wichtige Beschränkungen.
Dieselbe Vorsicht gilt für synthetische Medien. Deepfakes können Personen imitieren oder Ereignisse erfinden, doch ihre Wirkung hängt von Verbreitung, Glaubwürdigkeit und Zeitpunkt ab.
Das Publikum weiß zunehmend, dass überzeugende Medien gefälscht sein können. Dieses Bewusstsein kann das Vertrauen in falsche Inhalte verringern, aber es kann auch den Lügnerbonus erzeugen.
Der Lügnerbonus entsteht, wenn Menschen authentische Belege als künstlich abtun. In einer Krise kann diese Unsicherheit die Überprüfung verzögern und das Vertrauen in offizielle Kommunikation schwächen.
Die Sorge der UN geht daher über ein einzelnes gefälschtes Video hinaus. Günstige synthetische Medien können die Kosten erhöhen, festzustellen, was geschehen ist.
Dennoch brachte die Jubiläumssitzung keinen verbindlichen globalen KI-Standard hervor. Eine Erklärung des Ratspräsidenten drückt die gemeinsame Position des Rates aus, schafft jedoch nicht dieselben Verpflichtungen wie eine nach der UN-Charta verabschiedete Resolution.
Die Erklärung löst auch keine langjährigen Streitfragen zu Plattformhaftung, Verschlüsselung, biometrischer Überwachung oder grenzüberschreitenden Beweisen. Diese Fragen unterliegen weiterhin nationalem Recht und getrennten internationalen Verfahren.
Die institutionellen Kapazitäten unterscheiden sich zwischen Ländern stark. Das Mandat des Ausschusses von CTED konzentriert sich auf die Überwachung der Umsetzung von Resolution 1373 durch die Staaten, die der Rat nach den Anschlägen von 2001 verabschiedete.
Dieser Rahmen umfasst Kontrollen der Finanzierung, Informationsaustausch, Strafjustiz und Grenzsicherheit. Das Hinzufügen von KI-Risiken stellt Ermittlern, technischem Fachwissen oder gerichtlicher Aufsicht nicht automatisch Ressourcen bereit.
Kapazitätsaufbau kann diese Lücken verringern, doch importierte Systeme passen möglicherweise nicht zu lokalen Sprachen oder rechtlichen Schutzvorschriften. Ein anderswo trainiertes Erkennungsmodell kann in einer anderen Informationsumgebung schlecht funktionieren.
Anbieter haben zudem Anreize, umfassende Fähigkeiten zur Bedrohungserkennung zu vermarkten. Regierungen sollten unabhängige Tests, dokumentierte Grenzen und Belege dafür verlangen, dass ein Tool die Ergebnisse verbessert.
Das reine Warnungsvolumen ist eine schwache Erfolgskennzahl. Ein System, das Tausende unbestätigte Warnungen erzeugt, kann Ermittlungsressourcen verschwenden und schwerwiegende Fälle verschleiern.
Bessere Kennzahlen würden bestätigte Hinweise, Falschpositivraten, Bearbeitungszeit, rechtliche Ergebnisse und die Möglichkeit betroffener Nutzer untersuchen, Fehler anzufechten. Öffentliche Berichterstattung sollte Ermittlungen schützen, ohne grundlegende Leistungsdaten zu verbergen.
Die skeptische Lesart weist die KI-Warnung des UN-Sicherheitsrats nicht zurück. Sie fordert Institutionen auf, jede Intervention auf verifizierte Formen des Missbrauchs abzustimmen.
Dieser Ansatz verringert die Wahrscheinlichkeit, dass ein sichtbares Jubiläum zum Anlass für überhastete Beschaffung oder vage Überwachungsbefugnisse wird. Er macht echte Sicherheitsmaßnahmen auch leichter verteidigbar.
Drei Signale werden zeigen, ob die Warnung zu Maßnahmen führt
Der nächste Test besteht darin, ob Regierungen und Technologieanbieter breite Übereinstimmung in messbare, grundrechtswahrende Verfahren umsetzen.
Das erste Signal ist der Umgang mit terroristischer Propaganda als operativer Infrastruktur. Der Bericht von CTED aus dem Jahr 2026 liefert einen analytischen Rahmen, doch Regierungen müssen entscheiden, wie dieser Ermittlungen und Präventionsprogramme verändert.
Achten Sie auf konkrete Umsetzungshinweise, die zwischen Propaganda, Rekrutierung, Finanzierung, Planung und Anschlagsvorbereitung unterscheiden. Klare Kategorien würden das Argument des Rates stärken, indem sie jedes Risiko mit einer angemessenen Reaktion verbinden.
Vage Leitlinien würden es schwächen. Behörden könnten ein breites Spektrum an Online-Aktivitäten als KI-gestützten Terrorismus bezeichnen, ohne operative Relevanz nachzuweisen.
Das zweite Signal ist, ob kleinere Plattformen nutzbare Sicherheitsunterstützung erhalten. Große Dienste können spezialisierte Teams beschäftigen, Bedrohungsinformationen pflegen und Modelltests in Auftrag geben.
Kleinere Foren, Filehoster und Kommunikationsdienste können das oft nicht. Dieses Ungleichgewicht schafft Ausweichmöglichkeiten, wenn große Plattformen Konten entfernen.
Gemeinsame Tools können helfen, doch die Zugangsregeln sind entscheidend. Teilnehmende Unternehmen benötigen präzise Kriterien, Verfahren zur Korrektur von Fehlern und Grenzen für die sekundäre Nutzung gemeinsamer Informationen.
Das stärkste Zeichen für Fortschritt wäre ein System, das die Erkennung verbessert und zugleich aussagekräftige Transparenzdaten veröffentlicht. Es sollte zudem menschliche Überprüfung bei Entscheidungen bewahren, die rechtmäßige Meinungsäußerung betreffen.
Das dritte Signal ist, ob Regierungen Grenzen definieren, bevor sie KI-gestützte Überwachung ausweiten. Terrorismusbekämpfungsbehörden werden Tools zur Analyse von Kommunikation, Finanzaktivitäten, Biometrie und Open-Source-Informationen suchen.
Regeln sollten festlegen, welche Belege eine Untersuchung auslösen, welche Entscheidungen menschliche Genehmigung erfordern und wie lange Daten verfügbar bleiben. Unabhängige Stellen müssen Fehler und Missbrauch prüfen können.
Erscheinen diese Schutzvorkehrungen neben neuer technischer Kapazität, wird die Sicherheits- und Rechteposition des Rates glaubwürdig wirken. Wenn die Überwachung ohne sie ausgeweitet wird, hat die Jubiläumswarnung das Risiko zwar hervorgehoben, zugleich aber einen alten politischen Fehler wiederholt.
Technologieanbieter tragen parallele Verantwortung. Modellentwickler können testen, ob ihre Systeme die Hürden für schädliche Aktivitäten tatsächlich senken, und anschließend Schutzmaßnahmen auf nachgewiesene Risiken ausrichten.
Sie sollten nicht jeden kontroversen Prompt mit terroristischer Absicht gleichsetzen. Sicherheitsforschende, Journalisten, Lehrkräfte und öffentliche Stellen können dieselben Themen aus legitimen Gründen untersuchen.
Plattformen sollten sich auch auf gegnerische Anpassung vorbereiten. Nutzer können Schreibweisen verändern, Sprachen wechseln, Anweisungen aufteilen oder zwischen Diensten wechseln, um der Erkennung zu entgehen.
Kein statischer Filter wird dieses Verhalten vollständig beseitigen. Schutzmaßnahmen benötigen fortlaufende Bewertung, vertrauenswürdige Meldekanäle und Zusammenarbeit zwischen Diensten.
Wissensarbeiter und Unternehmenskäufer sollten sich dafür interessieren, weil viele Maßnahmen zur Terrorismusbekämpfung als spezialisierte Instrumente beginnen und später gewöhnliche Software beeinflussen. Identitätsprüfungen, Inhaltsüberwachung, Modellbeschränkungen und Richtlinien zur Datenspeicherung können sich über Märkte hinweg ausbreiten.
Organisationen sollten wissen, welche Nutzerdaten ihre KI-Dienste speichern, wie Anbieter mit Missbrauchsmeldungen umgehen und ob automatisierte Durchsetzung einen Einspruchsprozess umfasst. Diese Fragen beeinflussen die alltägliche Governance lange bevor ein Sicherheitsvorfall eintritt.
Entwickler, die KI-Produkte bauen, stehen vor einer verwandten Aufgabe. Sicherheitskontrollen sollten die tatsächlichen Fähigkeiten und Nutzer des Produkts widerspiegeln, statt weit gefasste Richtlinien ungeprüft zu übernehmen.
Ein Schreibassistent, ein autonomes Laborsystem und eine Drohnensteuerungsplattform bergen unterschiedliche Risiken. Ihre Zugangskontrollen und ihr Monitoring sollten entsprechend unterschiedlich sein.
Das 25. Jubiläum bietet eine nützliche historische Lehre. Resolution 1373 schuf weniger als drei Wochen nach den Anschlägen eine dauerhafte globale Struktur zur Terrorismusbekämpfung.
Der gegenwärtige technologische Wandel ist stärker verteilt. Er betrifft öffentliche Modelle, private Plattformen, nationale Regulierungsbehörden, Luftfahrtsysteme, Finanznetzwerke und lokale Ermittler.
Diese Komplexität macht es unwahrscheinlich, dass ein einzelnes globales Verbot das Problem löst. Fortschritt wird von eng gefassten Standards abhängen, die Institutionen testen, prüfen und verbessern können.
Die KI-Warnung des UN-Sicherheitsrats ist folgenschwer, weil sie Erinnerung mit einer aktuellen operativen Herausforderung verbindet. Sie legt zugleich offen, wie unvollständig die Reaktion weiterhin ist.
Die nächsten Monate sollten zeigen, ob Staaten konkrete Leitlinien entwickeln, kleinere Plattformen unterstützen und Schutzvorkehrungen schaffen, bevor sie die Überwachung ausweiten. Diese Maßnahmen werden wichtiger sein als eine weitere Erklärung, dass KI sowohl Chancen als auch Risiken birgt.
Leser sollten auf Belege achten, nicht auf Schlagworte. Welche KI-Nutzungen haben terroristische Fähigkeiten messbar verändert? Welche Interventionen erkennen diese Nutzungen, ohne rechtmäßige Aktivitäten einzubeziehen? Welche Institutionen können Fehler korrigieren?
Diese Fragen sollten die nächste Phase der Debatte leiten. Die Antwort wird bestimmen, ob die Warnung des Sicherheitsrats zu einem praktischen Sicherheitsrahmen oder zu einem weiteren weit gefassten Versprechen wird, das an einem bedeutenden Jubiläum abgegeben wurde.
