Thales stellt fest: Unternehmen fürchten KI-Risiken stärker als bekannte Cyberbedrohungen

Thales hat eine bemerkenswerte Umkehr festgestellt: 69 % der befragten Organisationen nannten das sich schnell wandelnde KI-Ökosystem als ihre größte Sicherheitsbedenken im Zusammenhang mit generativer KI. Bekannte Bedrohungen wie Malware, Phishing und Ransomware bleiben aktiv, doch Unternehmen sehen sich nun einem System gegenüber, das sie selbst einsetzen.

Das Ergebnis bedeutet nicht, dass KI bereits mehr Sicherheitsverletzungen verursacht als Ransomware oder Malware. Es zeigt, dass Unternehmen die Unsicherheit rund um die KI-Einführung stärker fürchten als jeden einzelnen etablierten Angriffstyp. Sicherheitsteams verstehen Phishing-Kontrollen. Weniger Vertrauen haben sie in Systeme, die auf Daten zugreifen, Code generieren und Geschäftsaktionen auslösen können.

Diese Unterscheidung ist wichtig, weil KI-Risiken mehrere etablierte Grenzen überschreiten. Sie verbinden Cybersicherheit, Datenschutz, rechtliche Risiken, Modellzuverlässigkeit und operative Kontrolle. Der zentrale Konflikt besteht nicht mehr zwischen KI-Einführung und Widerstand. Es geht um die Geschwindigkeit der geschäftlichen Bereitstellung im Verhältnis zur Fähigkeit einer Organisation, das bereits Installierte zu steuern.

Die Umfrage zeigt einen Wandel in den Sorgen von Unternehmen

Unternehmen ersetzen ihre bisherigen Cyberängste nicht durch KI. Sie erkennen, dass KI mehrere Risiken gleichzeitig verstärken kann.

Der Bericht zu Datenbedrohungen befragte mehr als 3.100 Technologie- und Sicherheitsexperten aus 20 Ländern und 15 Branchen. S&P Global Market Intelligence 451 Research führte die Untersuchung für Thales durch.

Unter den Befragten wählten 69 % das schnelllebige KI-Ökosystem als ihre größte Sicherheitsbedenken im Zusammenhang mit generativer KI. Die Integrität von Modellen folgte mit 64 %, während Vertrauenswürdigkeit mit 57 % den nächsten Rang einnahm.

Der Ausdruck „schnelllebiges Ökosystem“ umfasst mehr als neue Modellveröffentlichungen. Dazu gehören Modellanbieter, Plugins, Datendienste, Entwicklungsframeworks, Agenten und die Infrastruktur, die sie verbindet. Jede Komponente kann sich unabhängig verändern und dadurch eine Abhängigkeitskette schaffen, die Sicherheitsteams nicht vollständig kontrollieren.

Das unterscheidet sich von einem bekannten Malware-Vorfall. Ein Sicherheitsteam kann eine schädliche Datei identifizieren, einen Endpunkt isolieren und ihren Weg untersuchen. Ein KI-System kann sich fehlerhaft verhalten, ohne Malware mitzuführen oder einen traditionellen Kompromittierungsindikator zu zeigen.

Ein Modell könnte vertrauliche Informationen offenlegen, weil ein Nutzer sie in einen nicht genehmigten Dienst eingegeben hat. Ein Agent könnte Daten abrufen, die über den beabsichtigten Umfang des Anfragenden hinausgehen. KI-generierter Code könnte eine anfällige Abhängigkeit einführen, ohne unmittelbar einen Alarm auszulösen.

Diese Ergebnisse können gewöhnlichen Cybersicherheitsfehlern ähneln. Ihre Ursachen liegen jedoch häufig außerhalb des traditionellen Security Operations Center. Einkauf, Rechtsabteilung, Engineering, Data Science, Compliance und Geschäftsteams beeinflussen das System gleichermaßen.

Die Umfrage ergab zudem, dass 73 % der Befragten in KI-spezifische Sicherheitstools investierten. Einige erhielten neue Budgets, andere schichteten bestehende Sicherheitsausgaben um. Die Zahl bestätigt, dass sich die Sorge bereits auf Beschaffungs- und Planungsentscheidungen auswirkt.

Zusätzliche Software löst jedoch nicht automatisch unklare Verantwortlichkeiten. Ein Überwachungsprodukt kann nicht entscheiden, auf welche Geschäftsdaten ein Agent zugreifen sollte. Ebenso wenig kann es akzeptables Modellverhalten für jeden Kunden, Mitarbeiter oder regulierten Workflow definieren.

Traditionelle Angriffskategorien blieben in derselben Untersuchung weiterhin prominent. Malware nahm unter den beobachteten Angriffstypen die Spitzenposition ein, Phishing rückte auf Platz zwei vor und Ransomware belegte den dritten Rang.

Dieser Kontext begrenzt die Bedeutung der Schlagzeile. KI ist die größte neue Sorge rund um die Einführung generativer KI, aber kein Beweis dafür, dass etablierte Bedrohungen verschwunden sind. Unternehmen müssen zwei überlappende Umgebungen schützen, statt zwischen ihnen zu wählen.

Der Wandel ist dennoch wichtig. Sicherheitsverantwortliche behandeln KI nun als Risikobereich für das gesamte Unternehmen und nicht lediglich als weitere Anwendung, die Endpunktschutz benötigt. Ihre Fehler können innerhalb genehmigter Workflows entstehen und sich über vertrauenswürdige Zugriffe ausbreiten.

Warum KI-Sicherheitsrisiken bekannten Kontrollen entgehen

KI verschiebt die Risikoeinheit von einer vorhersehbaren Anwendung zu einem System, das Anweisungen interpretiert und Aktionen auswählt.

Herkömmliche Unternehmensanwendungen bieten in der Regel klar definierte Funktionen. Nutzer geben strukturierte Daten ein, wählen zulässige Aktionen und erhalten begrenzte Ergebnisse. Sicherheitsteams können diese Funktionen Identitäten, Berechtigungen, Datenbanken und Audit-Protokollen zuordnen.

Generative KI akzeptiert offene Anweisungen. Ihre Ausgabe hängt vom Prompt, abgerufenen Informationen, Modellverhalten, der Systemkonfiguration und angebundenen Tools ab. Kleine Änderungen an einer beliebigen Stelle dieser Kette können zu unterschiedlichen Ergebnissen führen.

Ein KI-Agent fügt eine weitere Ebene hinzu. Ein Agent ist Software, die ein Modell nutzt, um Aufgaben zu planen und mit begrenztem menschlichem Eingreifen Tools aufzurufen. Zu diesen Tools können E-Mail, Code-Repositories, Kundendatenbanken, Kalender und Finanzsysteme gehören.

Diese Architektur schafft Risiken, für die Perimeter-Verteidigungen nicht ausgelegt sind. Ein berechtigter Mitarbeiter kann über eine genehmigte Schnittstelle eine riskante Anweisung geben. Das Modell kann anschließend autorisierte Verbindungen auf unbeabsichtigte Weise nutzen.

Prompt Injection veranschaulicht das Problem. Eine bösartige Anweisung kann in einem Dokument, einer Webseite oder einer Nachricht erscheinen, die ein KI-System verarbeitet. Die Anweisung versucht, das Modell von seiner vorgesehenen Aufgabe abzulenken.

Ein gestohlenes Passwort ist nicht erforderlich, wenn der Agent bereits Zugriff hat. Der Angreifer zielt stattdessen auf die Interpretationsebene des Modells. Dadurch werden gewöhnliche Geschäftsinhalte zu einem möglichen Steuerungskanal.

Der Datenabruf schafft eine ähnliche Herausforderung. Retrieval-Augmented Generation ermöglicht es einem Modell, ausgewählte Organisationsinformationen zu nutzen, während es eine Antwort erstellt. Das Modell muss die Informationen nicht in seinen ursprünglichen Trainingsdaten enthalten.

Die Qualität des Abrufs hängt jedoch von Berechtigungen und Metadaten ab. Ein Suchindex, der Zugriffsvorschriften auf Dokumentebene ignoriert, kann Material offenlegen, das der Nutzer nicht direkt öffnen könnte. Die Antwort kann diesen Zugriffsfehler hinter natürlicher Sprache verbergen.

Das betrifft Unternehmen, die interne Assistenten über Verträge, Besprechungsprotokolle, Support-Tickets oder Engineering-Dokumente aufbauen. Ein nützlicher Assistent benötigt breiten Kontext. Jede zusätzliche Quelle erhöht auch die Folgen schwacher Berechtigungen.

Mitarbeiter schaffen durch Schatten-KI eine weitere Angriffsfläche, also durch KI-Dienste, die ohne organisatorische Genehmigung oder Aufsicht genutzt werden. Beschäftigte können Quellcode, Kundendaten oder Geschäftspläne in öffentliche Tools einfügen, um Zeit zu sparen.

Dieses Verhalten lässt sich nur schwer allein mit Richtlinien kontrollieren. Beschäftigte betrachten ein KI-Chatfenster häufig als temporären Arbeitsbereich und nicht als externen Datenverarbeiter. Die Schnittstelle wirkt weniger riskant als das Hochladen einer Datei auf eine unbekannte Website.

Die Ergebnisse zur KI-Aufsicht verwiesen auf eine Umfrage, in der 78 % der Beschäftigten angaben, KI-Tools bei der Arbeit zu nutzen. Innerhalb dieser Gruppe räumten 58 % ein, sensible Unternehmensinformationen an große Sprachmodelle weitergegeben zu haben.

Selbstberichtete Zahlen messen keinen bestätigten Datenverlust. Sie zeigen dennoch, warum KI-Risiken bei autorisierten Nutzern beginnen und nicht nur bei externen Angreifern. Die Einführung kann die formale Prüfung überholen, weil die Tools leicht zugänglich sind.

Die Herausforderung erstreckt sich auch auf die Softwareentwicklung. KI-Assistenten können Code schneller vorschlagen, als Teams ihn prüfen können. Eine generierte Funktion kann in Tests funktionieren und dennoch unsichere Standardeinstellungen, schwache Validierung oder eine veraltete Abhängigkeit enthalten.

Sicherheitsscanner können bekannte Muster erkennen, aber sie können nicht garantieren, dass die generierte Logik den Geschäftsanforderungen entspricht. Menschliche Prüfung bleibt notwendig, insbesondere wenn Code Authentifizierung, Zahlungen oder regulierte Informationen verarbeitet.

Die Modellausgabe erzeugt zudem ein Integritätsrisiko. Ein System kann falsche Inhalte mit hoher Sicherheit erzeugen, ein Verhalten, das gemeinhin als Halluzination bezeichnet wird. Das Ergebnis wird gefährlich, wenn eine andere Anwendung es als verifizierte Eingabe behandelt.

Eine fehlerhafte Zusammenfassung ist unbequem. Eine falsche Zugriffsentscheidung oder Finanzanweisung hat operative Folgen. Dasselbe Modellverhalten birgt je nach den umgebenden Tools und Befugnissen unterschiedliche Risiken.

Deshalb kann KI-Sicherheit nicht auf Modellgenauigkeit reduziert werden. Die entscheidende Frage lautet, was passiert, wenn das Modell falsch liegt, manipuliert wird oder zu weitreichenden Zugriff erhält.

Der eigentliche Konflikt besteht zwischen Bereitstellungsgeschwindigkeit und Kontrolle

Führungskräfte wollen jetzt messbare KI-Gewinne, während Sicherheitsteams Systeme übernehmen, deren Berechtigungen und Fehlerpfade unklar bleiben.

Der Druck beginnt oberhalb der Sicherheitsorganisation. Vorstände und Führungsteams erwarten von CIOs, produktive KI-Anwendungsfälle zu finden, operative Reibung zu reduzieren und nicht hinter Wettbewerber zurückzufallen.

Geschäftsteams können innerhalb weniger Tage einen KI-Piloten starten. Der Aufbau eines vollständigen Inventars, Berechtigungsmodells, Bewertungsprozesses und Incident-Plans dauert länger. Diese zeitliche Lücke schafft den zentralen Konflikt des Artikels.

Eine Logicalis-Umfrage aus dem Jahr 2026 ergab, dass mehr als ein Viertel der CIOs KI als erhebliches Risiko betrachtete. Die Befragten ordneten sie laut den CIO-Sicherheitsergebnissen neben Malware, Ransomware und Phishing ein.

Dieselbe Untersuchung ergab, dass zwei Drittel die Mitarbeiterschulung zum KI-Risikomanagement für unzureichend hielten. Sie berichtete außerdem, dass 94 % der CIOs mit einem Mangel an Cybersicherheitsfachkräften konfrontiert waren.

Diese Ergebnisse zeigen ein Kapazitätsproblem, nicht nur ein Technologieproblem. Organisationen fügen eine unbekannte Systemklasse hinzu, während bestehenden Sicherheitsteams bereits genügend spezialisierte Fachkräfte fehlen.

Auch die Verantwortung kann fragmentiert sein. Der CIO kann die Technologiestrategie verantworten, während der CISO für Sicherheit zuständig ist. Rechtsabteilungen beaufsichtigen geistiges Eigentum und regulatorische Risiken. Datenverantwortliche steuern die Governance, und Geschäftsbereiche wählen Anwendungsfälle aus.

Ein KI-Ausfall kann jede dieser Gruppen betreffen, ohne eindeutig in eine einzelne Abteilung zu passen. Wenn Verantwortlichkeiten unklar bleiben, werden Genehmigungen uneinheitlich und die Reaktion auf Vorfälle verlangsamt sich.

Etablierte Cybersicherheitsprogramme bieten einen nützlichen Vergleich. Organisationen haben jahrelang Prozesse für Schwachstellenmanagement, Endpunktschutz, Identitäten, Backups und Wiederherstellung definiert.

Diese Kontrollen bleiben unverzichtbar. KI-Systeme laufen weiterhin auf gewöhnlichen Cloud-Diensten, Anwendungen und Benutzerkonten. Eine kompromittierte Identität kann einen KI-Workflow genauso offenlegen wie andere Software.

KI fügt jedoch Entscheidungen hinzu, die traditionelle Kontrollen allein nicht treffen können. Eine Firewall kann nicht bestimmen, ob eine generierte Empfehlung unzulässige Verzerrungen enthält. Endpunktsoftware kann nicht bewerten, ob ein Modell die korrekte interne Richtlinie zitiert hat.

Das rechtfertigt nicht die Schaffung einer isolierten KI-Governance-Bürokratie. KI vollständig von der Cybersicherheit zu trennen, würde Kontrollen duplizieren und neue Lücken schaffen.

Der stärkere Ansatz beginnt mit bestehender Identitätsverwaltung, Datenklassifizierung, Softwareprüfung und Incident-Management. Teams können dann Modellbewertungen und agentenspezifische Kontrollen ergänzen, wo gewöhnliche Prozesse nicht ausreichen.

Identitäten verdienen besondere Aufmerksamkeit, weil Agenten über Zugangsdaten handeln. Jeder Agent sollte über eine eigene Identität, begrenzte Berechtigungen und einen dokumentierten Verantwortlichen verfügen. Gemeinsame Konten erschweren die Rechenschaftspflicht.

Berechtigungen sollten dem kleinsten Satz an Aktionen entsprechen, der für die zugewiesene Aufgabe erforderlich ist. Ein Assistent, der Supportfälle zusammenfasst, benötigt keine Befugnis zum Löschen von Datensätzen. Ein Coding-Agent benötigt keinen uneingeschränkten Zugriff auf die Produktionsumgebung.

Organisationen benötigen außerdem ein aktuelles Inventar. Teams können keine Modelle, Plugins und Datenverbindungen steuern, von deren Existenz sie nichts wissen. Allein Beschaffungsunterlagen erfassen Browser-Tools und von Mitarbeitenden erstellte Integrationen nicht.

Ein Inventar sollte den Modellanbieter, die geschäftlich verantwortliche Person, Datenquellen, angebundene Tools, vorgesehene Nutzer und Entscheidungsbefugnisse dokumentieren. Es sollte außerdem festhalten, ob die Ergebnisse einer menschlichen Prüfung unterzogen werden.

Bei wissensintensiver Arbeit können Unternehmen das Risiko reduzieren, indem sie Quellmaterial innerhalb genehmigter Systeme halten. Eine kontrollierte KI-Wissensdatenbank kann Zugriffsgrenzen wahren und Teams zugleich dabei helfen, relevante Zusammenhänge abzurufen.

Diese Entscheidung beseitigt das KI-Risiko nicht. Sie schafft einen klareren Datenpfad als das Kopieren sensibler Informationen zwischen nicht zusammenhängenden Verbraucherdiensten. Klare Verantwortlichkeiten und die Durchsetzung von Berechtigungen bleiben ausschlaggebend.

Das Ziel besteht nicht darin, jedes Experiment zu blockieren. Übermäßig weitreichende Einschränkungen können Mitarbeitende zu nicht genehmigten Tools treiben. Governance funktioniert besser, wenn freigegebene Optionen nützlich und zugänglich bleiben.

Was die Schlagzeile nicht beweist

Die in der Umfrage erfassten Sorgen messen die wahrgenommene Gefährdung, nicht die tatsächliche Häufigkeit oder die finanziellen Folgen von KI-Vorfällen.

Die Schlagzeile legt eine einfache Schlussfolgerung nahe: KI sei gefährlicher geworden als Ransomware, Malware oder Phishing. Die verfügbaren Belege stützen diese Behauptung nicht.

Thales befragte die Teilnehmenden zu ihren Sorgen rund um generative KI und berichtete separat über beobachtete Angriffskategorien. Diese Messungen beantworten unterschiedliche Fragen und lassen sich nicht zu einer direkten Risikorangfolge verbinden.

Eine Umfrage zu Sorgen erfasst Unsicherheit, Aufmerksamkeit und erwartete Folgen. Vorfallsdaten messen Ereignisse, die Organisationen erkannt und klassifiziert haben. Keines von beidem bildet automatisch den Gesamtschaden ab.

Befragte könnten KI hoch einstufen, weil ihre Grenzen weiterhin unklar sind. Eine vertraute Bedrohung kann leichter beherrschbar wirken, selbst wenn sie nachweislich größeren Schaden verursacht.

Auch der Neuheitsfaktor kann die Antworten beeinflussen. Sicherheitsverantwortliche erhalten häufig Fragen zu KI von Vorständen, Kunden, Regulierungsbehörden und Mitarbeitenden. Diese Sichtbarkeit kann das wahrgenommene Risiko erhöhen, ohne ein höheres Vorfallsvolumen zu belegen.

Von Anbietern finanzierte Forschung erfordert zusätzliche Vorsicht. Thales verkauft Produkte für Cybersicherheit und Datenschutz und hat daher ein kommerzielles Interesse an Ausgaben für KI-Sicherheit. S&P Global Market Intelligence 451 Research führte die Umfrage durch, dennoch sollten Leser ihre Einordnung kritisch prüfen.

Das entkräftet die Ergebnisse nicht. Es bedeutet, dass die Prozentwerte eine eng gefasste Schlussfolgerung stützen sollten: Unternehmen berichten von großer Sorge und lenken Ressourcen in KI-spezifische Sicherheit.

Die Daten stammen außerdem aus mehreren Ländern und Branchen. Eine Bank, die Agenten für Kundentransaktionen einsetzt, sieht sich anderen Folgen gegenüber als ein Hersteller, der einen internen Schreibassistenten testet.

Zusammengefasste Prozentwerte können diese Unterschiede verdecken. Das Risiko hängt von der Sensibilität der Daten, dem Automatisierungsgrad, der Nutzergruppe, regulatorischen Pflichten und der Handlungsbefugnis des Modells ab.

Unternehmen sollten daher nicht einfach eine universelle Checkliste für KI-Sicherheit übernehmen. Ein Tool mit geringem Einfluss zum Erstellen von Entwürfen benötigt nicht dieselben Kontrollen wie ein Agent, der Kundenkonten verändert.

Eine weitere Unsicherheit betrifft die Klassifizierung von Vorfällen. Ein Angreifer könnte KI nutzen, um eine Phishing-Nachricht zu verfassen, während die Organisation das Ereignis als Phishing erfasst. KI unterstützte den Angriff, ohne zur gemeldeten Kategorie zu werden.

Auch das Gegenteil kann vorkommen. Ein herkömmlicher Berechtigungsfehler innerhalb einer KI-Anwendung könnte ein KI-Label erhalten, weil die neue Oberfläche das Versagen sichtbar machte.

Forschende benötigen einheitliche Definitionen, bevor Vergleiche zuverlässig werden. Sie müssen zwischen Angriffen, die KI nutzen, Angriffen gegen KI-Systeme und Fehlern durch genehmigte KI-Nutzung unterscheiden.

Die Analyse zur Sicherheit von Agenten des NIST stellte breite Übereinstimmung fest, dass grundlegende Cybersicherheitspraktiken weiterhin relevant bleiben. Die Befragten erklärten zudem, dass diese Praktiken für die Sicherheit von Agenten angepasst werden müssen.

Das ist eine nützlichere Einordnung, als traditionelle Cybersicherheit für überholt zu erklären. KI übernimmt bekannte Infrastrukturrisiken und fügt zugleich neue Wege für Anweisungen, Zugriff und autonome Handlungen hinzu.

Es besteht zudem die Gefahr, Budgets zu schnell umzuschichten. Unternehmen benötigen weiterhin Patches, Multifaktor-Authentifizierung, Backups, E-Mail-Sicherheit und erprobte Wiederherstellungspläne. KI-Kontrollen können vernachlässigte Grundlagen nicht ausgleichen.

Angreifer nutzen häufig bekannte Schwachstellen aus, weil diese Methoden weiterhin wirksam sind. Eine KI-Überwachungsebene über schwachen Identitätskontrollen kann Fortschritt vortäuschen, ohne die grundlegende Gefährdung zu verringern.

Führungskräfte sollten fragen, wie jede Investition ein messbares Ergebnis verändert. Nützliche Kennzahlen umfassen unbefugten Datenzugriff, risikoreiche Handlungen von Agenten, Richtlinienverstöße und die Zeit, die zur Eindämmung eines KI-bezogenen Vorfalls benötigt wird.

Sicherheitsteams sollten Behauptungen von Anbietern unter realistischen Bedingungen testen. Ein Produkt, das offensichtliche Prompt-Injection erkennt, kann bei Anweisungen scheitern, die in Geschäftsdokumenten versteckt oder über mehrere Schritte hinweg codiert sind.

Red-Team-Übungen können diese Schwächen aufdecken. Ein KI-Red-Team testet, wie ein System auf Manipulation, unsichere Anfragen, übermäßige Berechtigungen und unerwartete Daten reagiert.

Die Tests müssen die gesamte Anwendung einbeziehen, nicht nur das Modell. Ein sicheres Modell kann gefährlich werden, wenn es mit weitreichenden Tools verbunden ist. Ein schwächeres Modell kann in einem eng begrenzten Workflow risikoarm bleiben.

Auch menschliche Prüfung ist keine universelle Antwort. Prüfer können zur bloßen Abnickinstanz werden, wenn Systeme zu viele Entscheidungen erzeugen oder Fristen Schnelligkeit belohnen.

Die richtige Kontrolle hängt von den Folgen ab. Inhalte mit geringem Risiko können stichprobenartig geprüft werden. Maßnahmen mit hohen Auswirkungen sollten eine ausdrückliche Freigabe, unabhängige Validierung oder eine technische Begrenzung erfordern, die eine autonome Ausführung verhindert.

KI-Governance zieht in die Vorstandsetage ein

KI-Risiken sind zu einer Governance-Frage geworden, weil technische Kontrollen unklare Verantwortlichkeiten oder widersprüchliche geschäftliche Anreize nicht auflösen können.

Öffentliche Angaben zeigen, wie schnell sich das Thema ausgeweitet hat. Der Conference Board stellte fest, dass der Anteil der S&P-500-Unternehmen, die KI-Risiken erwähnen, von 12 % im Jahr 2023 auf 83 % im Jahr 2025 stieg.

Die Governance-Studie stellte zudem fest, dass 58 % Cybersicherheit und Datenschutzverletzungen als ihr bedeutendstes KI-bezogenes Risiko identifizierten. Weniger als 10 % der befragten Führungskräfte erklärten, ihre Unternehmen seien vollständig auf KI-Regulierung vorbereitet.

Risikohinweise bestätigen nicht, dass Vorfälle stattgefunden haben. Unternehmen verwenden Einreichungen, um mögliche wesentliche Bedrohungen zu beschreiben, und rechtliche Vorsicht kann zu weit gefassten Formulierungen führen.

Dennoch signalisiert die Veränderung, dass KI über Innovationsteams hinausgewachsen ist. Vorstände müssen nun Aufsicht, Eskalation und die Verantwortlichkeit des Managements berücksichtigen.

Die Aufgabe des Vorstands besteht nicht darin, einzelne Modelle zu genehmigen. Mitglieder des Vorstands müssen prüfen, ob das Management versteht, wo KI Produkte, Abläufe, Mitarbeitende und Kunden beeinflusst.

Sie sollten außerdem wissen, welche Implementierungen folgenschwere Entscheidungen treffen können. Ein Assistent, der interne Texte entwirft, unterscheidet sich von einem Agenten, der Preise aktualisiert, Geld bewegt oder Zugriffsberechtigungen ändert.

Berichte des Managements sollten technische Signale mit geschäftlichen Auswirkungen verbinden. Modelltestergebnisse sagen wenig aus, wenn nicht erklärt wird, welche Entscheidungen das System unterstützt.

Ein nützlicher Bericht könnte zeigen, wie viele KI-Systeme Zugriff auf vertrauliche Daten haben. Er könnte Agenten mit Schreibberechtigungen, ungelöste Erkenntnisse mit hohem Risiko und Ausnahmen identifizieren, die auf Prüfung warten.

Vorstände sollten auch Konzentrationsrisiken untersuchen. Mehrere interne Anwendungen können von einem Modellanbieter, Identitätsdienst oder einer Retrieval-Plattform abhängen. Ein einzelner Ausfall kann dann mehrere Geschäftsfunktionen beeinträchtigen.

Abhängigkeiten von Dritten erschweren die Absicherung. Ein Unternehmen kann seine eigene Anwendung schützen und sich zugleich auf einen Anbieter verlassen, der Modellverhalten, Aufbewahrungsbedingungen oder Integrationsfunktionen verändert.

Verträge können Benachrichtigungs-, Prüfungs- und Pflichten zur Datenverarbeitung festlegen. Sie können nicht jede technische Änderung verhindern. Teams benötigen weiterhin Überwachung und Notfallpläne.

Regulierung erhöht den Druck zusätzlich. Unterschiedliche Rechtsordnungen klassifizieren KI-Systeme nach Zweck, Branche und potenziellem Schaden. Ein multinationales Unternehmen kann sich mit überlappenden Anforderungen an Datenschutz, Cybersicherheit, Verbraucherschutz und KI konfrontiert sehen.

Compliance sollte nicht zur alleinigen Definition von Sicherheit werden. Ein System kann Dokumentationsanforderungen erfüllen und dennoch übermäßige Berechtigungen behalten oder unzuverlässige Entscheidungen erzeugen.

Umgekehrt kann ein technisches Team das unmittelbare Sicherheitsrisiko senken, ohne rechtliche Pflichten zu Transparenz, Diskriminierung oder geistigem Eigentum zu adressieren.

Dieser Zusammenhang erklärt, warum die Angst vor KI in manchen Umfragen jede einzelne vertraute Bedrohung übertroffen hat. Das Risiko ist keine einzelne Angriffsmethode. Es ist ein Governance-Problem, das den gesamten Lebenszyklus der Technologie umfasst.

Organisationen benötigen vor der Bereitstellung klare Kontrollpunkte, aber auch fortlaufende Überprüfung. Modelle, Daten, Nutzer und Integrationen verändern sich nach einer ersten Genehmigung.

Die Überwachung sollte ungewöhnliche Tool-Aufrufe, unbefugten Abruf, auffällige Datenbewegungen und Änderungen der Ausgabequalität erkennen. Protokolle müssen zeigen, welche Identität jede Handlung ausgelöst hat und welche Quellen sie beeinflussten.

Notfallpläne sollten KI-spezifische Szenarien enthalten. Teams benötigen Verfahren zum Deaktivieren eines Agenten, zum Entzug von Zugangsdaten, zur Sicherung von Prompts und zur Identifizierung betroffener Daten.

Sie müssen außerdem bestimmen, wann eine unzuverlässige Ausgabe zu einem meldepflichtigen Vorfall wird. Diese Entscheidung kann Sicherheits-, Datenschutz-, Rechts- und Betriebsverantwortliche einbeziehen.

Schulungen sollten die Rollen der Mitarbeitenden berücksichtigen. Allgemeine Warnungen vor vertraulichen Daten lassen sich leicht ignorieren. Entwickler, Vertriebsteams, Analysten und Führungskräfte treffen auf unterschiedliche Fehlermodi.

Ein Entwickler benötigt Leitlinien für generierten Code und Abhängigkeiten. Ein Vertriebsmitarbeiter benötigt Regeln für Kundendaten. Eine Führungskraft muss Deepfake-Imitationen und manipulierte Entscheidungsunterlagen erkennen können.

Wirksame Governance erleichtert daher sicheres Verhalten. Genehmigte Tools sollten genügend Mehrwert bieten, sodass Mitarbeitende für Routineaufgaben keine inoffiziellen Alternativen benötigen.

Drei Signale werden zeigen, ob die Unternehmensabwehr aufholt

Die nächste Phase wird anhand von Agentenberechtigungen, verifizierten Vorfallsdaten und Belegen dafür gemessen, dass Governance Bereitstellungsentscheidungen verändert.

Das erste Signal sind enger begrenzte Zugriffe von Agenten. Unternehmen sollten damit beginnen, zu berichten, wie viele KI-Agenten über eigene Identitäten, eingeschränkte Berechtigungen und menschliche Genehmigung für folgenschwere Handlungen verfügen.

Diese Kennzahl geht über das Zählen genehmigter Anwendungen hinaus. Sie prüft, ob Unternehmen die Befugnisse verstehen, die sie Software gewähren.

Fortschritt wird sichtbar, wenn Organisationen gemeinsame Zugangsdaten und uneingeschränkte Konnektoren ersetzen. Versagen zeigt sich durch Agenten, die weitreichende Mitarbeiter- oder Administratorrechte übernehmen.

Das zweite Signal ist eine bessere Klassifizierung von Vorfällen. Sicherheitsberichte müssen zwischen KI-unterstützten Angriffen, Angriffen gegen KI-Systeme und Fehlern durch interne KI-Nutzung unterscheiden.

Zuverlässige Kategorien würden Unternehmen den Vergleich von Häufigkeit, Schweregrad und Wirksamkeit von Kontrollen ermöglichen. Sie würden außerdem prüfen, ob die aktuelle Sorge dem beobachteten Schaden entspricht.

Ein Anstieg gemeldeter Vorfälle würde nicht automatisch bedeuten, dass die Abwehr versagt hat. Bessere Erkennung führt häufig zunächst zu höheren Zahlen, bevor sie geringere Verluste bewirkt.

Das dritte Signal ist, ob Governance reale Bereitstellungen verändert. Richtlinien sind nur dann relevant, wenn sie Daten beschränken, Befugnisse reduzieren, unsichere Releases verzögern oder zusätzliche Tests verlangen.

Die stärksten Belege werden aus dokumentierten Änderungen des Umfangs stammen. Ein Unternehmen könnte einem Agenten die Fähigkeit zum Versenden von Nachrichten entziehen, Abrufquellen begrenzen oder die menschliche Genehmigung für finanzielle Handlungen beibehalten.

Ein schwächeres Signal ist die Einrichtung eines weiteren Aufsichtsgremiums ohne operative Befugnisse. Governance, die eine Einführungsentscheidung nicht ändern kann, wird Schwierigkeiten haben, dem geschäftlichen Druck standzuhalten.

Unternehmen sollten zudem beobachten, wie Cyberversicherer und Regulierungsbehörden mit KI-verbundenen Vorfällen umgehen. Konkretere Anforderungen würden Organisationen dazu zwingen, Kontrollen zu dokumentieren und Behauptungen von erprobten Fähigkeiten zu unterscheiden.

Die entscheidende Erkenntnis ist nicht, dass KI die Cybersicherheit besiegt hat. Vielmehr verbinden Unternehmen probabilistische Systeme schneller mit wertvollen Daten und vertrauenswürdigen Geschäftstools, als die Schutzmaßnahmen ausreifen.

Dieses Ungleichgewicht erklärt die Sorge. Malware, Phishing und Ransomware sind gefährlich, doch ihre Vorgehensmuster sind bekannt. KI bringt Unsicherheit in Arbeitsabläufe, die Unternehmen aktiv ausbauen wollen.

Sicherheitsverantwortliche müssen nun grundlegende Cyberhygiene bewahren und zugleich Modellevaluierung, Agentenidentität, Datenkontrollen und funktionsübergreifende Verantwortlichkeit ergänzen. Wer eine der beiden Seiten vernachlässigt, schafft eine vermeidbare Lücke.

Für Technologieeinkäufer, Entwickler und Wissensarbeiter lautet die praktische Frage direkt: Erhält ein KI-Tool nur die Informationen und Befugnisse, die es für seine Aufgabe benötigt?

Stellen Sie diese Frage, bevor die nächste Integration live geht. Dokumentieren Sie die Antwort, testen Sie die Grenze und legen Sie fest, wer das System stoppen kann, wenn es sich unerwartet verhält. Diese Nachweise werden wichtiger sein als ein weiteres allgemeines Versprechen, dass eine Organisation KI verantwortungsvoll einsetzt.