Kaspersky-Ausgaben für KI-Sicherheit steigen, während Shadow AI das Kontrollmodell sprengt

Kaspersky zufolge hat die Einführung von KI 41 % der Unternehmen dazu veranlasst, ihre Investitionen in Informationssicherheit zu erhöhen, während Beschäftigte weiterhin externe KI-Tools in die Arbeit einbringen. Die Daten von Kaspersky zu Ausgaben für KI-Sicherheit offenbaren einen Konflikt, den Sicherheitsteams nicht durch den Kauf eines weiteren isolierten Produkts lösen können. Unternehmen wollen KI schneller einführen, doch ihre bestehenden Kontrollen können oft nicht erkennen, wo KI bereits im Einsatz ist.

Die Erkenntnisse stammen aus einer globalen Umfrage unter 1.800 IT- und Cybersicherheits-Entscheidungsträgern sowie Spezialisten in 18 Ländern. Die Befragten vertraten Branchen wie Technologie, Fertigung, Finanzen, Einzelhandel und Großhandel. Kaspersky veröffentlichte die globalen Ergebnisse am 29. Juli 2026, bevor regionale Berichte im September erneut Aufmerksamkeit auf die Zahlen lenkten.

Dabei handelt es sich nicht einfach um eine weitere Geschichte über Sicherheitsbudgets. Das schwierigere Problem ist die wachsende Lücke zwischen genehmigter Unternehmens-KI und Shadow AI, also KI-Tools, die ohne formelle Genehmigung oder Aufsicht eingesetzt werden. Organisationen finanzieren Einführung und Schutz gleichzeitig, während Mitarbeitende Unternehmensinformationen weiterhin über persönliche Konten, Browser-Erweiterungen, spezialisierte Assistenten und integrierte KI-Funktionen bewegen können.

Im Kern geht es daher um kontrollierte KI-Einführung gegenüber mitarbeitergetriebener Einführung. Das Blockieren externer Tools kann Aktivitäten noch weiter aus dem Blickfeld drängen. Alles zu erlauben kann hingegen sensible Daten, Zugangsdaten, interne Dokumente und Geschäftsprozesse Systemen aussetzen, die Sicherheitsteams nicht bewertet haben.

Was die Daten von Kaspersky zu Ausgaben für KI-Sicherheit tatsächlich aussagen

Die zentrale Zahl ist wichtig, weil die KI-Einführung zu einem direkten Treiber für Sicherheitsbudgets geworden ist und nicht nur zu einem weiteren Punkt auf einer Bedrohungsliste.

Laut der globalen Umfrage von Kaspersky erhöhten 41 % der Unternehmen ihre Investitionen in Informationssicherheit aufgrund der KI-Einführung. Weitere genannte Treiber waren steigende Kosten von Sicherheitsvorfällen, Cloud-Migration und jüngste Sicherheitsereignisse.

Dieses Ergebnis bedeutet nicht, dass 41 % ihre Budgets ausschließlich wegen Shadow AI ausgeweitet haben. Es zeigt auch nicht, wie groß die einzelnen Erhöhungen ausfielen. Die veröffentlichten Ergebnisse belegen einen Zusammenhang zwischen Einführung und Ausgabenentscheidungen, liefern jedoch weder Dollarbeträge noch eine Verteilung des Budgetwachstums.

Die umfassenderen Antworten helfen zu erklären, warum sich die Budgets verschieben. Neunzehn Prozent der Befragten stuften KI-Schwachstellen als eine ihrer derzeit gefährlichsten Bedrohungen ein. Phishing lag mit 22 % höher, gefolgt von Massenangriffen mit Malware mit 20 %.

Diese Zahlen rücken KI-Risiken in die Nähe etablierter Unternehmensbedrohungen, ohne sie zu verdrängen. Sicherheitsverantwortliche müssen herkömmliche Systeme schützen und zugleich Modellzugriffe, Prompts, Plugins, Agenten, Trainingsdaten und KI-generierten Code in ihre Zuständigkeit aufnehmen.

Laut Kaspersky ist der Druck besonders im Finanzsektor, im öffentlichen Bereich und in der Technologiebranche groß. Diese Sektoren verarbeiten wertvolle Daten und betreiben Systeme, die für Angreifer starke Anreize bieten. Zugleich stehen sie unter erheblichem Druck, Wissensarbeit und kundenorientierte Prozesse zu automatisieren.

Die Einführung wartet nicht darauf, dass Sicherheitsprogramme aufholen. Kaspersky berichtete, dass 81 % der befragten Unternehmen interne Tools erkundeten oder einsetzten, die von Large Language Models angetrieben werden. Achtzehn Prozent hatten diese Technologien in Arbeitsabläufe integriert.

Unternehmen mit internen KI-Systemen nannten drei gleichermaßen häufige Motive. Verbesserte Prozesseffizienz, weniger menschliche Fehler und bessere Ergebnisse für Kunden wurden jeweils von 59 % dieser Organisationen ausgewählt.

Eine verwandte Kaspersky-Veröffentlichung ergab, dass Mitarbeitende KI bereits in mehreren Arbeitsbereichen einsetzen. Datenanalyse und -visualisierung lagen mit 54 % vorn, gefolgt von Projektmanagement mit 49 % und Informationssuche mit 47 %. Bereichsspezifische Arbeit erreichte 46 %, während Texterstellung und -bearbeitung bei 41 % lagen.

Diese Anwendungsfälle erstrecken sich über viele Datentypen. Ein Projektassistent könnte Kundenanforderungen, Fristen und Mitarbeiterzuweisungen erhalten. Ein Analysetool könnte Finanzunterlagen, operative Kennzahlen oder exportierte Datenbankinhalte verarbeiten.

Die Sicherheitsgrenze verändert sich immer dann, wenn diese Informationen ein Modell, Plugin oder einen KI-gestützten Dienst erreichen. Teams müssen wissen, wer die Daten bereitgestellt hat, welches Konto sie verarbeitet hat, wie lange sie verfügbar bleiben und welche verbundenen Systeme das Tool erreichen kann.

Deshalb reicht die Verschiebung der Ausgaben über den Schutz von Modellen vor technischen Angriffen hinaus. Sie umfasst auch Identität, Datenklassifizierung, Anbieterprüfung, Netzwerksichtbarkeit, Softwareentwicklung, Incident Response und Mitarbeiterschulungen.

Kaspersky hat ein offensichtliches kommerzielles Interesse daran, diese Bedürfnisse hervorzuheben. Das Unternehmen verkauft Sicherheitsprodukte und empfiehlt zusammen mit der Forschung eigene Dienste. Leser sollten die Prozentangaben als Evidenz aus einer vom Anbieter finanzierten Umfrage behandeln, nicht als unabhängige Messung des gesamten Marktes.

Dennoch umfasste die Stichprobe 1.800 sicherheitsorientierte Fachleute in 18 Ländern. Die Ergebnisse zeigen eine klare organisatorische Sorge: KI-Projekte verursachen Kosten außerhalb des ursprünglichen Budgets für Softwarelizenzen oder Infrastruktur.

Jeder zusätzliche Assistent kann einen weiteren Identitätspfad, Datenfluss und eine zusätzliche Anbieterabhängigkeit schaffen. Jedes interne Modell kann Anforderungen an Infrastruktur, Überwachung, Zugriff und Tests hinzufügen. Sicherheitsausgaben werden Teil der Betriebskosten von Unternehmens-KI.

Das ist die erste wichtige Veränderung. KI-Sicherheit beginnt nicht mehr erst, nachdem ein Unternehmen ein großes Modell ausgerollt hat. Sie beginnt, wenn Beschäftigte nach schnelleren Wegen suchen, alltägliche Aufgaben zu erledigen.

KI-Einführung erweitert die Angriffsfläche

Unternehmen verteidigen sich nicht nur gegen KI-gestützte Angreifer; sie fügen KI-Systeme hinzu, die neue Möglichkeiten für Fehler und Ausnutzung schaffen.

Eine Angriffsfläche umfasst die Systeme, Identitäten, Schnittstellen und Datenpfade, die ein Angreifer potenziell erreichen kann. Die KI-Einführung erweitert sie durch Modellendpunkte, Retrieval-Systeme, Plugins, Prompt-Eingaben, autonome Aktionen und Integrationen von Drittanbietern.

Diese Komponenten führen bekannte Softwarerisiken in ungewohnten Kombinationen ein. Schwache Zugriffskontrollen bleiben schwache Zugriffskontrollen, doch ein KI-Agent kann diesen Zugriff über mehrere Tools hinweg ausüben. Ein offengelegtes Zugangstoken bleibt gefährlich, doch ein verbundener Assistent kann es mit Maschinengeschwindigkeit nutzen.

Kaspersky berichtete über einen starken Anstieg erfasster Schwachstellen in KI- und Large-Language-Model-Diensten. Seine Schwachstellenanalyse zählte im zweiten Quartal 2026 935 Schwachstellen.

Diese Zahl lag laut den Daten des Unternehmens zum Schwachstellenmanagement zehnmal höher als im vierten Quartal 2025. Kaspersky stufte 119 der Schwachstellen des zweiten Quartals als kritisch ein, fast fünfmal so viele wie Ende 2025.

Zu den häufigsten Kategorien zählten schwache Zugriffskontrollen, fehlerhafte Authentifizierung oder Autorisierung sowie Injection-Schwachstellen. Bei Injection verändert manipulierte Eingabe, wie ein System Anweisungen interpretiert oder verbundene Aktionen ausführt.

Der Anstieg erfordert eine vorsichtige Einordnung. Mehr erfasste Schwachstellen können eine stärkere Einführung, erhöhte Aufmerksamkeit von Forschern, bessere Offenlegung oder einen tatsächlichen Rückgang der Softwarequalität widerspiegeln. Die veröffentlichten Gesamtzahlen trennen diese Effekte nicht.

Dennoch weisen die Kategorien auf konkrete technische Probleme hin. Unternehmen müssen die Software rund um Modelle absichern, nicht nur die Modelle selbst untersuchen. Authentifizierung, Berechtigungsgrenzen, Eingabeverarbeitung, Protokollierung und Abhängigkeitsmanagement bleiben unerlässlich.

KI-Agenten erhöhen den Einsatz, weil sie Handlungen ausführen können, statt lediglich Text zu erzeugen. Ein Assistent, der mit E-Mail, Cloud-Speicher, Code-Repositories und Kalendern verbunden ist, hat eine größere potenzielle Wirkung als ein eigenständiger Chatbot.

Der Agent erschwert zudem die Zuordnung. Ein legitimer Mitarbeiter könnte eine Aktion autorisieren, während manipulierter Kontext verändert, was das System letztlich tut. Sicherheitsprotokolle müssen die Nutzeranfrage, Modellentscheidung, den Tool-Aufruf, die Zielressource und die daraus resultierende Änderung festhalten.

Die Sicherheitsrichtlinien für agentische Systeme der OWASP Foundation befassen sich mit diesem umfassenderen Governance-Problem. Ihre Arbeit aus dem Jahr 2026 konzentriert sich auf die Absicherung autonomer Systeme durch Kontrollen, die Entwicklung, Bereitstellung, Identität und Aufsicht umfassen.

Dieser Ansatz ist wichtig, weil herkömmlicher Endpunktschutz nur einen Teil des Arbeitsablaufs erfasst. Eine Browser-Sitzung kann legitim wirken, selbst wenn ein Mitarbeiter eingeschränktes Material in eine genehmigte Website einfügt. Ein gültiges Agent-Token kann weiterhin eine unsichere Aktion autorisieren.

Sicherheitsteams benötigen daher mehrere Evidenzebenen. Sie brauchen ein Inventar von KI-Diensten, Transparenz über Datenbewegungen, Kontrollen für verbundene Identitäten und einen Prüfprozess für Aktionen mit hoher Auswirkung.

Dasselbe Prinzip gilt für KI-generierten Code. Ein Entwickler kann eine vorgeschlagene Abhängigkeit oder Konfiguration übernehmen, ohne ihre Sicherheitseigenschaften zu verstehen. Das Ergebnis gelangt dann in die normale Softwarelieferkette und kann die Produktion erreichen.

Kaspersky erklärte zudem, dass seine Systeme in den ersten vier Monaten des Jahres 2026 mehr als 33.300 Angriffe auf kleine und mittlere Unternehmen erkannten. Bei diesen Angriffen wurde schädliche oder unerwünschte PC-Software als beliebte KI-Dienste getarnt.

Laut dem Unternehmen lag diese Gesamtzahl fast fünfmal höher als im vergleichbaren Zeitraum 2025. Die Erkenntnis zeigt, wie Angreifer die Nachfrage nach KI ausnutzen können, ohne ein tatsächliches Modell zu kompromittieren. Vertrautes Social Engineering kann auf KI-Branding aufsetzen.

Die praktische Lehre geht über den Kauf KI-spezifischer Erkennung hinaus. Unternehmen müssen KI-Governance mit bestehenden Sicherheitsdisziplinen verbinden. Asset Management, Identitätskontrollen, sichere Entwicklung, Anbieterbewertung und Incident Response müssen dieselbe Sicht auf die Bereitstellung teilen.

Das setzt Chief Information Security Officers unter Druck, betrifft jedoch ebenso Technologie- und Geschäftsverantwortliche. Eine Abteilung, die einen KI-Dienst kauft, trifft eine Sicherheitsentscheidung, selbst wenn der Kauf nie über das Sicherheitsbudget läuft.

Ein Team, das einen internen Assistenten entwickelt, trifft eine weitere Entscheidung, wenn es Datenquellen und Berechtigungen auswählt. Das Risiko verändert sich erneut, wenn dieser Assistent Nachrichten versenden, Datensätze ändern oder Transaktionen anstoßen kann.

Die Angriffsfläche wird daher durch das Geschäftsdesign geprägt. Sicherheitsteams können sie nicht verringern, ohne zu verstehen, welche KI-Funktionen Mehrwert liefern und welche Verbindungen unnötig sind. Das erfordert Zusammenarbeit vor der Bereitstellung, nicht ein Genehmigungstreffen nach dem Start.

Shadow AI verwandelt Produktivität in Governance-Schulden

Shadow AI wächst, wenn genehmigte Tools nicht mit der Geschwindigkeit, Leistungsfähigkeit oder Bequemlichkeit mithalten können, die Beschäftigte eigenständig erhalten können.

Kaspersky stellte fest, dass 31 % der globalen Befragten die unkontrollierte Nutzung von KI-Tools von Drittanbietern durch Mitarbeitende als häufigen Risikofaktor betrachteten. Das Unternehmen nannte ausdrücklich Dienste wie ChatGPT und DeepSeek.

Das Risiko beschränkt sich nicht auf Beschäftigte, die Regeln absichtlich brechen. KI-Funktionen erscheinen inzwischen in Schreibtools, Suchprodukten, Meeting-Assistenten, Coding-Umgebungen, Analyseplattformen und Browser-Erweiterungen. Mitarbeitende erkennen möglicherweise nicht jede KI-gestützte Funktion als eigenständigen Datenverarbeiter.

Kaspersky berichtete, dass 59 % der Organisationen KI von Drittanbietern unter Einschränkungen erlaubten. Dazu gehörten Verbote, Unternehmensnamen oder interne Dokumente hochzuladen. Weitere 23 % erlaubten uneingeschränkten Zugang und stellten zugleich Leitlinien und Schulungen bereit.

Zusammen zeigen diese Zahlen, dass die meisten befragten Organisationen keinen vollständigen Bann anstrebten. Sie versuchten, nützlichen Zugang zu erhalten und zugleich schädliches Verhalten zu begrenzen.

Dieser Kompromiss ist schwer durchzusetzen. Eine Regel gegen das Hochladen interner Dokumente klingt eindeutig, bis Mitarbeitende mit Ausschnitten arbeiten. Ein Prompt kann sensible Informationen offenlegen, ohne eine vollständige Datei zu enthalten.

Ein Vertriebsmitarbeiter könnte Kundeneinwände in einen Assistenten einfügen. Ein Entwickler könnte einen Codeblock mit internen Endpunkten übermitteln. Ein Recruiter könnte ein Tool bitten, Notizen zu Kandidaten oder Gespräche über Vergütung zusammenzufassen.

Jede dieser Handlungen kann kleiner wirken als das Hochladen eines vertraulichen Dokuments. Zusammengenommen können solche Prompts jedoch organisatorische Beziehungen, Produktpläne, Kundeninformationen und technische Architektur offenlegen.

Shadow AI umfasst auch persönliche Konten, die für die Arbeit im Unternehmen genutzt werden. Ein für den Unternehmenseinsatz zugelassener Dienst kann weiterhin Risiken schaffen, wenn Mitarbeitende private Verbraucherkonten wählen. Sicherheitsteams können administrative Kontrollen, Aufbewahrungseinstellungen, Audit-Protokolle und die zentrale Entziehung von Zugriffsrechten verlieren.

Das offenbart die zentrale Schwäche rein richtlinienbasierter Antworten. Eine schriftliche Regel beschreibt erwartetes Verhalten, kann jedoch nicht automatisch Tools erkennen, Prompts klassifizieren oder unbekannte Integrationen widerrufen. Schulungen helfen Menschen, Risiken zu erkennen, doch Erinnerung ist keine technische Kontrolle.

Ein vollständiges Verbot schafft eine andere Schwäche. Mitarbeitende stehen weiterhin unter Termindruck und Leistungserwartungen. Wenn ein externer Assistent mehrere Arbeitsstunden einspart, werden manche Nutzer auf private Geräte, alternative Konten oder weniger sichtbare Dienste ausweichen.

Das Unternehmen verliert dann die begrenzte Transparenz, die über verwaltete Systeme verfügbar ist. Sperren kann die gelegentliche Nutzung reduzieren, aber zugleich die verbleibenden Aktivitäten schwieriger messbar machen.

Der sinnvollere Vergleich lautet daher nicht freizügiger Zugang gegenüber strikter Sicherheit. Er lautet sichtbarer, gesteuerter Zugang gegenüber unsichtbarem, improvisiertem Zugang. Sicherheit verbessert sich, wenn der genehmigte Weg nützlich genug ist, um freiwillige Nutzung zu fördern.

Dieser Weg braucht mehr als ein Unternehmensabonnement. Mitarbeitende benötigen klare Leitlinien zu zulässigen Daten, unterstützten Aufgaben und Eskalationswegen. Außerdem brauchen sie zugelassene Alternativen, die zu unterschiedlichen Tätigkeiten passen.

Ein Entwickler benötigt möglicherweise codebewusste Unterstützung und Repository-Kontext. Ein Forscher benötigt möglicherweise Dokumentenanalysen mit nachvollziehbaren Quellen. Ein Projektmanager benötigt möglicherweise Zusammenfassungen über Meetings, Aufgaben und Entscheidungen hinweg.

Bei wissensintensiven Arbeitsabläufen sollten Teams den Unterschied zwischen einem gemeinsamen Unternehmens-Repository und einem persönlichen System verstehen, bevor sie KI-Zugriff gewähren. Ein praxisnaher Leitfaden zu Wissensdatenbanken kann helfen, Entscheidungen zu Eigentümerschaft, Umfang und Abruf einzuordnen.

Governance-Schulden häufen sich an, wenn Unternehmen Fähigkeiten bereitstellen, bevor sie diese Grenzen definieren. Wie technische Schulden bleiben sie verborgen, solange Systeme scheinbar funktionieren. Sichtbar werden die Kosten bei einem Audit, einem Vorfall, dem Ausscheiden eines Mitarbeitenden oder einem Anbieterwechsel.

KI kann diese Anhäufung beschleunigen, weil die Einführung oft dezentral erfolgt. Ein Marketingteam kann einen Assistenten aktivieren, ohne auf eine zentrale Bereitstellung zu warten. Ein Entwickler kann innerhalb weniger Stunden ein Modell über eine Programmierschnittstelle anbinden.

Eingebettete KI schafft einen weiteren blinden Fleck. Ein Unternehmen könnte eine Softwareplattform genehmigen, bevor der Anbieter einen Assistenten oder automatisierten Agenten ergänzt. Die frühere Bewertung der Organisation deckt den neuen Datenpfad oder Modellanbieter möglicherweise nicht ab.

Die Anbieterprüfung muss daher kontinuierlich genug werden, um wesentliche Funktionsänderungen zu erfassen. Verträge sollten Datennutzung, Aufbewahrung, Unterauftragnehmer, Vorfallbenachrichtigungen und administrative Kontrollen regeln. Technische Teams müssen prüfen, ob das konfigurierte Verhalten diesen Bedingungen entspricht.

Ein Inventar ist der Ausgangspunkt, aber ein Inventar allein ist noch keine Governance. Sicherheitsteams müssen Experimente von Produktivnutzung, risikoarmes Entwerfen von sensibler Analyse und schreibgeschützte Assistenten von Agenten unterscheiden, die Systeme verändern können.

Diese Klassifizierung bestimmt die Kontrollen. Ein Tool für öffentliches Brainstorming sollte keine Kundendaten erhalten. Ein interner Retrieval-Assistent benötigt Berechtigungen, die die zugrunde liegenden Quellen widerspiegeln. Ein handlungsfähiger Agent benötigt engere Befugnisse und stärkere Genehmigungsschranken.

Der zentrale Zielkonflikt bleibt unvermeidbar. Jede Schutzvorkehrung erhöht die Reibung, während jede entfernte Kontrolle die Exposition steigert. Das beste Design wird diese Spannung nicht beseitigen, kann Reibung jedoch dort platzieren, wo die Folgen am schwerwiegendsten sind.

Unternehmen sollten die strengsten Prüfungen für sensible Informationen und folgenreiche Handlungen reservieren. Aufgaben mit geringem Risiko können einfachere Kontrollen nutzen. Dieses risikobasierte Modell bietet Mitarbeitenden einen glaubwürdigen Weg, ohne jeden Prompt als gleichermaßen gefährlich zu behandeln.

Die Umfrage zeigt Druck, keinen Beweis

Die Ergebnisse von Kaspersky zeigen, dass Sicherheitsverantwortliche Druck verspüren, beweisen jedoch nicht, dass höhere Ausgaben zu einer sichereren KI-Einführung geführt haben.

Die Zahl von 41 % misst Organisationen, die ihre Investitionen wegen der KI-Einführung erhöhten. Sie misst nicht, ob diese Organisationen Vorfälle reduzierten, Shadow AI entdeckten oder Datenexposition verhinderten.

Die Umfrage kombiniert zudem Entscheidungsträger und Spezialisten aus mehreren Branchen und Ländern. Diese Breite macht das Muster relevant, kann aber erhebliche Unterschiede bei Organisationsgröße, Regulierung, Reifegrad und Bedrohungslage verdecken.

Die Veröffentlichung von Kaspersky enthält keinen vollständigen Fragebogen, keine Verteilung der Antworten, kein Stichprobenverfahren und keine Fehlermarge. Sie unterteilt die 41-%-Zahl auch nicht nach Investitionskategorien. Käufer könnten Produkte, Personal, Beratung, Schulungen oder Infrastruktur finanzieren.

Diese Einschränkungen entkräften die Ergebnisse nicht. Sie begrenzen, welche Schlussfolgerungen Leser ziehen sollten. Die Forschung stützt eine Aussage über berichtetes Budgetverhalten, nicht ein Urteil über die Wirksamkeit der Sicherheit.

Die Sponsorrolle des Anbieters liefert einen weiteren Grund zur Vorsicht. Kaspersky empfiehlt in derselben Veröffentlichung sein eigenes Sicherheitsportfolio. Seine kommerzielle Position macht die Umfrage nicht falsch, doch unabhängige Validierung würde weitergehende Marktbehauptungen stärken.

Auch die Risikokennzahlen hängen von der Wahrnehmung der Befragten ab. Neunzehn Prozent bezeichneten KI-Schwachstellen als eine der führenden Gefahren, während 31 % Shadow AI als häufigen Faktor nannten. Diese Antworten beschreiben Bewusstsein und Erfahrung, keine unabhängig verifizierten Vorfallzahlen.

In einer separaten Veröffentlichung erklärte Kaspersky, dass 82 % der Organisationen Bedenken hinsichtlich KI-Risiken äußerten. Unter den 87 %, die im vorherigen Jahr einen Cybervorfall erlebten, berichteten 13 % von Bedrohungen, die speziell aus KI-bezogenen Schwachstellen entstanden.

Auch hier ist die Zuordnung schwierig. Ein Vorfall mit KI-gebrandeter Malware unterscheidet sich von einem ausgenutzten Modelldienst. Datenabfluss über einen Mitarbeiter-Prompt unterscheidet sich von einem Agenten, der auf bösartige Anweisungen reagiert.

Jeden Fall unter „KI-Risiko“ zusammenzufassen, kann zu vagen Ausgaben führen. Unternehmen könnten sich überschneidende Überwachungsprodukte kaufen, ohne die Risiken zu definieren, die sie reduzieren müssen. Sie könnten Governance auch allein als Verantwortung des Sicherheitsteams behandeln.

Das National Institute of Standards and Technology bietet einen strukturierteren Ausgangspunkt. Sein Profil für generative KI überträgt das AI Risk Management Framework auf Risiken bei Entwicklung, Bereitstellung und Nutzung generativer KI.

Das Framework organisiert die Arbeit rund um Governance, Kartierung, Messung und Risikomanagement. Diese Abfolge ermutigt Organisationen, den Kontext zu definieren, bevor sie Kontrollen auswählen. Außerdem behandelt sie Risikomanagement als Prozess über den gesamten Lebenszyklus.

Für ein Unternehmen umfasst „Govern“ Eigentümerschaft, Verantwortlichkeit und Richtlinien. „Map“ bedeutet, Systeme, Nutzer, Daten und Folgen zu verstehen. „Measure“ umfasst Tests, Überwachung und Nachweise. „Manage“ übersetzt diese Nachweise in priorisierte Maßnahmen.

Diese Struktur legt eine Schwäche ausgabengetriebener Reaktionen offen. Ein Unternehmen kann Tools kaufen, bevor es kartiert, wo KI erscheint. Es kann Warnungen sammeln, bevor es entscheidet, welches Verhalten relevant ist. Es kann Mitarbeitende schulen, ohne zu messen, ob sich riskante Praktiken ändern.

Wirksame Ausgaben sollten beobachtbare Ergebnisse erzeugen. Die Organisation sollte wissen, welche KI-Dienste aktiv sind, welche Datenkategorien sie erreichen und welche Identitäten externe Handlungen autorisieren können.

Sie sollte außerdem wissen, ob Mitarbeitende bevorzugt genehmigte Tools verwenden. Eine geringe Akzeptanz zugelassener Dienste kann auf fehlende Fähigkeiten, übermäßige Reibung, schwache Kommunikation oder Misstrauen hindeuten. Das ist eine Governance-Messgröße, nicht bloß eine Softwarekennzahl.

Sicherheitsteams sollten Prüfzeiten für neue Tools verfolgen. Lange Genehmigungszyklen können nicht genehmigte Alternativen fördern. Schnellere Prüfungen erfordern keine niedrigeren Standards, wenn Organisationen wiederholbare Risikokategorien und vorab genehmigte Konfigurationen nutzen.

Vorfallübungen bieten einen weiteren Test. Unternehmen können einen kompromittierten KI-Zugangsschlüssel, ein bösartiges Plugin, einen sensiblen Prompt oder einen Agenten simulieren, der eine nicht autorisierte Änderung vornimmt. Die Reaktion deckt Lücken auf, die Budgetgesamtbeträge nicht sichtbar machen können.

Die Beschaffung sollte Anbieterabhängigkeiten und Ausstiegsoptionen messen. Eine Organisation muss wissen, ob sie Protokolle exportieren, Daten entfernen, Integrationen widerrufen und Arbeitsabläufe migrieren kann. Diese Fähigkeiten werden wichtig, wenn Produkte ihre Bedingungen oder Sicherheitslage verändern.

All dies garantiert keine Sicherheit. KI-Systeme verändern sich schnell, und Organisationen werden mit unvollständigen Informationen arbeiten müssen. Das vernünftige Ziel ist kontrolliertes Lernen auf Basis von Nachweisen, nicht das Versprechen, jedes Risiko beseitigt zu haben.

Der Trend zu KI-Sicherheitsausgaben bei Kaspersky wird nur dann bedeutsam, wenn Investitionen die Transparenz verbessern und Folgen begrenzen. Andernfalls können steigende Budgets mit zunehmender Shadow AI und schwacher Verantwortlichkeit einhergehen.

Drei Signale, die den Ausgabenwandel prüfen werden

Der nächste Test lautet, ob höhere Budgets messbare Kontrolle schaffen, ohne Mitarbeitende zu noch weniger sichtbaren Tools zu treiben.

Das erste Signal ist die Erkennung. In den kommenden Monaten sollten Unternehmen berichten, ob sie KI-Dienste, persönliche Konten, eingebettete Funktionen und Agentenintegrationen in ihren Umgebungen identifizieren können.

Erkennung ist wichtig, weil Richtlinien unbekannte Aktivitäten nicht steuern können. Ein nützliches Inventar sollte jeden Dienst mit einem Verantwortlichen, Geschäftszweck, einer Datenklassifizierung, einer Identitätsmethode und einer Reihe externer Verbindungen verknüpfen.

Wenn Organisationen stärkere Transparenzkennzahlen veröffentlichen, gewinnt die Ausgaben-These an Unterstützung. Das würde zeigen, dass Sicherheitsinvestitionen unbekannte Aktivitäten in verwaltete Aktivitäten überführen. Unveränderte Transparenz würde nahelegen, dass Ausgaben weiterhin von der Einführung entkoppelt bleiben.

Das zweite Signal ist die Akzeptanzrate zugelassener Tools. Unternehmen sollten die genehmigte Nutzung mit blockierten Versuchen, Ausnahmeanträgen und der Nachfrage von Mitarbeitenden nach alternativen Systemen vergleichen.

Eine hohe Akzeptanz genehmigter Tools würde darauf hinweisen, dass Governance und Produktivität nebeneinander bestehen können. Sie würde zudem den Anreiz verringern, für gewöhnliche Arbeit persönliche Konten zu nutzen. Anhaltende Umgehungen würden Behauptungen schwächen, wonach bestehende Programme Shadow AI adressieren.

Die Qualität genehmigter Tools ist wichtiger als die Zahl gekaufter Lizenzen. Ein zugelassener Assistent, der nicht auf benötigte Informationen zugreifen oder spezialisierte Aufgaben unterstützen kann, wird bessere externe Optionen nicht verdrängen.

Organisationen sollten untersuchen, welche Gruppen den genehmigten Weg meiden. Entwickler, Forscher, Vertriebsteams und Analysten haben unterschiedliche Anforderungen. Ein einzelner allgemeiner Assistent wird möglicherweise nicht jeden Arbeitsablauf erfüllen.

Das dritte Signal sind Erkenntnisse aus Vorfällen. Unternehmen brauchen einheitliche Definitionen für KI-bezogene Ereignisse, darunter Modellschwachstellen, offengelegte Zugangsdaten, unsicher generierter Code, sensible Prompts, bösartige Plugins und nicht autorisierte Agentenaktionen.

Klare Kategorien würden Vergleiche zwischen Zeiträumen und Organisationen verbessern. Sie würden außerdem zeigen, ob die Hauptgefährdung von Angreifern, Softwarefehlern, dem Verhalten von Mitarbeitenden oder zu weitreichenden Berechtigungen ausgeht.

Ein Rückgang wiederholter Vorfälle würde die Argumente für die aktuellen Ausgaben stärken. Steigende Erkennungszahlen würden mehr Kontext erfordern. Sie könnten auf eine zunehmende Gefährdung hindeuten oder zeigen, dass verbesserte Überwachung endlich verborgene Aktivitäten aufdeckt.

Sicherheitsverantwortliche sollten Vorfallzahlen daher mit der Zeit bis zur Erkennung, der Zeit bis zur Eindämmung, den betroffenen Daten und den geschäftlichen Auswirkungen verknüpfen. Sie sollten zudem dokumentieren, welche Kontrolle versagt hat und welche Änderung darauf folgte.

Der technische Markt wird eine weitere Ebene an Erkenntnissen liefern. Neue Sicherheitsstandards für Agenten, aktualisierte Leitlinien zu Schwachstellen und umfassendere Unterstützung bei Audits werden zeigen, ob Anbieter interoperable Kontrollen bereitstellen können.

Interoperabilität ist wichtig, weil KI-Workflows viele Systeme überqueren. Ein Modellanbieter, eine Identitätsplattform, eine Datenquelle, ein Browser, ein Endpunkt und ein Sicherheitsdienst können jeweils unterschiedliche Teile einer Transaktion beobachten.

Organisationen benötigen Aufzeichnungen, die über diese Ebenen hinweg verknüpft werden können. Ohne diese Verbindung wird eine Untersuchung zur manuellen Rekonstruktion unvollständiger Protokolle. Autonome Aktionen erhöhen die Kosten dieser Verzögerung.

Sicherheitsinvestitionen sollten auch Menschen einbeziehen, die sowohl Workflows als auch Kontrollen verstehen. Eine Überwachungsplattform kann nicht entscheiden, ob eine Aufgabe für eine Abteilung angemessen ist. Dieses Urteil erfordert Geschäftsverantwortliche, Rechtsteams, Sicherheitsspezialisten und Nutzer.

Die Weiterbildung von Mitarbeitenden bleibt notwendig, doch Unternehmen sollten Beschäftigte nicht als einziges Problem darstellen. Mitarbeitende greifen häufig auf externe Tools zurück, weil offizielle Prozesse den operativen Anforderungen nicht gerecht werden.

Die nachhaltige Antwort besteht darin, sicheres Verhalten einfacher zu machen. Das bedeutet nützliche freigegebene Tools, klare Datengrenzen, schnelle Prüfkanäle, eng begrenzte Berechtigungen und sichtbare Verantwortlichkeit für Aktionen mit hoher Wirkung.

Die Forschung von Kaspersky erfasst einen realen Wandel bei den Budgets. KI wird nicht mehr nur über Experimente, Infrastruktur oder Produktivitätsprogramme finanziert. Sicherheit ist zu einem Teil der Kosten für die Einführung geworden.

Die ungeklärte Frage lautet, ob Unternehmen Kontrolle kaufen oder lediglich Beruhigung. Allein das Budgetwachstum kann sie nicht beantworten. Bestandsabdeckung, genehmigte Nutzung und Ergebnisse bei Vorfällen können es.

Für Unternehmenskäufer ist die unmittelbare Maßnahme klar: Fragen Sie, welche neuen Nachweise jede Sicherheitsinvestition liefern wird. Wenn ein Produkt weder die Transparenz verbessern, noch den Zugriff begrenzen oder die Reaktionszeit verkürzen kann, bleibt seine Verbindung zum KI-Risiko ungewiss.

Entwickler sollten fragen, welche Berechtigungen ein Assistent tatsächlich benötigt. Wissensarbeiter sollten prüfen, welche Daten sicher eingereicht werden können und welches Konto die Interaktion steuert. Führungskräfte sollten Richtlinien mit dem tatsächlichen Verhalten der Mitarbeitenden vergleichen.

Kaspersky AI security spending wird ein nützliches Marktsignal bleiben, doch Shadow AI ist der schwierigere operative Test. Beobachten Sie im nächsten Quartal, ob Unternehmen reale Arbeit in gesteuerte Systeme überführen können, ohne den Wert zu beseitigen, der die Einführung vorangetrieben hat.