CTech AI-Sicherheitsumfrage: Automatisierung hebt die Messlatte für menschliche Forschende
Die CTech-Umfrage zur KI-Sicherheit ergab, dass Automatisierung inzwischen einen erheblichen Teil der Forschungsarbeit übernimmt, der Wandel jedoch zugleich die Erwartungen an die Menschen erhöht, die sie beaufsichtigen. Die Umfrage vom 18. September umfasste 30 Sicherheitsforschende aus israelischen Cybersicherheitsunternehmen. Die Teilnehmenden beschrieben, wie KI die Auswertung von Logs, Dokumentationsprüfungen, erste Code-Scans und parallele Untersuchungen übernimmt.
Diese Effizienz bringt eine deutliche Umkehr mit sich. Schnellere Forschung macht fundiertes Urteilsvermögen nicht weniger wichtig. Sie gibt schwachen Annahmen, unvollständigen Anweisungen und übermäßigen Berechtigungen mehr Möglichkeiten, im Maschinentempo Schaden anzurichten.
Sicherheitsforschende wechseln daher von manuellen Untersuchungen zu Orchestrierung, Validierung und Verantwortlichkeit. Ihr neuer Gegner ist nicht einfach ein KI-Modell oder ein automatisierter Angreifer. Es ist Automatisierung ohne verlässliches menschliches Urteilsvermögen.
Der Wandel reicht über spezialisierte Forschungsteams hinaus. Unternehmen füllen ihre Umgebungen mit Agenten, Dienstkonten, Schlüsseln für Programmierschnittstellen und anderen nichtmenschlichen Identitäten. Viele von ihnen können sensible Daten lesen oder Aktionen über vernetzte Systeme hinweg ausführen.
Gleichzeitig können Angreifer ähnliche Automatisierung nutzen, um Schwachstellen zu erkunden und die Ausnutzung zu beschleunigen. Verteidiger müssen automatisieren, ohne jeder generierten Schlussfolgerung zu vertrauen. Sie müssen zudem die Agenten absichern, die diese Arbeit ausführen.
Das Ergebnis ist ein anspruchsvoller neuer Standard für den Beruf. Forschende benötigen die technische Tiefe, um ein Modell infrage zu stellen, die operative Disziplin zur Kontrolle von Agenten und die Kommunikationsfähigkeiten, um präzise Ziele zu definieren.
Die CTech AI-Sicherheitsumfrage zeigt, was sich verändert hat
KI hat repetitive Sicherheitsaufgaben übernommen und verlagert den Wert von Forschenden von manueller Arbeit hin zu Steuerung, Überprüfung und technischem Urteilsvermögen.
Die Umfrage unter Sicherheitsforschenden sammelte Antworten von 30 Fachleuten aus Israels Cybersicherheitssektor. Sie war keine kontrollierte Produktivitätsstudie. Vielmehr bot sie einen strukturierten Einblick darin, wie aktive Forschungsteams ihre sich verändernde Arbeit beschreiben.
Jedes Unternehmen in der Umfrage erklärte, KI habe Aufgaben wie die Log-Auswertung, Dokumentationsprüfung und erste Code-Scans übernommen. Ein Viertel der Befragten bezeichnete die Technologie ausdrücklich als Multiplikator für die individuelle Leistung.
Yuval Barak, Gründungsingenieur für Forschung bei Astelia, lieferte die deutlichste Produktivitätsaussage der Umfrage. Er sagte, Agenten hätten die Leistung jeder forschenden Person durch die Übernahme aufwendiger Arbeiten auf etwa das Zehnfache des bisherigen Niveaus gesteigert.
Diese Zahl spiegelt die Einschätzung eines Praktikers wider, nicht einen unabhängig geprüften Branchenmaßstab. Dennoch zeigte sich die zugrunde liegende Veränderung der Arbeitsabläufe durchgängig in den Antworten.
Früher musste eine forschende Person Logs sammeln, Dokumentation durchsuchen, Codepfade vergleichen und mögliche Erkenntnisse organisieren, bevor sie eine Hypothese testen konnte. Ein Agent kann heute mehrere dieser Schritte gleichzeitig ausführen.
Die menschliche Rolle beginnt früher und endet später. Forschende müssen die Fragestellung definieren, Werkzeuge auswählen, Zugriffe beschränken, Belege prüfen und entscheiden, ob eine gemeldete Schwachstelle tatsächlich existiert.
Roy Itzhaky, Sicherheitsforscher in der Organisation des Chief Technology Officer von Linx Security, beschrieb diese Rolle eher als die eines Regisseurs denn eines Gräbers. Der Agent erkundet mehrere Pfade, während die forschende Person diese Pfade ausrichtet und die Ergebnisse bewertet.
Diese Unterscheidung ist wichtig, weil Forschung nicht daran gemessen wird, wie viele Ansatzpunkte ein System hervorbringt. Ein glaubwürdiger Befund muss reproduzierbar, relevant und durch Belege gestützt sein.
Automatisierte Scans können die Zahl der Hypothesen erhöhen, ohne ihre Qualität zu verbessern. Sie können Unsicherheit auch hinter selbstbewusster Prosa oder überzeugenden technischen Artefakten verbergen.
Ein Modell könnte verdächtigen Code identifizieren und einen plausiblen Angriffspfad vorschlagen. Die forschende Person muss dennoch feststellen, ob der Pfad erreichbar ist, ob bestehende Kontrollen ihn blockieren und ob eine Ausnutzung relevante Auswirkungen hätte.
Dasselbe Prinzip gilt für Dokumentationsarbeit. KI kann frühere Untersuchungen zusammenfassen und verwandte Erkenntnisse aufzeigen. Sie kann nicht garantieren, dass der Kontext aktuell, vollständig oder auf eine neue Umgebung anwendbar ist.
Dies verändert, wie Teams institutionelles Wissen verwalten. Barak argumentierte, Wissen könne zu einer Eigenschaft des Teams werden, statt bei einzelnen Forschenden zu verbleiben.
Dieses Ergebnis erfordert mehr als das Hinzufügen eines Chatbots zu einer Dokumentsammlung. Teams benötigen geordnete Belege, nachvollziehbare Entscheidungen und Zugriffskontrollen, die vertrauenswürdige Erkenntnisse von unfertigen Spekulationen unterscheiden.
Eine durchsuchbare Wissensdatenbank kann diesen Übergang unterstützen, wenn sie den Quellkontext bewahrt. Ohne Herkunftsnachweis kann eine schnellere Suche alte Annahmen ebenso rasch verbreiten wie gültiges Wissen.
Das Ereignis ist daher mehr als eine einfache Produktivitätsgeschichte. KI verändert, wo Forschende ihre Anstrengungen einsetzen und wo Sicherheitsfehler in den Prozess gelangen können.
Die repetitive Arbeit nimmt ab. Die Last, automatisierte Arbeit zu spezifizieren, zu beaufsichtigen und zu validieren, wächst.
Schnellere Forschung setzt Sicherheitsteams unter Druck
Der Produktivitätsgewinn schafft eine neue Grundlage und zwingt Forschende, validierte Ergebnisse schneller zu liefern, während Angreifer Zugang zu ähnlicher Automatisierung erhalten.
Sicherheitsteams stehen von beiden Seiten des Arbeitsablaufs unter Druck. Ihre eigenen Organisationen erwarten mehr Leistung, während Gegner KI nutzen können, um Aufklärung und Experimente zu verkürzen.
Die CTech AI-Sicherheitsumfrage zeigt, wie schnell sich interne Erwartungen angepasst haben. Wenn ein Agent Dokumentation prüfen oder Code in Minuten scannen kann, wird eine lange manuelle Warteschlange schwieriger zu rechtfertigen.
Ofri Ziv, Mitgründer und Vice President of Research bei Tenzai, sagte, Arbeit, die zuvor monatelang in der Forschung verblieb, müsse nun innerhalb von Wochen bewertet, gehärtet und ausgeliefert werden. Dieser Wandel verbindet Forschungsleistung direkt mit der Produktbereitstellung.
Schnellere Auslieferung kann die Verteidigung verbessern, wenn Teams die Validierung aufrechterhalten. Sie kann jedoch auch vorzeitige Befunde, Fehlalarme oder unzureichend getestete Kontrollen begünstigen.
Der Druck zeigt sich besonders deutlich im Schwachstellenmanagement. Organisationen müssen ausnutzbare Schwächen finden, priorisieren, Korrekturen entwickeln und diese Korrekturen in sich verändernden Umgebungen überprüfen.
Googles Mandiant-Team hat ein ähnliches Betriebsmodell beschrieben. Sein agentisches Review-Framework kombiniert mehrere Agenten mit strukturierter Validierung und menschlicher Expertise.
Das Framework soll Fachleuten helfen, Quellcode zu untersuchen, Ausnutzungspfade zu finden und potenzielle Schwachstellen zu testen. Seine Struktur ist wichtig, weil uneingeschränkte Modellerkundung Zeit verschwenden oder unbelegte Schlussfolgerungen erzeugen kann.
Geschwindigkeit allein löst den traditionellen Nachteil der Verteidiger nicht. Ein Angreifer benötigt nur einen funktionierenden Pfad, während ein Verteidiger die Angriffsfläche über viele Assets, Identitäten und Anwendungen hinweg reduzieren muss.
KI kann Verteidigern helfen, diese Arbeit zu parallelisieren. Sie hilft jedoch auch Angreifern, die Suche zu automatisieren, öffentliche Techniken anzupassen und exponierte Systeme häufiger zu untersuchen.
Google Cloud berichtete, dass das Intervall zwischen der Offenlegung einer Schwachstelle und ihrer aktiven Ausnutzung in der zweiten Hälfte des Jahres 2025 von Wochen auf Tage gesunken sei. Diese Beobachtung spricht für kontinuierliche Erkennung und schnellere defensive Validierung.
Sie beweist nicht, dass KI jedes kürzere Zeitfenster bis zur Ausnutzung verursacht hat. Sie zeigt jedoch, warum periodische Sicherheitsarbeit mit den aktuellen Betriebsbedingungen immer weniger vereinbar ist.
Ein zweimal jährlich durchgeführter Penetrationstest erfasst nur eine vorübergehende Momentaufnahme einer Umgebung. Neuer Code, Berechtigungen, Dienste und Integrationen können diese Sicht kurz nach der Auslieferung veralten lassen.
Vier Unternehmen in der CTech-Umfrage erklärten, sie hätten eigene KI-Hacker oder interne Trainingsumgebungen entwickelt. Diese Systeme simulieren kontinuierlich Angriffe und testen, wie Schwächen in der Produktion auftreten könnten.
Die Umfrageteilnehmenden beschrieben für diese Programme einen Standard ohne Fehlalarme. Dieser Standard ist ein Anspruch, der Belege erfordert, und keine allgemeine Eigenschaft von KI-Sicherheitswerkzeugen.
Fehlalarme verursachen weiterhin reale Kosten. Sie beanspruchen Untersuchungszeit, unterbrechen Engineering-Teams und können Nutzende darauf trainieren, künftige Warnungen zu ignorieren.
Übersehene Treffer sind gefährlicher. Ein Agent könnte eine neue Technik übersehen, weil seine Trainingsdaten oder verfügbaren Werkzeuge den Angriff nicht abbilden.
Sicherheitsverantwortliche müssen Automatisierung daher anhand validierter Ergebnisse beurteilen. Nützliche Kennzahlen umfassen reproduzierbare Befunde, Erkennungsabdeckung, Behebungszeit und die Rate zurückgewiesener Agentenschlussfolgerungen.
Die erzwungene Reaktion der Forschenden ist klar. Teams müssen repetitive Erkennung automatisieren und zugleich deutlich stärker in Überprüfung, Tests und Belegmanagement investieren.
Dieser Druck wird wahrscheinlich anhalten. Sobald eine Organisation Automatisierung in ihre Forschungspipeline integriert, wird die Rückkehr zu einem langsameren manuellen Durchsatz schwierig.
Die schwierigere Frage lautet, ob Teams ihr Urteilsvermögen im gleichen Tempo skalieren können wie den generierten Output. Diese Frage definiert den zentralen Konflikt, dem die Sicherheitsforschung heute gegenübersteht.
KI-Sicherheitsforschende werden zu Regisseuren, nicht zu Gräbern
Der zentrale Wettbewerb des Berufs besteht aus menschlichem Urteilsvermögen gegen unbeaufsichtigte Automatisierung, nicht aus menschlicher Geschwindigkeit gegen Maschinengeschwindigkeit.
KI-Sicherheitsforschende schaffen nicht länger Wert, indem sie jeden Untersuchungsschritt persönlich durchführen. Ihr Wert hängt zunehmend davon ab, zu entscheiden, welche Schritte unter welchen Einschränkungen und mit welchen Anforderungen an Belege ausgeführt werden sollen.
Diese Rolle ähnelt technischer Leitung. Eine forschende Person kann separate Agenten damit beauftragen, Quellcode zu prüfen, Dokumentation zu durchsuchen, Logs zu untersuchen oder konkurrierende Hypothesen zu testen.
Parallele Arbeit erweitert den Suchraum. Sie schafft jedoch auch Koordinationsprobleme, die eine einzelne manuelle Untersuchung möglicherweise vermeiden würde.
Agenten können dieselbe fehlerhafte Annahme über mehrere Zweige hinweg wiederholen. Sie können relevanten Kontext verlieren, attraktive, aber unproduktive Theorien verfolgen oder widersprüchliche Schlussfolgerungen erzeugen.
Itzhaky fasste die Gefahr in einem prägnanten Kontrast zusammen. Nachlässiges Denken habe früher einen Nachmittag beansprucht, könne heute jedoch eine Flotte von Agenten in die falsche Richtung schicken.
Die Aussage erfasst die zentrale Umkehrung. Automatisierung senkt die Kosten des Handelns, kann jedoch die Kosten eines schlecht definierten Ziels vervielfachen.
Eine menschliche Leitungsperson muss ein Untersuchungsziel in begrenzte Aufgaben übersetzen. Jede Aufgabe benötigt ein Zielobjekt, erlaubte Werkzeuge, Abbruchbedingungen und einen Maßstab für ausreichende Belege.
Die forschende Person muss zudem entscheiden, wie unabhängig die Agenten bleiben sollen. Mehrere Agenten, die dasselbe Denkmuster wiederholen, liefern keine aussagekräftige Bestätigung.
Ein besseres Design trennt Rollen. Ein Agent kann Hypothesen erzeugen, ein anderer Annahmen hinterfragen, und ein kontrolliertes Werkzeug kann das vermutete Verhalten reproduzieren.
Selbst dieser Prozess benötigt menschliche Überprüfung. Modelle teilen Trainingsmuster, und scheinbare Uneinigkeit garantiert kein unabhängiges Denken.
Ofek Haviv, Cybersicherheitsforscher bei Terra Security, argumentierte, Forschende konkurrierten nicht mit Agenten um Geschwindigkeit. Ihr Wert liege darin, den Standard festzulegen, den Agentenergebnisse erfüllen müssen.
Dieser Standard umfasst technische Wahrheit, aber auch organisatorische Relevanz. Eine theoretische Schwäche kann nur geringe Auswirkungen haben, wenn Kontrollen den verwundbaren Pfad unerreichbar machen.
Umgekehrt kann ein geringfügiger Konfigurationsfehler erhebliche Risiken schaffen, wenn ein Agent über weitreichende Berechtigungen verfügt. Der Kontext entscheidet, ob ein Befund dringendes Handeln erfordert.
Forscher müssen auch die Werkzeuge hinter generierten Antworten verstehen. Wer reverse-engineerten Code prüft, muss erkennen können, wann ein Modell Verhalten erfindet oder einen Kontrollfluss falsch interpretiert.
Idan Revivo, Leiter der Sicherheitsforschung bei Island, warnte vor Neueinsteigern, die Modelle prompten können, aber nie gelernt haben, Software zurückzuentwickeln. Seine Sorge ist kein Widerstand gegen Automatisierung.
Es ist eine Warnung hinsichtlich der Fähigkeit zur Verifikation. Wenn ein Modell mit großer Sicherheit falschliegt, braucht es jemanden mit ausreichend technischer Tiefe, um dies infrage zu stellen.
Diese Anforderung erhöht die Hürde für Junior-Forscher. Einstiegsarbeit bot traditionell wiederholte Berührungspunkte mit Logs, Code, Systemen und typischen Fehlermodi.
Wenn Agenten diese Aufgaben übernehmen, könnten neue Forscher weniger Gelegenheiten erhalten, Intuition aufzubauen. Teams müssen diese verlorene Praxis gezielt durch betreute Labore, Reproduktionsübungen und adversariale Reviews ersetzen.
Die Umfrage ergab, dass ein Fünftel der Befragten die Auswirkungen von AI auf die nächste Forschergeneration erwähnte. Roey Vilnai, Leiter der Cyberforschung bei Axonius, sagte, der Zugang zu Wissen habe die Erwartungen über alle Erfahrungsstufen hinweg erhöht.
Tamir Ishay Sharbat, Leiter der Sicherheitsforschung bei Zenity, vertrat eine ergänzende Sichtweise. Er kam ohne vorherigen Hintergrund in die Cybersicherheit und betrachtet die Nutzung von AI inzwischen als Voraussetzung für Forscher.
Zusammen verdeutlichen diese Perspektiven eine Herausforderung für die Ausbildung. AI kann den Zugang zu Wissen erweitern und zugleich dazu führen, dass oberflächliche Kompetenz leichter mit Fachwissen verwechselt wird.
Einstellungsverfahren müssen sowohl den Umgang mit Werkzeugen als auch eigenständiges Denken prüfen. Ein Kandidat sollte einen Agenten anleiten, dessen Belege untersuchen und weiterarbeiten können, wenn das Modell scheitert.
Teams sollten zudem manuelle Übungen für essenzielle Fähigkeiten bewahren. Reverse Engineering, Exploit-Entwicklung, Identitätsanalyse und Netzwerkdenken können nicht als rein theoretisches Wissen bestehen bleiben.
Die besten Forscher werden Erkundung im Maschinenmaßstab mit fundierter technischer Skepsis verbinden. Sie werden wissen, wann automatisiert werden sollte, wann der Umfang einzugrenzen ist und wann das System gestoppt werden muss.
Diese Kombination – und nicht allein Prompt-Gewandtheit – wird zum neuen Grundniveau des Berufs.
Nichtmenschliche Identitäten vergrößern die Angriffsfläche
Die Agenten, die Sicherheitsarbeit leisten, werden selbst zu privilegierten Identitäten, die Unternehmen entdecken, beschränken, überwachen und widerrufen müssen.
Elf Unternehmen in der CTech-Umfrage nannten AI-Agenten als wesentliche Veränderung des Sicherheitsperimeters. Die Befragten ordneten diese Agenten API-Schlüsseln, Servicekonten und anderen nichtmenschlichen Identitäten zu.
Tomer Bar, Associate Vice President of Security Research bei Semperis, sagte, nichtmenschliche Identitäten überträfen in einigen Kundenunternehmen bereits die Zahl der Menschen. Er prognostizierte, dass das Verhältnis in den kommenden Jahren zehn zu eins erreichen könnte.
Diese Prognose ist die Einschätzung eines Unternehmensleiters und keine unabhängig verifizierte Marktkennzahl. Das zugrunde liegende Identitätsproblem ist dennoch konkret.
Ein Agent benötigt Zugriff auf Daten, Anwendungen und Werkzeuge, um nützliche Arbeit zu leisten. Diese Verbindungen verleihen ihm eine Identität, einen Berechtigungssatz oder geliehenen Zugriff über ein anderes Konto.
Omer Nissim, Sicherheitsforscher bei Sweet Security, hob die Gefahr hervor, weitreichende Berechtigungen mit einem unvorhersehbaren Entscheidungsprozess zu verbinden. Er verwies ausdrücklich auf Agenten, die über Model Context Protocol-Server verbunden sind.
Model Context Protocol, oder MCP, ist ein Standard, mit dem sich AI-Systeme mit externen Werkzeugen und Datenquellen verbinden können. Sein Nutzen hängt davon ab, wie diese Verbindungen autorisiert und eingeschränkt werden.
Ein Agent mit Lesezugriff auf Quellcode stellt ein Risikoniveau dar. Ein Agent, der Cloud-Einstellungen ändern, Nachrichten versenden oder Code bereitstellen kann, stellt ein anderes dar.
OWASP beschreibt übermäßige Handlungsfähigkeit als einen Zustand mit übermäßiger Funktionalität, Berechtigungen oder Autonomie. Unerwartete oder manipulierte Modellausgaben können dann schädliche Aktionen auslösen.
Das Kernproblem ist nicht zwangsläufig böswillige Absicht. Eine mehrdeutige Anweisung, eine halluzinierte Schlussfolgerung, ein kompromittiertes Werkzeug oder ein eingeschleuster Prompt kann einen ansonsten legitimen Agenten umleiten.
Das Prinzip der minimalen Berechtigungen bleibt die wichtigste Verteidigung. Ein Agent sollte nur die Werkzeuge und Berechtigungen erhalten, die für seine aktuelle Aufgabe erforderlich sind.
Lesezugriff ist vorzuziehen, wenn die Arbeit keine Änderungen erfordert. Aktionen mit hoher Auswirkung sollten separate Genehmigungswege und eng abgegrenzte Zugangsdaten verwenden.
Organisationen benötigen zudem individuelle Agentenidentitäten. Die gemeinsame Nutzung menschlicher Zugangsdaten mit einem Agenten erschwert die Zuordnung und kann dem System erlauben, seinen Betreiber zu imitieren.
Die aktuelle Leitlinie von NIST zu Agentenidentitäten empfiehlt, Agenten als eigenständige Entitäten zu behandeln. Jeder sollte über Kennungen, Zugangsdaten und Berechtigungen verfügen, die mit dem verantwortlichen Nutzer oder System verbunden sind.
Die Leitlinie hebt zudem Risiken statischer API-Schlüssel und langlebiger Bearer-Tokens hervor. Wer diese Zugangsdaten erlangt, kann sie oft nutzen, ohne den Besitz einer bestimmten Identität nachweisen zu müssen.
Damit werden die Speicherung und Rotation von Zugangsdaten Teil der AI-Sicherheit. Geheimnisse von Agenten können über Konfigurationsdateien, Logs, Memory Stores, Werkzeugausgaben oder Debugging-Aufzeichnungen preisgegeben werden.
Menschliche Genehmigung löst nicht jedes Problem. Ständige Berechtigungsanfragen können zu Genehmigungsmüdigkeit führen und Nutzer dazu verleiten, Aktionen ohne sorgfältige Prüfung zu bestätigen.
Ein stärkeres Design gibt Agenten genehmigte Betriebsgrenzen. Diese Grenzen sollten zugängliche Ressourcen, erlaubte Aktionen, Zeitlimits und Eskalationsbedingungen definieren.
Die Überwachung muss mehr als nur die endgültige Antwort erfassen. Sicherheitsteams benötigen Aufzeichnungen über Werkzeugaufrufe, Identitätsnutzung, abgerufene Daten, veränderte Ressourcen und Genehmigungsentscheidungen.
Diese Belege unterstützen die Untersuchung von Vorfällen und die alltägliche Qualitätskontrolle. Sie ermöglichen Forschern nachzuvollziehen, warum ein Agent zu einer Schlussfolgerung gelangte oder eine Aktion ausführte.
Auch die Verantwortung muss sichtbar bleiben. Itzhaky merkte an, dass Agenten von Mitarbeitern, automatisierten Pipelines oder anderen Agenten erstellt werden können.
Ohne einen verantwortlichen Eigentümer kann ein vergessener Agent Berechtigungen behalten, nachdem seine ursprüngliche Aufgabe beendet ist. Dieses Muster ähnelt verwaisten Servicekonten, doch autonomes Verhalten macht die Gefährdung schwerer vorhersehbar.
Die Erfassung sollte daher Agentenbestände, Zugangsdaten, Werkzeuge, Datenzugriffe und Eltern-Kind-Beziehungen einschließen. Ein Widerruf muss sowohl den Agenten als auch jeden von ihm geschaffenen delegierten Zugriff beenden.
Hier treffen die Produktivitätsgeschichte und die Sicherheitsgeschichte aufeinander. Eine Organisation kann Agenten schneller einsetzen, als ihr Identitätsprogramm sie steuern kann.
Die daraus entstehende Lücke wird zu einem neuen Forschungsziel. Sicherheitsteams müssen das Verhalten von Agenten untersuchen und gleichzeitig Agenten nutzen, um alles andere zu untersuchen.
Automatisierung kann skeptische Validierung nicht ersetzen
Die Umfrage erfasst einen realen Wandel der Arbeitsabläufe, doch ihre weitreichendsten Behauptungen zu Produktivität und Genauigkeit erfordern weiterhin unabhängige Messungen.
Die CTech-Umfrage zur AI-Sicherheit bietet wertvolle Beobachtungen aus erster Hand von praktizierenden Forschern. Ihre Kohorte von 30 Personen bleibt jedoch auf Israels Cybersicherheitsbranche konzentriert.
Der veröffentlichte Artikel liefert keine randomisierte Stichprobe, keinen standardisierten Fragebogen und keine unabhängig geprüften Leistungsdaten. Leser sollten seine Verhältniszahlen nicht als universelle Messwerte für die Arbeitswelt behandeln.
Die Schätzung eines Befragten einer zehnfachen Produktivität kann auf eine bedeutende Veränderung hindeuten, ohne eine Verzehnfachung validierter Entdeckungen zu belegen. Output kann Berichte, Hypothesen, Code-Reviews, Experimente oder bestätigte Schwachstellen bedeuten.
Diese Kategorien haben unterschiedlichen Wert. Zehnmal mehr erste Befunde können mehr Arbeit verursachen, wenn die meisten einer Reproduktion nicht standhalten.
Dieselbe Vorsicht gilt für Behauptungen ohne Fehlalarme. Ein System kann Fehlalarme reduzieren, indem es einschränkt, was es meldet, doch diese Entscheidung könnte zu mehr übersehenen Schwachstellen führen.
Teams müssen beide Seiten messen. Präzision beschreibt, wie viele gemeldete Befunde gültig sind, während Recall beschreibt, wie viele relevante Schwachstellen das System tatsächlich findet.
Ein Werkzeug kann akkurat wirken, wenn es nur offensichtliche Probleme meldet. Es könnte dennoch subtile Angriffsketten, unbekannte Software oder Schwachstellen übersehen, die langes kontextuelles Denken erfordern.
Die Leitlinie von Google Cloud zu Schwachstellen warnt, dass Agenten neuartige Techniken oder Zero-Day-Schwachstellen, die in den Trainingsdaten nur unzureichend vertreten sind, unbemerkt übersehen können.
Diese Einschränkung verleiht menschlicher Expertise eine konkrete Rolle. Forscher müssen erkennen, wann die Abdeckung eines Scans zu eng ist, und Tests außerhalb der vertrauten Muster des Modells entwerfen.
Halluzinationen sind ein weiteres Anliegen. Ein generierter Bericht kann nicht existierende Funktionen zitieren, eine Abhängigkeit missverstehen oder die Ausnutzbarkeit aus unvollständigem Code ableiten.
Die Reproduktion sollte daher in kontrollierten Umgebungen erfolgen. Eine glaubwürdige Pipeline sollte Eingaben, Werkzeugversionen, Prompts, Systemzustand und beobachtbare Ergebnisse bewahren.
Auch Agentenausgaben erfordern Threat Modeling. Ein Angreifer kann Text platzieren, der ein Modell manipuliert, insbesondere wenn das System nicht vertrauenswürdige Websites, Repositories, Tickets oder Dokumente liest.
Dieser Angriff wird indirekte Prompt-Injection genannt. Bösartige Anweisungen werden in abgerufenen Inhalten versteckt und versuchen, das Verhalten des Agenten umzulenken.
Die Verteidigung kann sich nicht allein darauf verlassen, dem Modell zu sagen, es solle schlechte Anweisungen ignorieren. Systeme benötigen isolierte Werkzeuge, begrenzte Berechtigungen, Inhaltsgrenzen und eine ausdrückliche Genehmigung für folgenreiche Aktionen.
Forscher müssen außerdem zwischen Modellzuversicht und Belegqualität unterscheiden. Flüssige Erklärungen können einen schwachen Befund vollständig wirken lassen.
Ein starker Review-Prozess stellt mehrere konkrete Fragen. Lässt sich das Verhalten reproduzieren? Ist der verwundbare Pfad erreichbar? Welche Berechtigung erfordert die Ausnutzung? Welche Kontrolle blockiert oder erkennt sie?
Der Prozess sollte auch verworfene Hypothesen dokumentieren. Diese Fehlschläge helfen Teams, Benchmarks zu verbessern, und verhindern, dass spätere Agenten denselben unproduktiven Weg wiederholen.
Ein Sicherheitsbenchmark ist eine definierte Sammlung von Aufgaben zur Prüfung des Systemverhaltens. Interne Benchmarks sollten irreführende Belege, Teilzugriff, Werkzeugausfälle und unbekannte Schwachstellenklassen umfassen.
Die Leistung in Produktion ist wichtiger als Benchmark-Ergebnisse. Teams sollten Agentenbefunde mit späteren Vorfällen, manuellen Reviews und unabhängigen Tests vergleichen.
Menschliche Prüfer benötigen Schutz vor Automatisierungsbias – der Tendenz, eine Maschinenempfehlung zu bevorzugen, allein weil sie von einem System erzeugt wurde.
Rotierende Prüfer, das Ausblenden des Konfidenzwerts eines Agenten oder die Anforderung einer unabhängigen Reproduktion können diesen Bias verringern. Befunde mit hoher Auswirkung verdienen eine stärkere Trennung zwischen Entdeckung und Genehmigung.
Das Argument der Skeptiker bedeutet nicht, dass Teams AI aufgeben sollten. Auch manuelle Forschung übersieht Schwachstellen, verfolgt falsche Hypothesen und leidet unter uneinheitlicher Dokumentation.
Die besser begründbare Schlussfolgerung ist enger gefasst. AI erweitert die Forschungskapazität, doch Kapazität wird nur dann nützlich, wenn Teams eine disziplinierte Validierung beibehalten.
Die neue höhere Messlatte ist nicht Perfektion. Sie besteht in der Fähigkeit, zu erklären, was der Agent getan hat, das Ergebnis zu überprüfen und die Folgen eines Fehlers einzudämmen.
Kontinuierliche Sicherheit wird zum nächsten Prüfstein
Die nächste Phase wird an kontinuierlicher Validierung, messbarer Forschungsqualität und durchsetzbarer Kontrolle über Agentenidentitäten gemessen werden.
Das erste Signal, auf das es zu achten gilt, ist, ob kontinuierliche Sicherheitsbewertung periodische Tests in Produktionsabläufen ersetzt. Mehrere Umfrageteilnehmer argumentierten, dass zweimal jährlich durchgeführte Penetrationstests nicht mehr zur Geschwindigkeit von Software und Angreiferaktivität passen.
Kontinuierliche Bewertung bedeutet, Assets fortlaufend zu testen, während sich Code, Konfigurationen, Identitäten und externe Angriffsflächen verändern. Sie sollte tiefere menschliche Prüfungen ergänzen, statt Sicherheit in einen endlosen Strom von Scanner-Meldungen zu verwandeln.
Google beschrieb eine agentische Sicherheits-Pipeline, die Code scannt, Nachweise erstellt und Korrekturen konstruiert. Das Unternehmen erklärte, diesen Ansatz auf Hunderte Millionen Zeilen internen Codes anzuwenden.
Dieses System ist ein nützlicher Indikator, weil es Erkennung mit Reproduktion und Behebung verknüpft. Entscheidend ist, ob andere Organisationen mit kleineren Datensätzen, Teams und Infrastrukturen eine ähnliche Disziplin erreichen können.
Eine breite Einführung würde die zentrale Aussage der Umfrage stärken. Anhaltendes Warnrauschen oder schwache Behebungsquoten würden sie schwächen.
Das zweite Signal betrifft die Frage, wie Unternehmen nichtmenschliche Identitäten steuern. Agentenverzeichnisse sollten Teil des Identitäts- und Zugriffsmanagements werden, nicht ein isoliertes KI-Strategiedokument.
Sinnvolle Fortschritte würden eindeutige Agenten-Anmeldedaten, kurzlebige Zugriffe, delegierte Autorisierung, klare Verantwortlichkeiten und vollständige Aktionsprotokolle umfassen. Organisationen sollten einen Agenten zudem sperren können, ohne dessen menschlichen Betreiber zu deaktivieren.
Achten Sie auf Standards und Produkte, die die Aktionen eines Agenten mit einem konkreten Nutzer, einer Aufgabe und einer genehmigten Betriebsgrenze verknüpfen. Diese Kette ermöglicht Rechenschaftspflicht, ohne persönliche Zugangsdaten weiterzugeben.
Wenn Bereitstellungen weiterhin auf weitreichenden API-Schlüsseln und generischen Dienstkonten beruhen, wird die Produktivität der Governance vorauslaufen. Das würde Sorgen über Schattenadministratoren und unvorhersehbare Zugriffswege verstärken.
Das dritte Signal ist, wie sich Einstellung und Ausbildung verändern. Nachwuchsforschende benötigen weiterhin direkte Praxis mit Code, Systemen, Exploitation und Belegen.
Teams sollten klarere Kompetenzanforderungen für KI-gestützte Rollen veröffentlichen. Vorstellungsgespräche und Schulungsprogramme können prüfen, ob Kandidaten erfundene Befunde erkennen, Modellannahmen hinterfragen und Ergebnisse manuell reproduzieren.
Ein gesunder Übergang wird strukturierte Ausbildungswege rund um die Überwachung von Agenten schaffen. Erfahrene Forschende können Auszubildende sowohl mit erfolgreichen Durchläufen als auch mit Fehlschlägen vertraut machen.
Ein ungesunder Übergang würde grundlegende Arbeit entfernen, ohne ihren Bildungswert zu ersetzen. Dadurch entstünden Forschende, die Oberflächen bedienen können, aber die dahinterliegenden Systeme nicht überprüfen können.
Diese Signale sind für Unternehmenskäufer ebenso wichtig wie für Sicherheitsfachleute. Der KI-Einsatz eines Anbieters sagt ohne Details zu Berechtigungen, Belegen, Prüfung und Fehlerbehandlung wenig aus.
Käufer sollten fragen, wer Befunde freigibt, wie Agenten sich authentifizieren, welche Daten sie speichern und ob Ergebnisse reproduzierbar sind. Sie sollten auch fragen, wie sich das System verhält, wenn ein Tool ausfällt oder eine Eingabe bösartige Anweisungen enthält.
Entwickler sollten erwarten, dass Sicherheitsprüfungen näher an jede Codeänderung rücken. Sie erhalten möglicherweise schnelleres Feedback, doch automatisierte Befunde benötigen weiterhin genügend Kontext, um eine Korrektur zu ermöglichen.
Wissensarbeiter sollten sich dafür interessieren, weil Probleme mit Agentenidentitäten über Cybersicherheitswerkzeuge hinausreichen. Jeder Assistent, der mit E-Mails, Dokumenten, Code oder Geschäftssystemen verbunden ist, kann zu einer überprivilegierten nichtmenschlichen Identität werden.
Die CTech-KI-Sicherheitsumfrage beschreibt letztlich eine Umverteilung der Arbeit, nicht das Verschwinden von Forschenden. Maschinen übernehmen mehr Sammlung und Erkundung. Menschen tragen mehr Verantwortung für Ziele, Einschränkungen und Wahrheit.
Diese Aufteilung kann Sicherheit verbessern, wenn Belege zentral bleiben. Sie kann Risiken erhöhen, wenn Organisationen erzeugte Aktivität mit verifiziertem Fortschritt verwechseln.
Die praktische Frage lautet nicht mehr, ob KI in die Sicherheitsforschung gehört. Sie lautet, ob Teams Automatisierung rechenschaftspflichtig machen können, bevor ihr Umfang ihre Fähigkeit zur Überwachung übersteigt.
Bitten Sie Ihre Sicherheitsanbieter und internen Teams um einen vollständigen agentengestützten Befund, einschließlich seiner Berechtigungen, Belegkette, menschlichen Prüfung und endgültigen Entscheidung. Dieser Nachweis wird mehr offenlegen als ein allgemeines Produktivitätsversprechen.
