Webmail-CSS-Angriffe legen einen blinden Fleck in KI-E-Mail-Abwehrsystemen offen
Google News hat auf einen Webmail-CSS-Angriff aufmerksam gemacht, der seit April 2026 in mehr als einer Million Phishing-Nachrichten beobachtet wurde. Die Kampagne offenbart einen grundlegenden Konflikt in der KI-E-Mail-Sicherheit: Menschen und Maschinen können dieselbe Nachricht erhalten, aber völlig unterschiedliche Inhalte lesen.
Die berichtete Technik namens Text Salting nutzt Cascading Style Sheets, um Fülltext in einer HTML-E-Mail zu verbergen. Dieses versteckte Material verändert, wie automatisierte Systeme die Nachricht interpretieren, ohne zu beeinflussen, was der Empfänger sieht.
Forscher von Barracuda fanden die Technik in Phishing-Kampagnen mit Einzelhandelsbezug, die Belohnungen, Geschenkkarten, Treuepunkte oder dringende Einlösungen versprachen. Die Angreifer nutzten versteckten Text, um verdächtige Formulierungen zu verwässern und bösartige E-Mails für automatisierte Filter sicherer erscheinen zu lassen.
Dies ist nicht einfach ein weiterer Trick zur Umgehung von Spamfiltern. Dieselbe Sichtbarkeitslücke kann auch in die entgegengesetzte Richtung wirken. Versteckte Anweisungen können auf einen KI-Assistenten zielen, der E-Mails zusammenfasst, Antworten entwirft, ein Postfach durchsucht oder verbundene Tools aufruft.
Daraus ergibt sich der zentrale Sicherheitskonflikt. KI-E-Mail-Tools werden nützlicher, je mehr Kontext sie lesen und je umfassender ihr Zugriff ist. Genau diese Fähigkeiten vergrößern die Folgen, wenn nicht vertrauenswürdige E-Mail-Inhalte das Modell beeinflussen.
Herkömmliche Abwehrmechanismen gehen davon aus, dass die einer Person angezeigte Nachricht weitgehend der von Software geprüften Nachricht entspricht. CSS durchbricht diese Annahme, indem innerhalb einer E-Mail getrennte, für Menschen sichtbare und maschinenlesbare Versionen erzeugt werden.
Der unmittelbare Druck liegt bei Google, Microsoft, E-Mail-Sicherheitsanbietern und Entwicklern, die Assistenten auf Postfachdaten aufbauen. Sie müssen die Analyse der Rohdaten mit dem gerenderten Inhalt abgleichen und dabei Barrierefreiheit sowie legitime Formatierungen bewahren.
Was der Google-News-Bericht über Text Salting offenbart
Die entscheidende Veränderung besteht nicht darin, dass Angreifer versteckten Text entdeckt haben. Vielmehr wirken alte Umgehungsmethoden nun gegen KI-basierte Bewertungen.
Text Salting fügt einer bösartigen Nachricht harmlose oder kontextuell unpassende Wörter hinzu. Sicherheitssoftware analysiert diese Wörter, doch CSS verhindert, dass der Empfänger sie sieht.
Barracuda berichtete, seit April 2026 eine Million Angriffe mit diesen Techniken erkannt zu haben. Die Nachrichten gehörten zu einer Kampagne mit Einzelhandelsbezug, die auf Belohnungs- und Einlösungsangebote ausgerichtet war.
Die Angreifer verwendeten mehrere gewöhnliche CSS-Eigenschaften. clip-path: inset(100%) verringerte den sichtbaren Bereich eines Textblocks auf null. Regeln für Höhe und Zeilenhöhe von null beseitigten auffälligen Leerraum.
Andere Regeln verschoben Text über den Bildschirmrand hinaus. Ein großer negativer text-indent rückte ihn um Tausende Pixel nach links, während overflow: hidden eine verräterische Bildlaufleiste unterdrückte.
Die Angreifer verkleinerten außerdem Schriftarten auf null. Keine dieser Eigenschaften ist an sich bösartig. Diese Mehrdeutigkeit macht eine einfache Blockliste unzuverlässig, weil legitime E-Mail-Vorlagen ähnliche Gestaltungstechniken verwenden können.
Die Kampagne stützte sich Berichten zufolge auf kompromittierte Websites oder Lookalike-Domains. Einige Domains unterstützten die Standard-E-Mail-Authentifizierung, einschließlich DomainKeys Identified Mail oder DKIM, das bestätigt, dass eine autorisierte Domain eine Nachricht signiert hat.
DKIM bestimmt nicht, ob der Inhalt ehrlich ist. Es validiert die Verarbeitung und Integrität von Nachrichten auf Domainebene. Ein böswilliger Akteur, der eine authentifizierte Domain kontrolliert, kann weiterhin Phishing verbreiten.
Diese Unterscheidung ist wichtig, weil KI-Systeme häufig viele Signale kombinieren. Authentifizierung, natürliche Sprache, Absenderreputation, sichtbare Links und Nachrichtenstruktur können jeweils eine Klassifizierung beeinflussen.
Text Salting manipuliert das Sprachsignal. Es liefert einem Klassifikator einen größeren Bestand harmlos wirkenden Textes, während der Phishing-Köder für den menschlichen Empfänger klar sichtbar bleibt.
Ein Filter, der das rohe HTML untersucht, könnte Absätze über nicht zusammenhängende Geschäftstätigkeiten, Kundenservice oder gewöhnliche Einzelhandelstransaktionen vorfinden. Der Empfänger sieht möglicherweise nur einen dringenden Hinweis auf eine Belohnung und eine Schaltfläche.
Dadurch entsteht eine semantische Variante adversarialer Eingaben. Der Angreifer nutzt nicht zwingend eine Software-Speicherschwachstelle aus. Er formt die Belege, die ein statistisches Entscheidungssystem verwendet.
Generative KI senkt zudem die Kosten für die Erstellung variierter Fülltexte. Angreifer können für jede Nachricht unterschiedliche harmlose Passagen erzeugen und damit den Nutzen exakter Textabgleiche verringern.
Die Google-News-Schlagzeile deutet daher auf einen umfassenderen Wandel hin. E-Mail-Inhalte können nun für zwei Zielgruppen konstruiert werden: mit einer Geschichte für den Nutzer und einer anderen für die Maschine.
Warum KI-E-Mail-Filter vor einem Rendering-Problem stehen
Ein KI-Modell kann eine E-Mail nicht zuverlässig beurteilen, wenn seine Eingabe nicht mit der dem Empfänger angezeigten Nachricht übereinstimmt.
Viele E-Mail-Sicherheitssysteme prüfen rohe Nachrichteninhalte, weil diese wertvolle Hinweise enthalten. Sie legen URLs, HTML-Attribute, Metadaten, kodierte Abschnitte und Text offen, den das Rendering möglicherweise verbirgt.
Dieser Ansatz war sinnvoll, als versteckter Text vor allem auf keywordbasierte Spam-Bewertungen zielte. Verteidiger konnten nach verdächtigen Formatierungen suchen und sichtbare Wörter mit dem zugrunde liegenden Quelltext vergleichen.
Große Sprachmodelle verkomplizieren den Prozess. Sie können Bedeutung über lange Passagen hinweg erschließen, doch diese Fähigkeit verleiht verstecktem Fülltext auch mehr Einfluss auf die Klassifizierung.
Ein Modell könnte eine Nachricht sehen, die von gewöhnlicher Einzelhandelssprache dominiert wird. Die sichtbare Phishing-Aufforderung könnte nur einen kleinen Teil der gesamten maschinenlesbaren Eingabe ausmachen.
Der Angriff erfordert nicht, dass das Modell einem direkten Befehl folgt. Er kann gelingen, indem er das scheinbare Thema, den Ton oder die Absicht ausreichend verschiebt, um eine harmlose Klassifizierung zu erzeugen.
Die Analyse des gerenderten Inhalts bringt eigene Probleme mit sich. E-Mail-Clients unterscheiden sich in ihrer Unterstützung für HTML und CSS. Eine Nachricht kann in Gmail, Outlook, mobilen Anwendungen und spezialisierter Webmail-Software unterschiedlich dargestellt werden.
Barrierefreiheitsfunktionen können zudem Text sichtbar machen, den eine standardmäßige visuelle Darstellung verbirgt. Screenreader, kontrastreiche Modi und vereinfachte Ansichten erschweren jede Aussage über eine einzige maßgebliche Darstellung.
Sicherheitstools benötigen daher mehr als einen Screenshot. Sie brauchen einen strukturierten Vergleich zwischen Rohinhalt, berechnetem Layout, Ausgabe für Barrierefreiheit und den Elementen, die ein typischer Nutzer wahrnehmen kann.
Die nützlichste Frage ist nicht, ob eine Eigenschaft isoliert betrachtet verdächtig wirkt. Entscheidend ist, ob die Gestaltung einen bedeutenden Unterschied zwischen maschineller Interpretation und menschlicher Wahrnehmung erzeugt.
Ein Absatz mit Schriftgröße null, der Hunderte nicht zusammenhängende Wörter enthält, ist ein stärkeres Signal als eine einzelne versteckte Formatierungsbezeichnung. Große Blöcke außerhalb des sichtbaren Bereichs verdienen ähnliche Aufmerksamkeit.
Verteidiger können auch die sprachliche Bedeutung sichtbarer und versteckter Bereiche vergleichen. Eine Nachricht über Treueprämien sollte keine verborgenen Absätze über nicht zusammenhängende Rechnungen, Reisen oder Kundensupport enthalten.
Angreifer können sich jedoch anpassen. Sie können Fülltexte erzeugen, die dem sichtbaren Thema nahe bleiben, wodurch sich die semantische Differenz verringert, während bösartige Formulierungen weiterhin verwässert werden.
Dadurch entsteht ein Wettrüsten zwischen Inhaltsgenerierung und sichtbarkeitsbewusster Erkennung. Ein Filter muss nicht nur verstehen, was die Nachricht sagt, sondern auch, welche Teile für die empfangende Person relevant sind.
Maschinelles Lernen ist hier nicht nutzlos. Es bleibt wertvoll, um strukturelle Anomalien, Absendermuster, Kampagneninfrastruktur und ungewöhnliche Kombinationen von Gestaltungsregeln zu erkennen.
Das Problem ist architektonische Selbstüberschätzung. Ein Sprachmodell kann keine Eingabepipeline ausgleichen, die vertrauenswürdige Anweisungen, nicht vertrauenswürdige Inhalte und unsichtbares Material ohne klare Grenzen zusammenführt.
Google hat eine mehrschichtige Abwehr gegen indirekte Prompt-Injection beschrieben. Der Ansatz umfasst Inhaltsklassifikatoren, adversariales Training, Red Teaming und Bestätigungen vor sensiblen Aktionen.
Diese Maßnahmen zeigen die Richtung, die E-Mail-Abwehrsysteme einschlagen müssen. Kein einzelnes Modellurteil sollte darüber entscheiden, ob eine Nachricht sicher ist – insbesondere dann nicht, wenn CSS verändert, was unterschiedliche Betrachter erhalten.
Versteckte Inhalte können den Filter oder den Assistenten angreifen
Dieselbe CSS-Sichtbarkeitslücke ermöglicht zwei gegensätzliche Angriffe: harmlose Texte vor Menschen zu verbergen und bösartige Anweisungen vor ihnen zu verstecken.
Text Salting soll eine bösartige E-Mail für ein Sicherheitssystem harmlos erscheinen lassen. Indirekte Prompt-Injection soll einen KI-Assistenten dazu bringen, Anweisungen zu befolgen, die der Nutzer nie bewusst bereitgestellt hat.
OWASP definiert indirekte Prompt-Injection als bösartige Anweisungen, die in externe Inhalte eingebettet sind und später von einem KI-System verarbeitet werden. E-Mail ist ein natürlicher Zustellungskanal, weil jeder Eingaben an viele Postfächer senden kann.
Ein Angreifer kann Anweisungen mit weißem Text, Schriftarten der Größe null, Positionierung außerhalb des sichtbaren Bereichs, kodierten Zeichen oder HTML-Strukturen verbergen, die vom visuellen Renderer ausgelassen werden.
Das Opfer könnte einen Assistenten bitten, ungelesene Nachrichten zusammenzufassen. Ein autonomer Workflow könnte den Posteingang ohne direkte Anfrage verarbeiten. In beiden Fällen kann das Modell auf vom Angreifer verfasste Anweisungen stoßen.
Ein einfacher Angriff könnte eine Zusammenfassung manipulieren. Die KI könnte eine Sicherheitswarnung erfinden, einen Phishing-Hinweis unterdrücken oder eine bösartige Nachricht als genehmigt beschreiben.
Ein schwerwiegenderer Angriff wird möglich, wenn der Assistent andere Nachrichten durchsuchen, verbundene Dokumente lesen, ausgehende E-Mails entwerfen oder externe Tools aufrufen kann.
Die bösartige E-Mail fungiert dann als Steuereingabe. Sie kann versuchen, den Assistenten von der Aufgabe des Nutzers auf Datenabruf, Offenlegung oder eine nicht autorisierte Aktion umzulenken.
Microsoft kündigte im Juli 2026 Schutz vor Posteingangs-Injection in Defender for Office 365 an. Die Funktion wurde für berechtigte Kunden als öffentliche Vorschau veröffentlicht.
Microsoft zufolge erkennt das System bösartige KI-Anweisungen bei der Prüfung des E-Mail-Flusses. Erkannte Nachrichten erhalten ein Phishing-Urteil mit hoher Zuverlässigkeit und können isoliert werden, bevor sie Nutzer oder verbundene Assistenten erreichen.
Diese Platzierung ist wichtig. Wird ein Angriff vor der Zustellung blockiert, kann er nicht in Postfachsuchindizes, Retrieval-Systeme, Zusammenfassungen und nachgelagerte Agentenkontexte gelangen.
Die Erkennung am Gateway kann jedoch nicht jeden Fall lösen. Ein Angreifer kann bösartige Anweisungen über ein kompromittiertes internes Konto, eine zugelassene Mailingliste, einen weitergeleiteten Thread oder einen Anhang platzieren.
Auch die Unterscheidung zwischen Anweisungen und Daten bleibt für Sprachmodelle schwierig. Beides trifft als natürliche Sprache ein und kann Aufforderungen, zitierte Befehle oder prozedurale Texte enthalten.
Eine E-Mail von einer Führungskraft könnte berechtigterweise sagen: „Prüfen Sie die angehängte Datei und senden Sie Ihre Antwort.“ Eine bösartige Injection kann nahezu identische Sprache verwenden, sich jedoch an die KI statt an den Mitarbeiter richten.
Der Assistent muss Autorität, Herkunft und Absicht ableiten. Sprachliche Gewandtheit allein liefert diese Sicherheitseigenschaften nicht.
Deshalb gehören der Filterangriff und der Assistentenangriff in dieselbe Diskussion. Beide nutzen Mehrdeutigkeiten zwischen angezeigtem Inhalt, verarbeitetem Inhalt und autorisiertem Inhalt aus.
Google News hat eine Geschichte über KI-gestützte E-Mail-Abwehrsysteme aufgegriffen, doch die Auswirkungen reichen weit über die Spam-Klassifizierung hinaus. Jeder mit einem Postfach verbundene Agent übernimmt dieses ungelöste Problem der Eingabegrenzen.
EchoLeak zeigte, was geschieht, wenn E-Mails Tools erreichen
Eine versteckte E-Mail wird erheblich gefährlicher, wenn ein KI-Assistent private Kontexte abrufen und über das Postfach hinaus kommunizieren kann.
Die EchoLeak-Offenlegung im Jahr 2025 lieferte eine konkrete Warnung. Forschende beschrieben einen mehrstufigen Angriff auf Microsoft 365 Copilot mithilfe einer sorgfältig gestalteten E-Mail.
Microsoft führt EchoLeak unter CVE-2025-32711 und erklärt, das Problem sei behoben. Das Unternehmen beschreibt es als Cross-Prompt-Injection-Technik, die begrenzte Daten offenlegen könnte, auf die ein Opfer bereits Zugriff hat.
Laut Microsofts Leitfaden zur KI-Sicherheit könnte eine harmlos wirkende Nachricht den von Copilot verarbeiteten Kontext vergiften. Unter bestimmten Bedingungen könnte die Technik anschließend zu einer unbeabsichtigten Offenlegung führen.
Der Vorfall war bedeutsam, weil er nicht voraussetzte, zunächst das Passwort des Nutzers zu stehlen. Stattdessen zielte er über Daten, die der Assistent erwartungsgemäß lesen sollte, auf den Assistenten selbst.
EchoLeak war komplexer als die von Google News hervorgehobene Text-Salting-Kampagne. Sie umfasste mehrere Phasen und Bedingungen, während Text Salting in erster Linie darauf abzielte, die Klassifizierung zu umgehen.
Dennoch stellen beide Fälle dieselbe Annahme infrage. E-Mails werden als Inhalte behandelt, obwohl Teile dieser Inhalte für KI-Systeme als gegnerische Anweisungen fungieren können.
Das Risiko wächst mit Retrieval-Augmented Generation, kurz RAG. Dieses Design ruft relevante private Informationen ab und fügt sie dem Kontext eines Modells hinzu, bevor es eine Antwort generiert.
RAG hilft einem E-Mail-Assistenten, Fragen zu Projekten, Terminen, Kunden und früheren Diskussionen zu beantworten. Gleichzeitig bringt es wertvolle Informationen in die Nähe von nachrichteninhalten, die von Angreifern kontrolliert werden.
Tool-Zugriff fügt eine weitere Ebene hinzu. Ein Assistent, der nur Zusammenfassungen erstellt, kann Nutzer in die Irre führen, doch ein Agent mit Messaging- oder Dateitools kann direkte operative Folgen auslösen.
Entwickler verlassen sich häufig auf einen System-Prompt, der dem Modell vorgibt, bösartige Anweisungen zu ignorieren. Diese Maßnahme hilft, schafft jedoch keine harte Sicherheitsgrenze.
Eine groß angelegte Forschungsinitiative namens LLMail-Inject sammelte 208.095 Angriffseinreichungen von 839 Teilnehmenden. Forschende testeten mehrere Abwehrmaßnahmen, Modelle und Retrieval-Konfigurationen in einer realistischen Umgebung für E-Mail-Agenten.
Das Volumen der Einreichungen ist relevant, weil adaptive Angreifer nicht einfach eine offensichtliche Formulierung wiederholen. Sie testen Umwandlungen, Rahmungen, Kodierungen, sozialen Kontext und modellspezifisches Verhalten.
Verteidiger sollten davon ausgehen, dass jeder Klassifikator oder Prompt-Schutz falsch negative Ergebnisse erzeugen kann. Sensible Aktionen benötigen unabhängige Autorisierungskontrollen, die nicht von der Interpretation des Modells abhängen.
Ein E-Mail-Zusammenfasser sollte nicht die Berechtigung erhalten, Nachrichten zu senden, nur weil er sie lesen kann. Suchzugriff sollte nicht automatisch Zugriff auf jeden Mailbox-Ordner oder jedes verbundene Dokument bedeuten.
Tool-Aufrufe sollten dem Prinzip der geringsten Privilegien folgen, bei dem jede Komponente nur die Berechtigungen erhält, die sie für ihre aktuelle Aufgabe benötigt. Aktionen mit hoher Auswirkung sollten eine ausdrückliche Bestätigung durch den Nutzer erfordern.
Sicherheitsteams benötigen außerdem Protokolle, die zeigen, welche Nachricht eine Ausgabe oder Aktion beeinflusst hat. Ohne Herkunftsnachweis kann ein Incident Responder die vergiftete Eingabe nicht leicht identifizieren.
Nutzer, die Quellmaterial für KI-Systeme verwalten, stehen vor einer verwandten Herausforderung. Klare Informationsaufnahme und die Trennung von Quellen können helfen, Kontext zu bewahren, doch Berechtigungen auf Anwendungsebene bleiben unerlässlich.
Die Lehre aus EchoLeak lautet nicht, dass alle E-Mail-Assistenten unsicher sind. Ihre Sicherheit muss sich jedoch an ihrer Befugnis orientieren, nicht an ihrem konversationellen Erscheinungsbild.
Der Abwägungspunkt in der Abwehr lautet Sichtbarkeit versus Nutzen
Das Entfernen jedes verborgenen Elements würde einige Angriffe reduzieren, aber zugleich legitime E-Mails beeinträchtigen und tiefere Autorisierungsfehler unangetastet lassen.
Ein strenger Sanitizer könnte CSS, verborgene Elemente, Remote-Ressourcen und komplexes HTML entfernen, bevor ein KI-System eine Nachricht liest. Das würde die Angriffsfläche erheblich verkleinern.
Es würde jedoch auch Strukturen entfernen, die Nutzern und Modellen helfen, legitime E-Mails zu verstehen. Tabellen, responsive Layouts, Zitate, Signaturen, Barrierefreiheitslabels und Transaktionsformatierungen können nützliche Bedeutung transportieren.
Einige verborgene Inhalte erfüllen operative Zwecke. Preheader-Text kann eine kurze Vorschau im Posteingang liefern, während responsive Designs auf Desktop- und Mobilbildschirmen unterschiedliche Elemente anzeigen.
Sicherheitsprodukte müssen diese Fälle von einem großen, verdeckten Block unterscheiden, der die Klassifizierung manipulieren soll. Die Entscheidung kann nicht auf einer einzigen CSS-Eigenschaft beruhen.
Das Rendern jeder Nachricht in einem kontrollierten Browser kann die Sichtbarkeitsanalyse verbessern. Es erhöht jedoch auch die Rechenkosten und bringt eine Browser-Engine in die Sicherheits-Pipeline.
Eine gerenderte Ansicht entspricht möglicherweise dennoch nicht jedem Client. Mobile Bildschirmbreite, Dark Mode, blockierte Bilder, Spracheinstellungen und Barrierefreiheitspräferenzen können das Ergebnis verändern.
Die sicherere Strategie verwendet mehrere Repräsentationen. Ein System kann Rohinhalte für forensische Analysen behalten, eine normalisierte Ansicht berechnen und verborgene oder schlecht sichtbare Bereiche separat identifizieren.
Der KI-Klassifikator sollte für diese Bereiche explizite Labels erhalten. Verborgenes Material sollte nicht stillschweigend in denselben undifferenzierten Textstrom wie sichtbarer Inhalt gelangen.
Ein Assistent könnte verdeckten Text als nicht vertrauenswürdige Metadaten behandeln. Er könnte diesen verborgenen Inhalt nur zusammenfassen, wenn der Nutzer eine Sicherheitsanalyse anfordert.
Prompt-Injection-Detektoren bilden eine weitere Ebene. Microsofts Implementierung prüft Betreffzeilen, Nachrichtentexte, HTML, Styling, weitergeleitete Inhalte und kodiertes Material, bevor ein Assistent sie verarbeitet.
Dennoch ist die Erkennung von Prompt Injection probabilistisch. Legitime E-Mails können Diskussionen über Prompts, Sicherheitstests, Automatisierungsbefehle oder zitierte bösartige Nachrichten enthalten.
Ein Forschungsteam könnte echte Angriffsmuster per E-Mail erhalten. Ein Sicherheitsfilter könnte solche Nachrichten in Quarantäne verschieben, obwohl der Empfänger sie erwartet.
Falsch positive Ergebnisse erzeugen Druck, die Durchsetzung abzuschwächen. Wenn wichtige E-Mails zu oft verschwinden, fügen Administratoren Ausnahmen hinzu, die Angreifer untersuchen und ausnutzen können.
Auch menschliche Bestätigung ist nicht fehlerfrei. Nutzer genehmigen Anfragen routinemäßig, wenn eine Oberfläche sie als normale Schritte darstellt, insbesondere bei wiederkehrender Arbeit.
Die Bestätigung muss deshalb die vorgeschlagene Aktion, ihr Ziel und die betroffenen Daten erklären. Eine vage Aufforderung, ob fortgefahren werden soll, bietet wenig Schutz.
Das stärkste Design trennt Modellschlussfolgerungen von der Richtliniendurchsetzung. Das Modell kann eine Aktion vorschlagen, während deterministische Software Berechtigungen, Ziele, Datenklassifizierungen und Genehmigungsanforderungen prüft.
Dieser Ansatz begrenzt den Schaden sowohl durch verborgene Prompts als auch durch gewöhnliche Modellfehler. Ein manipulierter Assistent kann die außerhalb seines Sprachkontexts durchgesetzten Grenzen nicht überschreiten.
Der Kompromiss besteht in geringerem Komfort. Nutzer könnten bei risikoreichen Aufgaben mit mehr Eingabeaufforderungen, engeren Integrationen und langsamerer Automatisierung konfrontiert sein.
Diese Reibung ist gerechtfertigt, wenn ein Assistent externe Nachrichten senden, vertrauliche Dokumente abrufen, Datensätze ändern oder Finanzabläufe anstoßen kann. Zusammenfassungen mit geringem Risiko können leichtere Kontrollen behalten.
KI-E-Mail-Tools sollten daher abgestufte Befugnisse verwenden. Das Lesen einer ausgewählten Nachricht, das Durchsuchen eines Ordners, das Verfassen einer Antwort und das Senden dieser Antwort sollten getrennte Berechtigungsstufen bleiben.
Worauf Sicherheitsteams als Nächstes achten sollten
Die nächste Phase wird an Erkennungsqualität, Berechtigungsdesign und Belegen für Missbrauch in der Praxis gemessen werden – nicht an einem weiteren Modell-Benchmark.
Das erste Signal ist die breitere Verfügbarkeit sichtbarkeitsbewusster E-Mail-Prüfungen. Microsofts öffentliche Vorschau zeigt, dass Prompt Injection zu einer eigenständigen Kategorie der E-Mail-Sicherheit wird.
Sicherheitsteams sollten beobachten, wie Anbieter diese Erkennungen bereitstellen. Nützliche Produkte werden den verborgenen Bereich identifizieren, seine Rolle erläutern und Belege für Untersuchungen bewahren.
Ein allgemeines Phishing-Urteil reicht nicht aus. Analysten müssen wissen, ob eine Nachricht CSS-verborgenen Fülltext, eine kodierte Anweisung, verdächtige Tool-Direktiven oder eine ungewöhnliche Diskrepanz zwischen sichtbarem und rohem Inhalt enthielt.
Das zweite Signal ist, wie Google, Microsoft und Drittanbieter Entwickler Mailbox-verbundene Agenten begrenzen. Modell-Upgrades sind weniger wichtig als durchsetzbare Grenzen rund um Retrieval und Tool-Nutzung.
Käufer sollten fragen, ob Assistenten externe Nachrichten von internen Anweisungen unterscheiden. Sie sollten außerdem fragen, ob abgerufene Inhalte die Identität des Absenders, den Ort und die Vertrauensstufe erhalten.
Administratoren benötigen Kontrollen für spezifische Aktionen. Eine Richtlinie sollte Zusammenfassungen erlauben, ohne automatisch ausgehende E-Mails, Dateizugriff, Kalenderänderungen oder API-Aufrufe von Drittanbietern zuzulassen.
Das dritte Signal sind verifizierte Belege für Ausnutzung. Die Text-Salting-Daten von Barracuda zeigen einen breiten Einsatz gegen Filter, belegen jedoch nicht, dass jede Nachricht ein LLM-basiertes Produkt überwunden hat.
Anbieter sollten, wo möglich, Methodik und Bezugsgrößen veröffentlichen. Erkennungszahlen allein zeigen weder Zustellraten noch erfolgreiche Klassifizierungen, Nutzerinteraktionen oder nachgelagerte Kompromittierungen.
Dieselbe Vorsicht gilt für Demonstrationen von Prompt Injection. Ein Laborangriff beweist, dass ein Sicherheitsweg existiert, aber Produktionskontrollen können seine praktische Zuverlässigkeit verändern.
Umgekehrt beweist das Fehlen öffentlicher Vorfälle keine Sicherheit. Die Manipulation von KI-Agenten kann gewöhnlicher Nutzeraktivität ähneln, wodurch Vorfälle ohne detaillierte Protokolle schwer zu identifizieren sind.
Organisationen müssen nicht auf perfekte Messungen warten. Sie können damit beginnen, jeden Workflow abzubilden, der KI eingehende E-Mails verarbeiten oder Mailbox-Kontext abrufen lässt.
Teams sollten dokumentieren, was jeder Assistent lesen kann, welche Tools er aufrufen kann und welche Aktionen eine Genehmigung erfordern. Sie sollten außerdem Nachrichten mit verborgenem und außerhalb des sichtbaren Bereichs liegendem Inhalt testen.
Sicherheitsübungen sollten beide Angriffsrichtungen umfassen. Ein Test sollte harmlosen Fülltext verbergen, um die Klassifizierung zu umgehen. Ein weiterer sollte bösartige Anweisungen verbergen, die für den Assistenten bestimmt sind.
Entwickler sollten bewerten, ob das System Unsicherheit erklärt. Ein Assistent, der widersprüchliche oder verdeckte Anweisungen erkennt, sollte anhalten und die verdächtige Quelle benennen.
Nutzer sollten KI-generierten Warnungen in E-Mail-Zusammenfassungen weiterhin skeptisch begegnen. Eine professionell wirkende Warnung kann aus von Angreifern kontrollierten Inhalten stammen, selbst wenn die Oberfläche zu einem vertrauenswürdigen Anbieter gehört.
Bei informationsorientierten Workflows sollten Originalquellen verfügbar bleiben und folgenreiche Behauptungen vor dem Handeln geprüft werden. KI-Zusammenfassungen sollten die Prüfung beschleunigen, nicht den Herkunftsnachweis ersetzen.
Google News hat die Aufmerksamkeit erneut auf CSS-Angriffe in Webmail gelenkt, doch das dauerhafte Problem ist größer als eine einzelne Kampagne. E-Mails enthalten heute Inhalte für Menschen, Klassifikatoren, Retrieval-Systeme und autonome Tools.
Diese Zielgruppen nehmen nicht dieselbe Nachricht wahr. Solange Sicherheitssysteme diesen Unterschied nicht direkt modellieren, werden Angreifer weiterhin die Lücke zwischen dem, was Menschen sehen, und dem, was Maschinen lesen, ausnutzen.



