Microsoft zufolge haben Angreifer eine mit der Forschung zu KI-Prompt-Injection verbundene Technik für herkömmliche Phishing-Kampagnen angepasst und unsichtbare Unicode-Zeichen in E-Mail-Texte eingefügt, um einige inhaltsbasierte Erkennungen zu umgehen.
Das Unternehmen berichtete, dass bei der Aktivität Unicode-Tag-Zeichen innerhalb finanzbezogener Begriffe eingesetzt wurden. Diese Zeichen werden normalerweise nicht angezeigt, wenn ein Empfänger die Nachricht betrachtet, können ein Wort jedoch auf Codepoint-Ebene aufteilen. So könnte eine Phishing-E-Mail beispielsweise visuell einen Begriff wie „Finanzierung“ anzeigen, während zwischen Teilen des Wortes ein unsichtbares Zeichen enthalten ist. Dadurch könnten einfache Schlüsselwort-, Signatur- oder reguläre Ausdrucksabgleiche das Wort möglicherweise nicht erkennen.
Aktivität mit hohem Volumen
Microsoft-Forscher erklärten, sie hätten die Signatur erstmals Anfang Februar beobachtet. Das Erkennungsvolumen stieg von rund 21.000 Nachrichten am 8. Februar auf mehr als 1,3 Millionen am folgenden Tag und erreichte Ende Februar später einen Höchststand von mehr als 2,37 Millionen Nachrichten. Die Kampagne blieb über mehrere Monate hinweg an Werktagen aktiv, bevor sie nach Mitte Mai deutlich zurückging; kleinere Schübe setzten sich bis Mitte Juni fort.
Die meisten Nachrichten wurden Berichten zufolge von etwa 150 finanzbezogenen Domains versendet. Die auf Werktage konzentrierte Verteilung und die schrittweise Verringerung des Volumens gehörten zu den von Microsoft identifizierten Verhaltensmustern.
Von KI-Sicherheitsforschung zu E-Mail-Missbrauch
ASCII Smuggling bezeichnet im Allgemeinen das Verbergen von Inhalten in Text mithilfe unsichtbarer oder nicht darstellbarer Zeichen. Bei KI-bezogenen Angriffen können solche Zeichen Anweisungen verbergen, die von einem automatisierten Assistenten verarbeitet werden könnten, obwohl sie für menschliche Leser nicht sichtbar sind. In der von Microsoft beschriebenen Phishing-Operation wurden die versteckten Zeichen jedoch dazu verwendet, Begriffe zu fragmentieren, und nicht, um Prompts für ein KI-System einzubetten.
Die Erkenntnis verdeutlicht, dass Methoden, die zunächst im Kontext generativer KI diskutiert wurden, für etablierte Bedrohungen wie Spam und Phishing zum Diebstahl von Zugangsdaten umfunktioniert werden können.
Abwehrmaßnahmen
- E-Mail-Text normalisieren, bevor Prüfungen auf Basis von Schlüsselwörtern, Signaturen und regulären Ausdrücken angewendet werden.
- Unsichtbare und nicht darstellbare Unicode-Codepoints während der Analyse entfernen oder konsistent zusammenführen.
- Auf ungewöhnliche Häufungen von Unicode-Tag-Zeichen in eingehenden E-Mails überwachen.
- Textanomalien mit wechselnden Absenderdomains, finanzbezogenen Ködern und wiederkehrenden Zustellmustern an Werktagen korrelieren.
Microsoft merkte an, dass eine stärkere Textnormalisierung auch Risiken für KI-Assistenten verringern kann, die E-Mails oder andere nicht vertrauenswürdige Inhalte verarbeiten.
