Microsoft afferma che gli aggressori hanno adattato una tecnica associata alla ricerca sull'iniezione di prompt nell'IA per utilizzarla nelle campagne di phishing convenzionali, inserendo caratteri Unicode invisibili nel testo delle email per eludere alcune rilevazioni basate sul contenuto.
L'azienda ha riferito che l'attività utilizzava caratteri tag Unicode inseriti all'interno di termini a tema finanziario. Normalmente, tali caratteri non compaiono quando il destinatario visualizza il messaggio, ma possono dividere una parola a livello di punto di codice. Ad esempio, un'email di phishing potrebbe mostrare visivamente un termine come “funding” includendo però un carattere invisibile tra parti della parola, impedendo potenzialmente a una semplice corrispondenza di parole chiave, firme o espressioni regolari di riconoscerlo.
Attività ad alto volume
I ricercatori Microsoft hanno dichiarato di aver osservato per la prima volta la firma all'inizio di febbraio. Il volume delle rilevazioni è aumentato da circa 21.000 messaggi l'8 febbraio a oltre 1,3 milioni il giorno successivo, raggiungendo in seguito un picco di oltre 2,37 milioni di messaggi verso la fine di febbraio. La campagna è rimasta attiva nei giorni feriali per diversi mesi, prima di diminuire significativamente dopo metà maggio, con picchi minori proseguiti fino a metà giugno.
Secondo quanto riportato, la maggior parte dei messaggi è stata inviata da circa 150 domini a tema finanziario. La distribuzione concentrata nei giorni feriali e la graduale riduzione del volume erano tra i modelli comportamentali identificati da Microsoft.
Dalla ricerca sulla sicurezza dell'IA all'abuso delle email
In generale, l'ASCII smuggling si riferisce all'occultamento di contenuti nel testo mediante caratteri invisibili o non visualizzati. Negli attacchi legati all'IA, tali caratteri possono nascondere istruzioni che potrebbero essere elaborate da un assistente automatizzato anche se non sono visibili a un lettore umano. Nell'operazione di phishing descritta da Microsoft, tuttavia, i caratteri nascosti sono stati utilizzati per frammentare termini anziché per incorporare prompt destinati a un sistema di IA.
La scoperta dimostra che metodi inizialmente discussi nel contesto dell'IA generativa possono essere riutilizzati per minacce consolidate, quali spam e phishing per il furto di credenziali.
Misure difensive
- Normalizzare il testo delle email prima di applicare controlli basati su parole chiave, firme ed espressioni regolari.
- Rimuovere o normalizzare in modo coerente i punti di codice Unicode invisibili e non visualizzati durante l'analisi.
- Monitorare concentrazioni insolite di caratteri tag Unicode nelle email in entrata.
- Correlare le anomalie testuali con la rotazione dei domini mittenti, esche finanziarie e modelli ricorrenti di consegna nei giorni feriali.
Microsoft ha osservato che una normalizzazione più robusta del testo può ridurre i rischi anche per gli assistenti di IA che elaborano email o altri contenuti non attendibili.
