Microsoft twierdzi, że atakujący zaadaptowali technikę związaną z badaniami nad wstrzykiwaniem promptów do AI do wykorzystania w konwencjonalnych kampaniach phishingowych, wstawiając niewidoczne znaki Unicode do treści wiadomości e-mail, aby ominąć niektóre mechanizmy wykrywania oparte na analizie treści.
Firma poinformowała, że w tej aktywności wykorzystywano znaki tagów Unicode umieszczane wewnątrz terminów związanych z finansami. Znaki te zwykle nie są widoczne, gdy odbiorca wyświetla wiadomość, lecz mogą dzielić słowo na poziomie punktów kodowych. Na przykład wiadomość phishingowa może wizualnie wyświetlać termin taki jak „finansowanie”, jednocześnie zawierając niewidoczny znak między częściami słowa, co potencjalnie uniemożliwia prostemu dopasowaniu słowa kluczowego, sygnatury lub wyrażenia regularnego jego rozpoznanie.
Aktywność na dużą skalę
Badacze Microsoftu stwierdzili, że po raz pierwszy zaobserwowali tę sygnaturę na początku lutego. Wolumen wykryć wzrósł z około 21 000 wiadomości 8 lutego do ponad 1,3 miliona następnego dnia, a następnie osiągnął szczyt przekraczający 2,37 miliona wiadomości pod koniec lutego. Kampania pozostawała aktywna w dni robocze przez kilka miesięcy, po czym jej intensywność znacznie spadła po połowie maja, przy mniejszych falach utrzymujących się do połowy czerwca.
Większość wiadomości została podobno wysłana z około 150 domen o tematyce finansowej. Wśród wzorców zachowania zidentyfikowanych przez Microsoft znalazły się rozkład aktywności skoncentrowany na dniach roboczych oraz stopniowy spadek wolumenu.
Od badań nad bezpieczeństwem AI do nadużyć w e-mailach
Przemycanie ASCII ogólnie odnosi się do ukrywania treści w tekście za pomocą niewidocznych lub nierenderowanych znaków. W atakach związanych z AI takie znaki mogą ukrywać instrukcje, które mogą zostać przetworzone przez zautomatyzowanego asystenta, mimo że nie są widoczne dla człowieka. W opisanej przez Microsoft operacji phishingowej ukryte znaki zostały jednak użyte do fragmentowania terminów, a nie do osadzania promptów dla systemu AI.
Odkrycie to pokazuje, że metody początkowo omawiane w kontekście generatywnej AI mogą zostać wykorzystane ponownie na potrzeby utrwalonych zagrożeń, takich jak spam i phishing wymierzony w dane uwierzytelniające.
Środki ochronne
- Normalizuj tekst wiadomości e-mail przed zastosowaniem kontroli opartych na słowach kluczowych, sygnaturach i wyrażeniach regularnych.
- Usuwaj lub konsekwentnie normalizuj niewidoczne i nierenderowane punkty kodowe Unicode podczas analizy.
- Monitoruj nietypowe nagromadzenie znaków tagów Unicode w przychodzących wiadomościach e-mail.
- Koreluj anomalie tekstowe ze zmianami domen nadawców, przynętami finansowymi i powtarzającymi się wzorcami dostarczania wiadomości w dni robocze.
Microsoft zauważył, że silniejsza normalizacja tekstu może również ograniczyć ryzyko dla asystentów AI przetwarzających wiadomości e-mail lub inne niezaufane treści.
