Pentera Labs twierdzi, że jej zespół red team zdołał przekształcić Claude Desktop firmy Anthropic w nieświadomego uczestnika włamania, wykorzystując przejęte konto e-mail i mechanizm synchronizacji aplikacji do nakierowania AI na złośliwe działania. Firma podała, że eksperyment pokazuje, w jaki sposób zaufani asystenci AI mogą zostać zmanipulowani tak, aby pomagać atakującemu, zamiast chronić użytkownika.
Według badaczy łańcuch ataku rozpoczął się od dostępu do zewnętrznej platformy agregującej pocztę e-mail. Stamtąd wykorzystali przejętą skrzynkę odbiorczą, aby uzyskać dostęp do konta Claude ofiary. Nie ujawniono metody przejęcia skrzynki, lecz badacze stwierdzili, że to samo podejście mogłoby działać za pośrednictwem phishingu, socjotechniki, nadużycia mechanizmów resetowania haseł lub innych form przejęcia konta.
Jak działało nadużycie
Pentera podała, że skupiła się na Claude Desktop, ponieważ aplikacja synchronizuje ustawienia konta między urządzeniami i sesjami. Zespół umieścił zakodowany w base64 prompt w ustawieniach personalizacji ofiary, które są współdzielone na całym koncie. Gdy użytkownik później otworzył Claude Desktop, ukryte instrukcje zostały automatycznie załadowane i działały w tle podczas zwykłych interakcji na czacie.
Jeśli na urządzeniu było już zainstalowane rozszerzenie lub konektor umożliwiający wykonywanie poleceń, wstrzyknięte instrukcje mogły nakazać Claude'owi użycie go do uruchomienia poleceń kontrolowanych przez atakującego. W takim scenariuszu, jak podała Pentera, skutkiem mogłoby być zdalne wykonanie kodu i pełne przejęcie stacji roboczej.
Jeżeli nie było takiego narzędzia, badacze stwierdzili, że Claude wciąż mógł zostać wykorzystany jako warstwa dostarczania phishingu. Prompt powodował, że asystent wyświetlał realistycznie wyglądający komunikat o błędzie, wraz z kodem i linkiem, który pozornie oferował rozwiązanie problemu. Ponieważ użytkownicy mają tendencję do ufania swojemu asystentowi AI, badacze uznali, że mogą być bardziej skłonni postępować zgodnie z instrukcjami i zainstalować złośliwe oprogramowanie.
Po uzyskaniu możliwości wykonania kodu model mógł, według Pentery, zostać użyty do pobierania poleceń z serwera kontrolowanego przez atakującego, tworząc trwały kanał do dalszych działań, takich jak kradzież danych, pozyskiwanie poświadczeń lub dostarczanie dodatkowych ładunków.
Badacze podali, że test zakończył się przejęciem stacji roboczej dewelopera mającej dostęp do systemów wewnętrznych, co umożliwiło dalsze przemieszczanie się w środowisku. Argumentowali, że ćwiczenie pokazuje, iż narzędzia agentowej AI z możliwością lokalnego wykonywania poleceń mogą stać się powierzchnią ataku, jeśli ich model zaufania zostanie nadużyty.
Badacze Pentery stwierdzili, że doświadczenie to skłoniło ich do ponownego sprawdzenia własnych środowisk, podkreślając, że asystentów AI należy traktować z taką samą ostrożnością jak każde inne uprzywilejowane oprogramowanie na urządzeniu końcowym.
