Badacze twierdzą, że zidentyfikowali technikę ataku na łańcuch dostaw w repozytorium GitHub zestawu Agent Development Kit (ADK) firmy Google dla Pythona, w której agent AI o niższych uprawnieniach mógł zostać zmanipulowany do aktywowania bardziej zaawansowanego agenta.
Problem wykryto w google/adk-python, zestawie narzędzi open source, który według doniesień pobrano ponad 90 milionów razy. Badacz firmy Pillar Security, Dan Lisichkin, opisał to odkrycie jako przykład wykorzystania „agent-to-agent” — klasy ataków, która pojawiła się wraz z coraz częstszym wykorzystywaniem przez organizacje systemów AI w procesach tworzenia oprogramowania i CI/CD.
Jak działał atak
Repozytorium korzystało z dwóch zautomatyzowanych agentów o różnych rolach. Agent dostępny publicznie obsługiwał pull requesty i zgłoszenia, natomiast agent przeznaczony wyłącznie dla opiekunów projektu miał dostęp do bardziej wrażliwych działań. Według firmy Pillar przepływy pracy i uprawnienia tych systemów stworzyły niezamierzoną relację zaufania.
Atakujący mógł najpierw przesłać pozornie prawidłowy pull request zawierający złośliwą zmianę, na przykład zmodyfikowaną zależność. Po przetworzeniu tego wkładu przez publicznego agenta atakujący mógł przesłać kolejny pull request zawierający instrukcje mające zmanipulować agenta poprzez prompt injection. Powstałe w ten sposób dane wyjściowe mogły następnie uruchomić przekazanie zadania uprzywilejowanemu agentowi, który mógł wykonać działanie w imieniu atakującego.
Przeprowadzenie pełnego ataku prawdopodobnie wymagałoby od atakującego zdobycia wiarygodności dzięki wcześniejszym wkładom. Nie prowadziłoby też automatycznie do scalenia złośliwego pull requestu: opiekun projektu nadal musiałby zatwierdzić lub scalić zmianę. Mimo to badacze stwierdzili, że taka sekwencja mogłaby stworzyć mylący zapis sugerujący, że człowiek poprosił o przegląd, a agent AI go zatwierdził.
Odpowiedź Google
Google naprawił podstawowy problem w repozytorium i przypisał zasługę za zgłoszenie, lecz stwierdził, że nie kwalifikowało się ono do wypłaty w ramach programu bug bounty, ponieważ jego wykorzystanie zależało od socjotechniki i nadal wymagało działania opiekuna projektu. Firma poinformowała, że ujawniony token mógł modyfikować pull requesty, ale nie mógł samodzielnie ich scalać.
Lisichkin powiedział, że incydent pokazuje, iż rozdzielanie agentów według funkcji nie jest wystarczające. Zalecił nadanie każdemu agentowi odrębnej tożsamości oraz wyraźne ograniczenie zasobów i interakcji dostępnych dla niego. Dodał, że zespoły bezpieczeństwa powinny uwzględniać tożsamość agentów, ich uprawnienia i potencjalny zasięg szkód w modelach zagrożeń dla systemów tworzenia oprogramowania wspieranych przez AI.
