← Wróć do aktualności
The Register - Security5 sie 2026 · 2 min czytania

Check Point wykrywa powtarzające się luki bezpieczeństwa w frameworkach agentów AI

Badacze bezpieczeństwa z Check Point twierdzą, że główne ryzyko w wielu systemach agentów AI nie ogranicza się do prompt injection, lecz wynika ze sposobu, w jaki frameworki agentów przetwarzają treśc...

Badacze bezpieczeństwa z Check Point twierdzą, że główne ryzyko w wielu systemach agentów AI nie ogranicza się do prompt injection, lecz wynika ze sposobu, w jaki frameworki agentów przetwarzają treści, na które może wpływać atakujący. Ich ustalenia, zaprezentowane podczas Black Hat, obejmują 11 luk w kilku powszechnie używanych platformach programistycznych.

Trwający rok przegląd objął LangChain, LangGraph, CrewAI, AutoGen, Microsoft Agent Framework oraz Google Agent Development Kit (ADK). Według badaczy podatne produkty mogą umożliwiać przenikanie niezaufanego tekstu lub plików do zaufanych funkcji odpowiedzialnych za orkiestrację, pamięć, routing i zarządzanie stanem.

Yarden Porat i Shahar Tal stwierdzili, że luki dotyczyły głównie dobrze znanych problemów bezpieczeństwa, a nie nowych technik specyficznych dla AI. Zgłoszone kategorie obejmowały niebezpieczną deserializację, fałszowanie żądań po stronie serwera, przechodzenie ścieżek oraz błędy use-after-free. Ich obawy wynikają z faktu, że słabości te występują obecnie w oprogramowaniu, które może odczytywać dokumenty biznesowe, uzyskiwać dostęp do poświadczeń chmurowych lub modyfikować dane przedsiębiorstwa.

Luka w punktach kontrolnych umożliwiała wykonanie kodu

Jeden krytyczny problem w Microsoft Agent Framework dotyczył danych punktów kontrolnych. Punkty kontrolne zachowują postęp agenta i historię rozmowy, aby sesję można było później wznowić. Check Point poinformował, że atakujący mógł wykorzystać treść kontrolowaną za pomocą promptu do umieszczenia złośliwego ładunku w punkcie kontrolnym, który następnie mógł zostać aktywowany, gdy inna sesja przywróciła ten stan.

Microsoft potwierdził zgłoszenie, wypłacił nagrodę w wysokości 10 000 dolarów i udostępnił zabezpieczenia mające blokować zaprezentowaną ścieżkę ataku. Firma dodała również sformułowania wyjaśniające granicę bezpieczeństwa dla objętego problemem pliku punktu kontrolnego. Nie przydzielono identyfikatora CVE, ponieważ framework nie był powszechnie dostępny w momencie zgłoszenia problemu.

Ekspozycja Google ADK

Check Point zgłosił również słabość wbudowanego asystenta programistycznego Google ADK. Badacze stwierdzili, że nieuwierzytelniony interfejs HTTP mógł zostać wykorzystany do utworzenia i uruchomienia agenta zawierającego kod Python wykonywany podczas importu. Twierdzili, że w domyślnej implementacji Cloud Run wynikowy proces mógł uzyskać dostęp do kluczy środowiskowych oraz konta usługi Google Cloud kontenera.

Według Check Point Google początkowo zakwestionowało klasyfikację problemu, lecz później wypłaciło nagrodę w wysokości 3133,70 dolara i zastosowało częściową poprawkę. Badacze podali, że łączna kwota ich nagród wyniosła 17 133,70 dolara.

Szerszy wniosek Check Point jest taki, że organizacje powinny zakładać, iż próby prompt injection będą występować, i skoncentrować się na zapewnieniu, aby wstrzyknięte treści pozostawały niezaufanymi danymi, zamiast wpływać na logikę sterowania frameworka.

Udostępnij ten artykuł:TwitterLinkedIn