Podatność w AWS Bedrock AgentCore, która została już załatana, mogła umożliwić atakującemu przejęcie szerszego zestawu połączonych z chmurą agentów AI za pomocą jednego złośliwego promptu, zgodnie z raportem opisującym ten problem.
Luka, określana jako „AgentCorruption”, uwypukla obawy dotyczące bezpieczeństwa systemów AI, które mogą wykonywać działania w imieniu użytkowników lub organizacji. Zamiast ograniczać chatbota AI do odpowiadania na pytania, systemy agentowe mogą być połączone z narzędziami, źródłami danych, interfejsami API i usługami chmurowymi. Możliwości te mogą tworzyć dodatkowe ryzyko, jeśli atakujący zdoła wpłynąć na instrukcje lub zachowanie agenta.
Potencjalny wpływ
W opisanym scenariuszu skuteczny atak mógł pozwolić jednemu skompromitowanemu chatbotowi AI wpłynąć na szerszą flotę agentów w organizacji. Dostępny opis nie przedstawia szczegółowej ścieżki technicznej, konfiguracji objętych problemem ani informacji, czy luka została wykorzystana w rzeczywistych atakach.
Mimo to odkrycie podkreśla kluczowe wyzwanie dla organizacji wdrażających agentów AI w środowiskach chmurowych: prompt nie powinien być traktowany jako zaufana instrukcja wyłącznie dlatego, że trafia do autoryzowanego systemu. Dane wejściowe od użytkowników, z dokumentów, stron internetowych, połączonych aplikacji i innych agentów mogą zawierać niezaufaną treść.
Aspekty obrony
- Zastosuj aktualizacje zabezpieczeń AWS i sprawdź wdrożenia Bedrock AgentCore pod kątem aktualnego statusu poprawek.
- Ogranicz uprawnienia agentów za pomocą kontroli dostępu opartej na zasadzie najmniejszych uprawnień oraz stosuj odrębne tożsamości dla różnych obciążeń.
- Wymagaj walidacji i zatwierdzenia w przypadku wrażliwych działań, szczególnie tych obejmujących poświadczenia, zmiany infrastruktury lub dostęp do danych organizacyjnych.
- Monitoruj aktywność agentów, wywołania narzędzi i nietypowe zachowania między agentami pod kątem oznak nadużyć.
- Przed wdrożeniem produkcyjnym testuj przepływy pracy AI pod kątem ryzyka wstrzykiwania promptów i pośrednich instrukcji.
Organizacje korzystające z agentów AI opartych na chmurze powinny również utrzymywać wyraźne granice między interfejsami konwersacyjnymi a uprzywilejowanymi systemami operacyjnymi. Ograniczenie dostępnych agentowi narzędzi oraz zapewnienie, że działania o dużym wpływie wymagają niezależnej weryfikacji, może zmniejszyć skutki skutecznego ataku opartego na prompcie.
