Organizacje wykazują rosnące zainteresowanie możliwościami bezpieczeństwa ofensywnego, ponieważ obawy dotyczące zagrożeń wspieranych przez AI nadal rosną, wynika z rozmowy analityczki Omdia, Theresy Lanowitz, z zespołem redakcyjnym Dark Reading.
Rozmowa koncentrowała się na możliwym wykorzystaniu agentowej AI w testach penetracyjnych, ćwiczeniach red team oraz powiązanych działaniach weryfikujących bezpieczeństwo. Systemy agentowe mogłyby potencjalnie pomóc zautomatyzować część tych działań poprzez wykonywanie wieloetapowych zadań, ocenę ustaleń i dostosowywanie przebiegu testów na podstawie wyników.
Dla obrońców korzyść jest oczywista: zespoły bezpieczeństwa często mierzą się z ograniczeniami kadrowymi, rozszerzającą się powierzchnią ataku oraz potrzebą częstszego testowania zabezpieczeń. Testy ofensywne wspierane przez AI mogą pomóc zespołom szybciej identyfikować słabości, ustalać priorytety działań naprawczych i symulować zachowanie atakujących na większą skalę.
Te same możliwości wiążą się jednak z istotnym ryzykiem. Systemy zaprojektowane do autonomicznego badania sieci lub wykonywania działań testowych wymagają ścisłej autoryzacji, jasno określonych granic i silnego nadzoru. Bez takich mechanizmów zautomatyzowane narzędzia mogą zakłócić działanie środowisk produkcyjnych, uzyskać dostęp do informacji wrażliwych lub zostać wykorzystane niezgodnie z ich przeznaczeniem.
Równoważenie automatyzacji i nadzoru
Organizacje oceniające wykorzystanie agentowej AI do testów bezpieczeństwa powinny traktować ją jako wsparcie dla doświadczonych specjalistów, a nie zastępstwo dla ludzkiej oceny. Testy penetracyjne i działania red team wymagają starannego określenia zakresu, zasad prowadzenia działań oraz rozliczalności za czynności podjęte podczas oceny.
- Określ autoryzowane cele, okna testowe i działania zabronione.
- Wymagaj weryfikacji przez człowieka dla działań i ustaleń o dużym wpływie.
- Prowadź rejestry aktywności narzędzi, promptów, decyzji i wyników.
- Chroń poświadczenia, dane klientów i inne informacje wrażliwe wykorzystywane podczas testów.
- Weryfikuj ustalenia wygenerowane przez AI przed przekazaniem ich dalej jako potwierdzonych podatności.
W miarę jak AI staje się coraz bardziej zaawansowana, zarówno atakujący, jak i obrońcy prawdopodobnie będą włączać ją do swoich procesów pracy. Głównym wyzwaniem dla liderów bezpieczeństwa będzie wdrażanie automatyzacji w sposób zwiększający zakres i szybkość testów bez osłabiania zabezpieczeń operacyjnych ani ładu zarządczego.
