Brytyjskie Narodowe Centrum Cyberbezpieczeństwa stwierdziło, że sztuczna inteligencja może stać się istotnym elementem przyszłej cyberobrony, ale tylko jeśli organizacje będą wdrażać ją ostrożnie i utrzymają podstawowe środki bezpieczeństwa.
W niedawnym wpisie na blogu NCSC podało, że AI może pomóc zespołom obronnym usprawnić wykrywanie zagrożeń, identyfikować podatności w sieciach i oprogramowaniu, automatyzować część operacji bezpieczeństwa oraz przyspieszać reagowanie na incydenty. Agencja określiła te obszary jako obiecujące, jednocześnie ostrzegając, że praktyczne wdrażanie będzie prawdopodobnie stopniowe, a nie natychmiastowe.
Według NCSC zaawansowane systemy AI mogą czasami dobrze wykonywać określone zadania związane z bezpieczeństwem, ale mogą też działać niespójnie, być trudne do testowania i trudne do bezpiecznego zintegrowania z istniejącymi środowiskami. Organizacja stwierdziła, że oznacza to, iż wdrożenie będzie wymagało nowych możliwości, jasnego nadzoru i czasu na osiągnięcie dojrzałości.
Peter Haigh, zastępca dyrektora ds. technologii w NCSC, przekonywał, że aby wspierać wykorzystanie AI w działaniach obronnych, potrzebna będzie współpraca między sektorem prywatnym, rządem i środowiskiem akademickim. Przesłanie to jest zgodne z wypowiedziami ministra bezpieczeństwa Dana Jarvisa, który również podkreślił potrzebę współpracy nad cyberobroną wspieraną przez AI podczas CYBERUK 2026.
Kluczowe ryzyka wymagające zarządzania
NCSC wskazało kilka kwestii, którymi zespoły obronne będą musiały się zająć przed szerszym wykorzystaniem narzędzi AI:
- zatwierdzanie nowych wdrożeń i zarządzanie ryzykiem
- wymogi prawne, polityki oraz nadzór człowieka
- projektowanie systemów bezpiecznych domyślnie i stosowanie piaskownic
- bezpieczna integracja z istniejącymi narzędziami i procesami pracy
- ochrona danych, własności intelektualnej i informacji wrażliwych
- nadzór nad dostawcami i innymi elementami łańcucha dostaw
- testowanie w celu potwierdzenia, że wyniki są dokładne i przydatne
- ostrożne postępowanie z rekomendacjami generowanymi przez AI i zautomatyzowanymi reakcjami
Agencja stwierdziła, że AI może lepiej wykrywać problemy z bezpieczeństwem niż samodzielnie podejmować bezpieczne działania naprawcze. Z tego powodu dodała, że organizacje nie powinny postrzegać AI jako zamiennika dobrych praktyk higieny cybernetycznej.
Zamiast tego NCSC podkreśliło, że podstawowe praktyki bezpieczeństwa, takie jak instalowanie poprawek, bezpieczna konfiguracja, kontrola dostępu i monitorowanie, pozostają bezpośrednim priorytetem, nawet jeśli trwają prace nad bardziej zaawansowanymi mechanizmami obrony opartymi na AI.
