Sztuczna inteligencja staje się powszechnym narzędziem w cyberbezpieczeństwie, pomagając zespołom przetwarzać duże zbiory danych, automatyzować rutynowe zadania i przyspieszać dochodzenia. Jednak komentator branżowy twierdzi, że nadmierne poleganie na AI może osłabić niektóre ludzkie kompetencje, których organizacje odpowiedzialne za bezpieczeństwo potrzebują podczas nietypowych lub wymagających szybkiej reakcji incydentów.
Obawy koncentrują się na różnicy między wykorzystywaniem AI jako wsparcia a traktowaniem jej jako substytutu profesjonalnej oceny sytuacji. W artykule autor opisuje interakcję, w której potencjalny prelegent wydarzenia poprosił o gotowe materiały prezentacyjne, zamiast zasięgnąć porady, jak je opracować. Ta wymiana skłoniła do szerszego pytania: czy specjaliści zaczynają podchodzić do współpracowników i złożonej pracy w taki sam transakcyjny sposób, w jaki korzystają z poleceń dla generatywnej AI.
Umiejętności zagrożone osłabieniem
Autor wskazuje kilka obszarów, które mogą ucierpieć, jeśli AI będzie stosowana zbyt szeroko w pracy związanej z bezpieczeństwem:
- Kreatywność: Analitycy i badacze często dostrzegają nietypowe wzorce lub opracowują niekonwencjonalne podejścia, którym zautomatyzowane systemy mogą nie nadawać priorytetu.
- Krytyczne myślenie: Nowe incydenty mogą nie mieć historycznych przykładów ani ustalonych procedur reagowania, co wymaga od zespołów rozumowania na podstawie niepełnych dowodów.
- Komunikacja: Zespoły bezpieczeństwa polegają na zwięzłym i precyzyjnym przekazie podczas incydentów. Nadmierne używanie generowanego tekstu może prowadzić do niejasnej lub powtarzalnej komunikacji.
- Relacje międzyludzkie: Humor, empatia i szczerość mogą pomóc liderom bezpieczeństwa przekazywać trudne informacje, uzyskiwać współpracę i budować zaufanie w całej organizacji.
- Wyróżniający się przekaz: Materiały marketingowe i konferencyjne generowane przez AI mogą prowadzić do stosowania podobnego języka przez różnych dostawców, utrudniając organizacjom jasne komunikowanie własnego stanowiska.
Wyznaczanie granic
Argument nie polega na twierdzeniu, że AI nie ma wartości w cyberbezpieczeństwie. Automatyzacja może zwiększać produktywność i pomagać obrońcom radzić sobie z rosnącą liczbą alertów oraz informacji, podczas gdy atakujący również wykorzystują AI, aby zwiększać tempo swoich działań. Autor apeluje natomiast o świadome wyznaczanie granic dla zadań, które powinny pozostać prowadzone przez ludzi.
Przykłady mogą obejmować formułowanie hipotez dotyczących incydentów, podejmowanie decyzji o wysokiej wadze ryzyka, opracowywanie oryginalnych strategii bezpieczeństwa oraz komunikację z dotkniętymi problemem interesariuszami. Organizacje nadal mogą wykorzystywać AI do wsparcia, na przykład do podsumowywania informacji lub obsługi powtarzalnych procesów, jednocześnie wymagając od analityków i liderów weryfikowania wyników oraz zachowania odpowiedzialności za wnioski.
Główny przekaz jest taki, że zespoły bezpieczeństwa powinny wdrażać AI, nie pozwalając jednak, by wygoda osłabiła ciekawość, zdolność oceny sytuacji i umiejętności komunikacyjne potrzebne wtedy, gdy technologia nie potrafi dostarczyć gotowej odpowiedzi.
