Brytyjskie Narodowe Centrum Cyberbezpieczeństwa wydało wytyczne dla organizacji rozważających wykorzystanie modeli sztucznej inteligencji do identyfikowania słabości oprogramowania. Przekaz jest prosty: AI może wspierać działania związane z bezpieczeństwem, ale może też wprowadzać nowe ryzyka, jeśli zostanie wdrożona bez jasnego planu.
NCSC ostrzega, że skanowanie kodu za pomocą narzędzia AI nie jest równoznaczne z poprawą bezpieczeństwa. Organizacje nadal potrzebują skutecznego zarządzania podatnościami, dyscypliny w zakresie wdrażania poprawek oraz jasnego zrozumienia swoich systemów. W wielu przypadkach podstawowa higiena cyberbezpieczeństwa skuteczniej ograniczy ryzyko niż poszukiwanie dużej liczby nowo odkrytych problemów.
Pytania, które należy zadać przed wdrożeniem AI
Wytyczne zachęcają zespoły ds. bezpieczeństwa do przeanalizowania kilku praktycznych pytań przed przyznaniem systemom AI dostępu do kodu, dokumentacji lub środowisk produkcyjnych.
- Jaki cel biznesowy organizacja próbuje osiągnąć?
- Czy AI jest najlepszym sposobem na poprawę bezpieczeństwa, czy też wysiłki należy najpierw skierować na podstawową higienę?
- Czy istnieje proces przyjmowania zgłoszeń, ustalania priorytetów i usuwania podatności?
- Jak będą klasyfikowane wyniki, aby w pierwszej kolejności rozwiązywać problemy najłatwiejsze do wykorzystania?
- Jakie są ryzyka związane z ujawnieniem informacji wrażliwych lub przyznaniem modelowi nadmiernych uprawnień?
Centrum zaleca również, aby organizacje dokonały przeglądu wybranego modelu, w tym miejsca jego hostowania, mającej zastosowanie jurysdykcji prawnej oraz zasad retencji danych, które mogą wiązać się z usługą. Rekomenduje rozpoczęcie od zewnętrznej powierzchni ataku i weryfikowanie ustaleń przez ludzi, zamiast polegać wyłącznie na AI.
Planowanie długoterminowe
NCSC wskazuje, że organizacje powinny także wykraczać myślą poza pojedynczy projekt. Zaawansowane systemy AI rozwijają się szybko, a zespoły ds. bezpieczeństwa będą potrzebować zrównoważonego planu oceny nowych modeli, obsługi aktualizacji i reagowania na podatności w produktach oraz usługach, od których są zależne.
Dodaje, że AI najlepiej traktować jako narzędzie mogące przyspieszyć pracę wykwalifikowanych specjalistów, a nie zastąpić doświadczonych praktyków. Organizacje łączące automatyzację z solidnym zarządzaniem aktywami, wdrażaniem poprawek i wiedzą ekspercką w zakresie bezpieczeństwa mają większe szanse na osiągnięcie realnych korzyści.
