← Wróć do aktualności
NCSC (UK)18 cze 2026 · 2 min czytania

NCSC zaleca oparte na ryzyku podejście do wspomaganego przez AI tworzenia oprogramowania

Brytyjskie Narodowe Centrum Cyberbezpieczeństwa opublikowało wytyczne zachęcające programistów do traktowania wspomaganego przez AI pisania oprogramowania jako kontinuum, a nie wyboru „wszystko albo n...

Brytyjskie Narodowe Centrum Cyberbezpieczeństwa opublikowało wytyczne zachęcające programistów do traktowania wspomaganego przez AI pisania oprogramowania jako kontinuum, a nie wyboru „wszystko albo nic”. Agencja twierdzi, że tak zwane „vibe coding” może być przydatne, jednak poziom autonomii AI powinien zależeć od wrażliwości tworzonego systemu.

Narzędzia AI są obecnie powszechnie wykorzystywane do generowania kodu na podstawie ogólnych poleceń, a użytkownicy często iteracyjnie poprawiają wyniki zamiast pisać każdą linię samodzielnie. NCSC twierdzi, że może to przyspieszyć rozwój oprogramowania, ale rodzi również obawy dotyczące luk bezpieczeństwa, niejasnej architektury i długoterminowej łatwości utrzymania. Ponieważ systemy AI są szkolone na dużych zbiorach istniejącego kodu, mogą powielać niebezpieczne wzorce, jeśli programiści korzystają z nich bez wystarczającej kontroli.

Różne systemy wiążą się z różnym ryzykiem

Według NCSC kluczowe pytanie nie brzmi, czy należy korzystać z AI, lecz gdzie jest ona używana i jak duży nadzór jest stosowany. Prace o niskim ryzyku, takie jak demonstracje proof of concept, narzędzia wewnętrzne lub makiety, mogą być odpowiednie dla większego udziału AI. Natomiast kod obsługujący uwierzytelnianie, wrażliwe dane osobowe, poświadczenia lub funkcje krytyczne dla bezpieczeństwa wymaga silniejszych mechanizmów kontroli.

Agencja opisuje to jako „spektrum vibe codingu”. Na jednym końcu znajduje się tradycyjne tworzenie oprogramowania prowadzone przez ludzi, w którym AI pomaga poprzez automatyczne uzupełnianie i niewielkie sugestie. Na drugim znajduje się pełna autonomia, gdzie system AI projektuje, pisze i iteracyjnie rozwija kod przy minimalnej ingerencji człowieka. Pomiędzy tymi skrajnościami istnieje wiele podejść hybrydowych, w tym funkcje generowane przez AI, architektura tworzona przez ludzi oraz przepływy pracy oparte na testach, w których programiści definiują testy, a model tworzy implementację.

Nadzór pozostaje niezbędny

NCSC stwierdziło, że używanie AI do tworzenia ważnego oprogramowania nie musi być wykluczone, ale wymaga starannego nadzoru. Programiści powinni przeglądać wygenerowany kod, rozumieć jego działanie, testować go pod kątem podatności oraz potwierdzać, że zachowuje się zgodnie z założeniami. Szerszy system powinien być również zaprojektowany tak, aby ograniczać skutki ewentualnego naruszenia bezpieczeństwa.

W przypadku projektów o wyższym ryzyku NCSC wskazuje na podstawowe wymagania dotyczące cyberbezpieczeństwa opracowane z międzynarodowymi partnerami w ramach Komitetu Technicznego ETSI ds. Zabezpieczania AI. Wytyczne pojawiają się w czasie, gdy narzędzia AI do programowania nadal szybko się rozwijają, skłaniając organizacje do ponownego przemyślenia, jak duże zaufanie pokładają w zautomatyzowanych procesach tworzenia oprogramowania.

  • Projekty niskiego ryzyka mogą tolerować większą autonomię AI.
  • Systemy wrażliwe pod względem bezpieczeństwa wymagają większej kontroli ze strony ludzi.
  • Właściwa równowaga zależy od kontekstu, a nie od sztywnej reguły.
Udostępnij ten artykuł:TwitterLinkedIn